Tres miradas a la Magnifica Humanitas La IA no es una técnica II
La tecnología no es neutral. Esta afirmación del papa León XIV podría parecer controvertida. Se supone, desde cierta forma de pensar, que lo científico y lo tecnológico no deben entrañar valores. Los números no sienten. La ingeniería de un puente no dice nada al corazón. Una célula o un gas no es experimentado por los afectos. Son lo que son, conforme a sus componentes fisicoquímicos y a sus propiedades. Esa fue la ilusión del positivismo ilustrado que nos predicó desde mediados del siglo XIX: creer que el progreso ilimitado vendría de unas ciencias puramente objetivas, liberadas de toda consideración acerca del bien, del mal o de los fines de la existencia humana.
Para el papa Prevost, esto es un error que no implica negar el estatuto de las ciencias ni todo progreso: la tecnología contribuye a curar, conectar y educar. Pero no es un mero conjunto de instrumentos. En sí misma está cargada de una determinada concepción de la realidad que, en ciertos casos, socava el florecimiento del ser humano, lo manipula, lo reemplaza. Y lo notable es que este fenómeno ya no puede comprenderse desde la concepción clásica —de Aristóteles a Tomás de Aquino— según la cual la técnica es un mero instrumento al servicio de fines humanos. Se trata de un giro que el filósofo alemán Martin Heidegger entrevió a mediados del siglo pasado. El peligro de la técnica moderna, sostenía, no es ante todo práctico sino ontológico: nos acostumbra a ver todo —incluido el ser humano— como un recurso disponible, algo que puede ser calculado, organizado, optimizado y utilizado. Para comprender este cambio, permítaseme volver a la noción clásica de la técnica, aquella que dominó el pensamiento occidental.
La técnica, para los clásicos —aunque discutida a veces, hasta bien entrado el siglo XX— era la nieta de la filosofía. La ciencia, o las ciencias, eran sus hijas. Filosofía, ciencia y tecnología formaban parte del árbol vital de la realidad. Y esa realidad era lo que era: inteligible y comprensible por sus causas. Así, una casa se componía de materia —la madera—, forma —la vivienda—, causa eficiente —el constructor— y fin —habitarla—. La tecnología, martillos o guinches, facilitaba la construcción. La nieta ayudaba al cálculo del constructor o al deseo de belleza del dueño.
Poco a poco ese instrumento, la tecnología, se fue apropiando de todo. Ya no interesa tanto para qué hacer algo, sino cómo hacerlo, ni quién lo hace. El cálculo y la eficiencia se apropian lentamente del deseo del dueño y del talento artístico del constructor. En este punto puede comprenderse mejor la advertencia del papa León XIV. El problema no reside únicamente en los riesgos de un mal uso. La cuestión es más dramática: las herramientas terminan por convertirse en lo único que importa y acaban dirigiendo todo el proceso.
Y ahí se inicia la deshumanización. Heidegger lo advirtió en 1954: lo más peligroso de la técnica moderna no son sus artefactos, sino la forma de ver el mundo que instala en nosotros. La esencia de la técnica no es nada técnico. Es su visión de las cosas. Ya no existe lo meramente instrumental —lo mismo que la encíclica diría de la IA— sino un modo de desvelar el mundo que reduce todo ente a recurso disponible. Todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones. (MH 104) ¿Resultado? El ser humano acaba subordinando su dignidad a la lógica de eficiencia impuesta por los algoritmos.
¿Y por qué esto es peligroso? Por varias razones. El ser humano no solamente es manipulado, sino que lo que siente o piensa es algo proyectado por algo anterior. Hay una —diría Heidegger— ontología anterior: anónima. Por supuesto, esto entraña además una autocrítica. La inteligencia artificial no crea la soledad contemporánea; la encuentra. Encuentra una sociedad que ha perdido parte de su rostro humano y se ofrece como remedio. Llega con voz amable. Un amor robótico que aspira a reemplazar al eros o al ágape.
Frente a esto, la tradición cristiana, y la encíclica lo subraya: la noción de imago Dei. No es casual que uno de los autores más influyentes de nuestro tiempo, el historiador Yuval Noah Harari, sostenga que la dignidad humana es, en último término, una narració,, un relato. Nos lo contamos. Para la tradición cristiana, es una realidad inscrita en la estructura misma del ser humano. Si la posición de Harari s correcta, los derechos humanos pueden ser cambiados con la narrativa dominante. Si la visión Cristian es la verdadera – como creo que es – , existen límites que ninguna mayoría, ningún algoritmo y ningún poder tecnológico pueden violar.
El ser humano no es algo sino alguien cuyo valor no radica en su utilidad, sino en su origen y su destino trascendente. Y para que esto sea consciente, debe construir la ciudad de Dios y no torres de Babel, en la tradición agustina del Papa. ¿Cómo sería esto? Lo veremos en la última entrega