A fines de junio de 2026, en el Festival de Ideas de Aspen, Peter Thiel, fundador de Palantir, una compañía dedicada al análisis de datos que tiene como principales clientes a las agencias de defensa e inteligencia del gobierno norteamericano (Departamento de Defensa, CIA, ICE, entre otros), acusó al Papa León XIV de trabajar de forma no intencional “para los comunistas chinos”, por haber pedido una regulación de global la Inteligencia Artificial (IA). Ello, dijo Thiel, permitiría a China obtener ventajas en la carrera por el control de esta tecnología.
La acusación, que vincula la regulación de la tecnología con la competencia geopolítica, no es extemporánea: forma parte de un debate más amplio, acerca del rol que la IA (y la tecnología en general) debe jugar en las sociedades contemporáneas, debate en el cual la Iglesia Católica se ha pronunciado a través de Magnifica Humanitas (MH), la encíclica de León XIV sobre la custodia de la persona humana en el tiempo de la IA, presentada el 25 de mayo de este año.
En las líneas que siguen, ofrecemos abordar de manera somera algunos aspectos centrales de la mirada del Papa acerca de la IA y de su impacto en la política internacional.
Tecnología y sentido.
La acusación de Thiel es injusta, pero no inesperada. Al igual que sus antecesores, Robert Prevost no es precisamente un simpatizante del Partido Comunista Chino. Pero sí es un crítico, sobre la base de la Doctrina Social de la Iglesia, de algunos aspectos centrales del capitalismo contemporáneo. Uno de ellos es la glorificación del progreso tecnológico, sin reparar en sus implicancias desde el punto de vista ético. En la era del aceleracionismo, León XIV señala que no todo lo que es factible a nivel tecnológico es moralmente aceptable; no todo lo que es posible es bueno.
En un gesto contracultural, Magnifica Humanitas nos recuerda que la pregunta por el sentido (por el bien y el mal) no está demodé, sino que ocupa (y debe ocupar) un lugar privilegiado en el debate público. Como toda tecnología, desde la energía nuclear hasta la manipulación genética, la IA no escapa a esa lógica. La referencia del Papa a la historia bíblica de la Torre de Babel (MH, 7-12), una obra monumental cuyo único sentido es la glorificación del hombre, apunta en esa dirección.
Como Babel, el progreso tecnológico puede convertirse en una empresa vana, si carece de un sólido fundamento ético. Se trata, entonces, de debatir acerca del uso apropiado de las capacidades humanas y del carácter que el hombre imprime a sus creaciones: “La tecnología puede curar, conectar, educar, cuidar la Casa común; pero también puede dividir, descartar, generar nuevas injusticias. En abstracto, esta, en sí misma, no es una solución a los problemas de la humanidad, como tampoco es un mal en sí; pero, concretamente, no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza.” (MH, 8).
La IA debe servir para edificar la familia humana universal (MH 187). Debe ser puesta al servicio del bien común, de una justa distribución de los bienes, del cuidado del ambiente. Su uso debe ser sometido a criterios de justicia social compartida (MH 107). Por sobre todo, la IA debe contribuir a la liberación del hombre, no convertir a la persona en un medio para fines ulteriores.
Es por ello por lo que en Magnifica Humanitas, el Papa impugna el transhumanismo y el posthumanismo, a los que señala como el trasfondo ideológico de las propuestas de organización social que glorifican la técnica y buscan superar los límites del ser humano. El transhumanismo busca un incremento de las capacidades humanas mediante la tecnología (biotecnología, ingeniería del cuerpo, entre otras) (MH 116). El posthumanismo busca trascender la propia condición humana, mediante una “…hibridación entre el ser humano, la máquina y el ambiente” (MH 129). Ambas corrientes alimentan una visión eugenésica donde no hay lugar para los vulnerables.
IA, guerra y paz.
El debate resumido en la sección anterior sirve de marco para comprender las implicancias de la IA para la guerra y la paz desde el punto de vista del Papa. La encíclica marca un nuevo hito en el desarrollo de la doctrina de la Iglesia católica sobre las relaciones internacionales. En el capítulo quinto de Magnifica Humanitas, León XIV señala dos puntos fundamentales respecto al impacto de la IA en la política internacional.
En primer lugar, la utilización de la IA en el terreno bélico facilita el uso de la fuerza e introduce nuevos dilemas relativos a la responsabilidad moral en el ejercicio de la violencia. A través del desarrollo de sistemas de armas con autonomía operativa, la guerra se vuelve más viable y menos sujeta al control humano. Al mismo tiempo, la responsabilidad por las decisiones, delegadas en agentes no humanos, se diluye. Frente a esta posibilidad, la respuesta del Papa es contundente: “Por eso no es lícito confiar a sistemas artificiales decisiones letales o, en cualquier caso, irreversibles. No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable. La IA no libera al conflicto de su intrínseca inhumanidad: sólo puede hacerlo más rápido e impersonal, bajando el umbral del recurso a la violencia y transformando la defensa en previsión operativa, con las víctimas reducidas a datos.” (MH 198). La decisión de matar no puede ser confiada a una máquina.
Segundo, el uso irresponsable de la IA en el terreno de la seguridad se ve potenciado por un clima de ideas que enaltece la agresión (o la condona desde el fatalismo). Vivimos una “cultura del poder”, que normaliza la guerra y la rehabilita como instrumento de política internacional (MH 190), que la presenta como una manifestación inevitable de la naturaleza humana (MH 205). Prevalece una mirada de las relaciones internacionales basada en la desconfianza hacia el otro, en la construcción de la identidad colectiva por referencia a un enemigo; triunfa, en fin, “un multipolarismo desordenado y conflictivo” (MH 201).
Frente a este panorama, ¿cuáles son las respuestas? A la “cultura del poder”, León XIV contrapone la “civilización del amor”. Aunque la apelación suene ingenua, no lo es: el Pontífice llama a desplegar un realismo que evite tanto el idealismo político como el cinismo: “El realismo auténtico no renuncia a cambiar el mundo: comienza por ver con claridad los intereses, los miedos, las limitaciones y las relaciones de poder, precisamente para calcular qué es posible lograr y con qué pasos” (MH 218). Entre los instrumentos concretos para ejercer esta opción, el Papa destaca la importancia de la diplomacia, tanto a nivel bilateral como multilateral, y la necesidad de fortalecer las organizaciones internacionales, como instrumentos esenciales de cooperación entre los pueblos (MH 226). En suma, se trata de revalorizar las instituciones internacionales existentes y ponerlas al servicio del bien común global.
Gandalf y Saruman: dos miradas sobre el poder.
La tarea de gobernar adecuadamente la IA, una tecnología cuyo potencial (para bien y para mal) es tan grande, concierne a todos los miembros de la comunidad humana. Todos estamos llamados a participar y todos tenemos algo para aportar, aunque sea modesto. Lo importante es hacerlo desde la defensa de la dignidad de la persona.
Al reflexionar sobre la responsabilidad (mayor en el caso de quienes ocupan posiciones de liderazgo) de las personas frente al cambio tecnológico, Prevost cita al escritor católico inglés J.R.R. Tolkien, por boca del mago Gandalf, uno de los protagonistas de El Señor de los Anillos: “No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza” (MH 213).
La cita no parece casual: en la novela, el principal antagonista de Gandalf, quien utiliza su sabiduría al servicio de la salvación de la Tierra Media, es otro mago, su antiguo superior Saruman, que ha optado por servir a Saurón (el Señor Oscuro, es decir, el mal). La lucha entre ambos ejemplifica dos maneras opuestas de administrar los talentos que nos han sido confiados: como una forma de servicio a los demás, que conduce a la liberación personal y colectiva; o como una búsqueda del engrandecimiento individual, que lleva irremediablemente al vacío y la oscuridad. Las alternativas del enfrentamiento entre los magos son muchas y apasionantes. Al respecto, me permito recordar apenas un detalle: una de las armas principales utilizadas por Saruman es su Palantir, una de las “piedras videntes”, que le permite comunicarse con Saurón y espiar a sus enemigos, con el fin de someterlos y esclavizarlos.
Palantir, como se recordará, es el nombre que Peter Thiel y sus socios eligieron para su empresa, orientada a la vigilancia masiva. Dejo la conclusión a los lectores.
– Tomás Múgica. (Publicado en Mitte.ar).-