León XIV habla como Anthropic para negarle la conciencia a la máquina

Un documento del papa que describe la IA como un cultivo

León XIV firmó «Magnifica Humanitas» el 15 de mayo de 2026 y la presentó él mismo el 25 de mayo, en el aula del Sínodo. El capítulo dedicado a la inteligencia artificial empieza en el párrafo 97, y lo primero que hace no es condenar: es reconocer que casi nadie entiende estas máquinas por dentro.

«Todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su funcionamiento efectivo», dice el párrafo 98. «Las inteligencias artificiales modernas están más "cultivadas" que "construidas": los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA "crece"».

Esa elección de palabras no es neutra. Cultivar en vez de construir es el marco con el que Anthropic —la empresa que vende Claude— describe su propio trabajo, y la frase es de Chris Olah. La recogió el cofundador y consejero delegado de la empresa, Dario Amodei, en su ensayo «The Urgency of Interpretability» de abril de 2025: «como suele decir mi amigo y cofundador Chris Olah, los sistemas de IA generativa se cultivan más que se construyen; sus mecanismos internos son "emergentes" y no están diseñados directamente». El documento adopta ese vocabulario entero una línea antes de cerrarle la puerta a la conciencia de la máquina.

Leer más: León XIV — encíclica «Magnifica Humanitas», §98, texto oficial en español (15-05-2026) ↗

El párrafo 99 cierra la puerta a la conciencia de la máquina

Hecha la concesión sobre el cultivo, el texto marca el límite de inmediato: «hay que evitar el equívoco de equiparar esta "inteligencia" a la humana».

Y desarrolla por qué en la enumeración que sostiene el capítulo: «las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias».

El mismo párrafo remata con una distinción que el sector discute a diario: estos sistemas «pueden simular empatía o comprensión, pero no conocen lo que producen». Ahí está lo singular del documento: toma prestada la manera de hablar de la casa para describir la máquina y cierra la puerta a lo que, según The New York Times, Olah pidió en privado que se tomara en serio.

Leer más: León XIV — encíclica «Magnifica Humanitas», §99, texto oficial en español (15-05-2026) ↗

Lo que, según The New York Times, se movió entre bastidores

La otra mitad de la historia no está en el documento: la sostiene un reportaje de The New York Times publicado el 29 de septiembre, firmado por Elizabeth Dias. Según ese reportaje, Anthropic ha mantenido reuniones y llamadas privadas con alrededor de veinte líderes religiosos y filosóficos, muchos de ellos bajo acuerdos de confidencialidad, para discutir si Claude puede ser consciente o tener estatus moral; los contactos vienen, siempre según el periódico, desde el otoño de 2025.

El mismo reportaje sitúa en el centro a Chris Olah, cofundador de Anthropic y una de las personas que en la empresa se dedican a abrir el modelo por dentro para saber qué hace. De acuerdo con el New York Times, Olah vio una copia anticipada de la encíclica días antes del lanzamiento del 25 de mayo y propuso retirarse del acto; después, él y su equipo presionaron en privado a los asesores del papa para que se tomaran en serio la conciencia de la IA. El texto final, añade el periódico, no cambió.

De ese reportaje, y no de otra parte, salen también las dos escenas que mejor miden el empeño: el New York Times cuenta que la empresa llevó a un monje hindú a San Francisco para hablar del bien y del mal con el equipo de Claude, y que en abril hubo una cena en un restaurante de menú degustación de la ciudad. Algunos invitados declinaron, según el periódico, precisamente por los acuerdos de confidencialidad.

Lo que sí fue público, y lo recogió la prensa ese día, es que Olah intervino en la presentación del 25 de mayo a invitación del Vaticano: subió al estrado del acto del que, según el New York Times, había propuesto retirarse. No consta que Anthropic ni el Vaticano hayan respondido al reportaje.

Leer más: The New York Times — reportaje de Elizabeth Dias sobre Anthropic y el estatus moral de Claude (29-09-2026), acceso por suscripción ↗

La encíclica avisa justo de quién decide la moral de la máquina

El documento no se queda en decir que no. En el párrafo 104 afirma que «no podemos considerar a la IA como moralmente neutra», y en el 107 llega al punto que convierte todo lo anterior en un asunto de poder antes que de teología.

«No podemos limitarnos a invocar la moralización de la máquina, la denominada "alineación" de la IA con los valores humanos, sin tener la valentía de poner una condición ulterior: la posibilidad de discutir el código ético que debe ser usado», dice el párrafo 107. Y añade: «quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas. No serviría de nada una IA más moral, si esta moral es decidida por unos pocos.»

El párrafo 108 lo aterriza: «la IA tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a los datos». Y puesto al lado de lo que, según el New York Times, ocurrió aquel mayo, el aviso se lee de otra manera: una discusión sobre el código ético de la máquina celebrada con una veintena de interlocutores escogidos y bajo acuerdos de confidencialidad es, por definición, una discusión de unos pocos.

Queda lo que no se sabe: no consta quiénes eran esos veinte interlocutores, ni qué se pedía exactamente que cambiara, ni qué asesores recibieron las llamadas.

Leer más: León XIV — encíclica «Magnifica Humanitas», §§104-108, texto oficial en español (15-05-2026) ↗