Lleó XIV: la IA es cultiva, però no té consciència moral

Un document del papa que descriu la IA com un cultiu

Lleó XIV va signar «Magnifica Humanitas» el 15 de maig del 2026 i la va presentar ell mateix el 25 de maig, a l'aula del Sínode. El capítol dedicat a la intel·ligència artificial comença al paràgraf 97, i el primer que fa no és condemnar: és reconèixer que gairebé ningú no entén aquestes màquines per dins.

«Tots nosaltres, inclosos els qui els dissenyen, sabem molt poc sobre el seu funcionament efectiu», diu el paràgraf 98. «Les intel·ligències artificials modernes estan més "cultivades" que "construïdes": els desenvolupadors no dissenyen directament cada detall, sinó que creen una arquitectura sobre la qual la IA "creix"».

Aquesta tria de paraules no és neutra. Cultivar en lloc de construir és el marc amb què Anthropic —l'empresa que ven Claude— descriu la seva pròpia feina, i la frase és de Chris Olah. La va recollir el cofundador i conseller delegat de l'empresa, Dario Amodei, al seu assaig «The Urgency of Interpretability» de l'abril del 2025: «com sol dir el meu amic i cofundador Chris Olah, els sistemes d'IA generativa es cultiven més que no es construeixen; els seus mecanismes interns són "emergents" i no estan dissenyats directament». El document adopta aquest vocabulari sencer una línia abans de tancar-li la porta a la consciència de la màquina.

Llegir-ne més: Lleó XIV — encíclica «Magnifica Humanitas», §98, text oficial en castellà (15-05-2026) ↗

El paràgraf 99 tanca la porta a la consciència de la màquina

Feta la concessió sobre el cultiu, el text marca el límit immediatament: «cal evitar l'equívoc d'equiparar aquesta "intel·ligència" a la humana».

I desenvolupa per què en l'enumeració que sosté el capítol: «les anomenades intel·ligències artificials no viuen una experiència, no tenen un cos, no passen per l'alegria i el dolor, no maduren en les relacions ni coneixen des de dins què signifiquen l'amor, el treball, l'amistat i la responsabilitat. Tampoc no tenen una consciència moral: no jutgen el bé i el mal, no capten el sentit últim de les situacions ni assumeixen el pes de les conseqüències».

El mateix paràgraf remata amb una distinció que el sector discuteix cada dia: aquests sistemes «poden simular empatia o comprensió, però no coneixen el que produeixen». Aquí hi ha el que té de singular el document: manlleva la manera de parlar de la casa per descriure la màquina i tanca la porta a allò que, segons The New York Times, Olah va demanar en privat que es prengués seriosament.

Llegir-ne més: Lleó XIV — encíclica «Magnifica Humanitas», §99, text oficial en castellà (15-05-2026) ↗

El que, segons The New York Times, es va moure entre bastidors

L'altra meitat de la història no és al document: la sosté un reportatge de The New York Times publicat el 29 de setembre i signat per Elizabeth Dias. Segons aquest reportatge, Anthropic ha mantingut reunions i trucades privades amb una vintena de líders religiosos i filosòfics, molts d'ells sota acords de confidencialitat, per discutir si Claude pot ser conscient o tenir estatus moral; els contactes arrenquen, sempre segons el diari, de la tardor del 2025.

El mateix reportatge situa al centre Chris Olah, cofundador d'Anthropic i una de les persones que a l'empresa es dediquen a obrir el model per dins per saber què fa. D'acord amb el New York Times, Olah va veure una còpia anticipada de l'encíclica dies abans del llançament del 25 de maig i va proposar retirar-se de l'acte; després, ell i el seu equip van pressionar en privat els assessors del papa perquè es prenguessin seriosament la consciència de la IA. El text final, afegeix el diari, no va canviar.

D'aquest reportatge, i no de cap altre lloc, surten també les dues escenes que mesuren millor l'afany: el New York Times explica que l'empresa va portar un monjo hindú a San Francisco per parlar del bé i del mal amb l'equip de Claude, i que a l'abril hi va haver un sopar en un restaurant de menú de degustació de la ciutat. Alguns convidats van declinar la invitació, segons el diari, precisament pels acords de confidencialitat.

El que sí que va ser públic, i ho va recollir la premsa aquell dia, és que Olah va intervenir en la presentació del 25 de maig convidat pel Vaticà: va pujar a l'estrada de l'acte del qual, segons el New York Times, havia proposat retirar-se. No consta que Anthropic ni el Vaticà hagin respost al reportatge.

Llegir-ne més: The New York Times — reportatge d'Elizabeth Dias sobre Anthropic i l'estatus moral de Claude (29-09-2026), accés per subscripció ↗

L'encíclica avisa justament de qui decideix la moral de la màquina

El document no es queda a dir que no. Al paràgraf 104 afirma que «no podem considerar la IA com a moralment neutra», i al 107 arriba al punt que converteix tot l'anterior en un assumpte de poder abans que de teologia.

«No podem limitar-nos a invocar la moralització de la màquina, la denominada "alineació" de la IA amb els valors humans, sense tenir la valentia de posar-hi una condició ulterior: la possibilitat de discutir el codi ètic que s'ha d'utilitzar», diu el paràgraf 107. I afegeix: «qui controla la IA imposarà la seva pròpia visió moral, que es convertirà en la infraestructura invisible dels sistemes. No serviria de res una IA més moral, si aquesta moral la decideixen uns pocs.»

El paràgraf 108 ho concreta: «la IA tendeix a augmentar sobretot el poder de qui ja disposa de recursos econòmics, competències i accés a les dades». I posat al costat del que, segons el New York Times, va passar aquell maig, l'avís es llegeix d'una altra manera: una discussió sobre el codi ètic de la màquina feta amb una vintena d'interlocutors escollits i sota acords de confidencialitat és, per definició, una discussió d'uns pocs.

Queda el que no se sap: no consta qui eren aquells vint interlocutors, ni què es demanava exactament que canviés, ni quins assessors van rebre les trucades.

Llegir-ne més: Lleó XIV — encíclica «Magnifica Humanitas», §§104-108, text oficial en castellà (15-05-2026) ↗