El Papa vol desarmar la IA

Certes decisions no s'han de delegar mai

La frase que va ser notícia va arribar en la tercera de les cinc consideracions que Lleó XIV va proposar el divendres 30 d'octubre a la Sala del Consistori del Palau Apostòlic: «certes decisions no s'han de delegar mai».

El Papa ho va explicar amb dos exemples: «Quan una persona és inclosa en una llista de subjectes sospitosos o registrada en una base de dades de controls fronterers, hi ha el risc que quedi reduïda a una simple dada». En l'original anglès del discurs, aquesta llista és d'objectius.

D'aquí en va treure la conclusió: «Les decisions relatives a la vida humana, la llibertat i l'ús de la força han de romandre sempre subjectes a un control humà eficaç, informat i responsable». I la petició concreta: «Per aquesta raó, la intel·ligència artificial ha de ser “desarmada” (n. 110), i encoratjo els Estats que es reuniran a Ginebra al novembre a fer passos concrets cap a la prohibició de les armes autònomes letals». El número entre parèntesis remet a la seva encíclica Magnifica humanitas, signada el 15 de maig de 2026.

Una trobada amb científics que comparteixen un malestar

El públic eren els participants en «El futur de la IA: un diàleg entre el Vaticà i el món científic sobre els desenvolupaments i les aplicacions de les tecnologies intel·ligents», la trobada que van promoure la Pontifícia Acadèmia per a la Vida, l'organisme de la Santa Seu dedicat a la bioètica que va crear Joan Pau II el 1994, i el Future of Life Institute, segons el butlletí de l'Oficina de Premsa de la Santa Seu.

Lleó XIV els va parlar en anglès i va començar per l'estat d'ànim de la sala: «Veniu de molts països i porteu una gran varietat de preguntes i de visions. Alhora, crec que compartiu un cert malestar davant el desenvolupament de la intel·ligència artificial. Reconeixem la direcció que hauríem de prendre, però no s'està fent prou per avançar».

Abans d'entrar en matèria, va recordar el que el papa Francesc va dir als líders del G7 el 14 de juny de 2024: que la IA és «un instrument fascinant i tremend alhora» i que mai no s'hauria de confiar a una màquina la decisió de treure una vida humana. «Aquestes paraules continuen sent avui més actuals que mai», va afegir.

Les màquines són instruments, no persones

La primera consideració va ser que «el futur de la intel·ligència artificial no està predeterminat», perquè depèn de les decisions humanes, i que per tant cal canviar la pregunta: «La pregunta decisiva, doncs, no és simplement: “què pot fer la intel·ligència artificial?”, sinó: “per a què hauria de servir?”». Els qui en veuen el desenvolupament només «com una cursa que cal guanyar», va advertir, corren el risc de fixar-se únicament en la meta. I va resumir el seu criteri en una frase: «Un sistema fiable que estigui al servei de la persona humana és més valuós que un sistema extraordinàriament potent, però les conseqüències del qual no es poden preveure ni controlar adequadament».

La segona, que «les màquines són instruments, no persones». El Papa va rebutjar les propostes de concedir drets a aquests sistemes, «o fins i tot personalitat jurídica», perquè corren el risc d'enfosquir la responsabilitat humana i deixen qui pateix un dany «davant d'una entitat sense rostre».

La quarta va demanar que les tecnologies intel·ligents s'orientin al bé comú, amb una cita de l'encíclica: «Avui la justícia passa també per l'accés als beneficis de la innovació: cures, coneixement, eines i oportunitats». No han de servir, va dir, «únicament als interessos d'uns pocs privilegiats».

Falten institucions, no principis

La cinquena consideració la va presentar com «un repte que potser és el més urgent», i és la que posa l'accent en les institucions: «Ja coneixem molts dels principis ètics que haurien de guiar el desenvolupament de la intel·ligència artificial. El que necessitem actualment són institucions capaces de posar en pràctica aquests principis, especialment institucions internacionals eficaces que puguin salvaguardar el bé comú global».

Lleó XIV va detallar què haurien de tenir aquestes institucions: «normes compartides, supervisió independent i mecanismes clars de rendició de comptes», perquè les decisions sobre el desenvolupament i l'ús de la IA es puguin examinar, qüestionar si cal i reparar quan causin danys.

Ginebra decideix sobre un text que deixa oberta la forma

El Papa no va esmentar la reunió, però la cita d'Estats sobre armes autònomes prevista a Ginebra per al novembre és la Setena Conferència d'Examen de la Convenció sobre Certes Armes Convencionals, del 16 al 20 de novembre de 2026, segons l'informe de la seva comissió preparatòria.

Hi arriba amb un text d'experts damunt la taula. El grup d'experts governamentals sobre armes autònomes letals va adoptar el seu informe final el 4 de setembre, després de les sessions del seu mandat actual, del 2024 al 2026. Recomana a la conferència que estudiï i avali un conjunt d'elements d'un instrument «sense prejutjar-ne la naturalesa», juntament amb altres mesures possibles, i que decideixi «per consens» les modalitats de la feina futura del grup.

A la pràctica, això vol dir que ningú no ha decidit encara si aquests elements acabaran en un tractat vinculant o en una altra cosa, i que la conferència no té al davant cap tractat per aprovar. El que sí que té és una decisió per consens, que exigeix que cap Estat no s'hi oposi. A aquesta decisió apunten els «passos concrets cap a la prohibició» que va encoratjar Lleó XIV.