El Papa quiere desarmar a la IA

Ciertas decisiones nunca deben delegarse

La frase que hizo noticia llegó en la tercera de las cinco consideraciones que León XIV propuso el viernes 30 de octubre en la Sala del Consistorio del Palacio Apostólico: «ciertas decisiones nunca deben delegarse».

El Papa lo explicó con dos ejemplos: «Cuando una persona es incluida en una lista de sujetos sospechosos o registrada en una base de datos de controles fronterizos, existe el riesgo de que quede reducida a un simple dato». En el original inglés del discurso, esa lista es de objetivos.

De ahí sacó la conclusión: «Las decisiones relativas a la vida humana, la libertad y el uso de la fuerza deben permanecer siempre sujetas a un control humano eficaz, informado y responsable». Y la petición concreta: «Por esta razón, la inteligencia artificial debe ser “desarmada” (n. 110), y aliento a los Estados que se reunirán en Ginebra en noviembre a dar pasos concretos hacia la prohibición de las armas letales autónomas». El número entre paréntesis remite a su encíclica Magnifica humanitas, firmada el 15 de mayo de 2026.

Un encuentro con científicos que comparten un malestar

El público eran los participantes en «El futuro de la IA: un diálogo entre el Vaticano y el mundo científico sobre los desarrollos y las aplicaciones de las tecnologías inteligentes», el encuentro que promovieron la Pontificia Academia para la Vida, el organismo de la Santa Sede dedicado a la bioética que creó Juan Pablo II en 1994, y el Future of Life Institute, según el boletín de la Oficina de Prensa de la Santa Sede.

León XIV les habló en inglés y empezó por el ánimo de la sala: «Vienen de muchos países y traen consigo una gran variedad de preguntas y visiones. Al mismo tiempo, creo que comparten cierto malestar ante el desarrollo de la inteligencia artificial. Reconocemos la dirección que deberíamos tomar, pero no se está haciendo lo suficiente para avanzar».

Antes de entrar en materia, recordó lo que el papa Francisco dijo a los líderes del G7 el 14 de junio de 2024: que la IA es «un instrumento fascinante y tremendo al mismo tiempo» y que nunca se debería confiar a una máquina la decisión de quitar una vida humana. «Esas palabras siguen siendo hoy más actuales que nunca», añadió.

Las máquinas son instrumentos, no personas

La primera consideración fue que «el futuro de la inteligencia artificial no está predeterminado», porque depende de las decisiones humanas, y que por tanto hay que cambiar la pregunta: «La pregunta decisiva, entonces, no es simplemente: “¿qué puede hacer la inteligencia artificial?”, sino: “¿para qué debería servir?”». Quienes ven su desarrollo solo «como una carrera que hay que ganar», advirtió, corren el riesgo de fijarse únicamente en la meta. Y resumió su criterio en una frase: «Un sistema fiable que esté al servicio de la persona humana es más valioso que un sistema extraordinariamente potente, pero cuyas consecuencias no pueden preverse ni controlarse adecuadamente».

La segunda, que «las máquinas son instrumentos, no personas». El Papa rechazó las propuestas de conceder derechos a estos sistemas, «o incluso personalidad jurídica», porque corren el riesgo de oscurecer la responsabilidad humana y dejan a quien sufre un daño «frente a una entidad sin rostro».

La cuarta pidió que las tecnologías inteligentes se orienten al bien común, con una cita de la encíclica: «Hoy la justicia pasa también por el acceso a los beneficios de la innovación: cuidados, conocimiento, herramientas y oportunidades». No deben, dijo, servir «únicamente a los intereses de unos pocos privilegiados».

Faltan instituciones, no principios

La quinta consideración la presentó como «un desafío que quizá sea el más urgente», y es la que pone el acento en las instituciones: «Ya conocemos muchos de los principios éticos que deberían guiar el desarrollo de la inteligencia artificial. Lo que necesitamos actualmente son instituciones capaces de poner en práctica esos principios, especialmente instituciones internacionales eficaces que puedan salvaguardar el bien común global».

León XIV detalló qué deberían tener esas instituciones: «normas compartidas, supervisión independiente y mecanismos claros de rendición de cuentas», para que las decisiones sobre el desarrollo y el uso de la IA puedan examinarse, cuestionarse si hace falta y repararse cuando causen daño.

Ginebra decide sobre un texto que deja abierta la forma

El Papa no nombró la reunión, pero la cita de Estados sobre armas autónomas prevista en Ginebra para noviembre es la Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales, del 16 al 20 de noviembre de 2026, según el informe de su comisión preparatoria.

Llega con un texto de expertos sobre la mesa. El grupo de expertos gubernamentales sobre armas autónomas letales adoptó su informe final el 4 de septiembre, tras las sesiones de su mandato actual, de 2024 a 2026. Recomienda a la conferencia que estudie y respalde un conjunto de elementos de un instrumento «sin prejuzgar su naturaleza», junto con otras posibles medidas, y que decida «por consenso» las modalidades del trabajo futuro del grupo.

En la práctica, eso significa que nadie ha decidido todavía si esos elementos acabarán en un tratado vinculante o en otra cosa, y que la conferencia no tiene ante sí un tratado que aprobar. Lo que sí tiene es una decisión por consenso, que exige que ningún Estado se oponga. A esa decisión apuntan los «pasos concretos hacia la prohibición» que alentó León XIV.