Nueva York pregunta por el riesgo y nadie da una cifra

La pregunta era cuánto, y nadie dijo cuánto

La audiencia pública del lunes en el Concejo de Nueva York iba de una cosa muy concreta: qué probabilidad asignan a un desastre las empresas que construyen los sistemas de IA más potentes del mercado. Declararon directivos de Anthropic, OpenAI, Google y Meta. Ninguno de los cuatro dio una cifra, y ninguna de las cuatro empresas tiene un seguro que cubra ese escenario.

La respuesta más explícita la dio Morgan Dwyer, de OpenAI, cuando le pidieron cuantificar el riesgo catastrófico: «No lo sé. Tampoco creo que importe si la probabilidad de que algo catastrófico salga mal es del 1 %, del 10 % o del 20 %. Ninguno de esos niveles es remotamente aceptable. No deberíamos entrenar modelos de los que no podamos argumentar con mucha fuerza que los mantendremos bajo control humano».

No es una negativa a contestar, es un argumento sobre por qué el número le parece secundario. Y esos tres porcentajes no son la estimación de nadie: son la manera de decir que da igual cuál de los tres sea. Lo que queda, en cualquier caso, es que la pregunta del Concejo se fue sin respuesta numérica de las cuatro.

El único que sí se mojó no hablaba en nombre de ninguna empresa. Jacob Coxon, ex investigador de Anthropic, repitió en la audiencia el aviso con el que salió de la compañía: es «more likely than not that humanity loses control…», más probable que no que la humanidad pierda el control. Tampoco es un porcentaje, pero sí una dirección, y la dio quien ya está fuera.

Cincuenta y un concejales y diez proyectos de ley

Quien marcó el tono fue Julie Menin, presidenta del Concejo: «La verdadera intención de esta audiencia es garantizar que la innovación se produzca de forma responsable, que el Gobierno haga su trabajo de proteger al público a medida que la tecnología avanza, y que las protecciones a nivel municipal puedan llegar a servir de modelo nacional», dijo en la audiencia.

El remate es la clave de la jornada: un ayuntamiento que no se conforma con regular su propio término, sino que se postula como plantilla para el resto del país. Y detrás de la frase hay trabajo legislativo en marcha. El Concejo tiene diez proyectos de ley sobre la mesa que afectan a las cuatro empresas que comparecieron, y uno de ellos crea incentivos para quien denuncie desde dentro.

La ciudad, además, ya ha tomado decisiones sin esperar a nadie. El alcalde, Zohran Mamdani, ha introducido una moratoria para el uso de IA en las escuelas municipales. Y un escalón por encima, la gobernadora Kathy Hochul firmó una moratoria de un año para los centros de datos. Las dos van en la misma dirección: parar primero y regular después.

Menin quiere que la ciudad sea el modelo; el alcalde mira a Washington

El alcalde no acompañó al Concejo en esa ambición. Zohran Mamdani, alcalde de Nueva York, puso el acento en otro sitio: «Creo que tiene que haber regulación de esta tecnología en todos y cada uno de los niveles (…) Esta no es una cuestión específica de la ciudad de Nueva York. Y por lo tanto (…) el lugar donde necesitamos la respuesta más urgente a esto es el nivel nacional».

Es decir: hay que regular en todas partes, pero lo urgente le toca al nivel federal. No es una oposición a regular, es un cambio de destinatario, y choca de frente con lo que sostiene la presidenta del Concejo. Menin presenta la ordenanza municipal como laboratorio de la ley nacional; el alcalde dice que el problema no es municipal. La ciudad llega a su propia audiencia con dos ideas distintas de para qué sirve lo que está haciendo, y eso importa porque el mismo alcalde que manda la pelota a Washington es el que ya ha frenado la IA en las aulas de su ciudad.

La citación que SpaceXAI contestó por carta y sin aparecer

A la mesa le faltaba una silla. Menin pidió a SpaceXAI, la unidad de inteligencia artificial de SpaceX —la empresa espacial de Elon Musk—, que enviara a alguien a declarar. La empresa no respondió. El Concejo emitió entonces una citación para obligarla, y a eso SpaceXAI sí contestó: con una carta en la que decía que quería trabajar con la ciudad. A la audiencia no fue nadie.

Menin anunció que la ciudad emprende acciones legales por la incomparecencia. Es la parte de la jornada con consecuencias inmediatas: las cuatro empresas que fueron se van con diez proyectos de ley pendientes, y la que no fue, con un procedimiento judicial en marcha. La diferencia entre estar invitado y estar citado es justo esa.

La carta que OpenAI mandó al Concejo la semana pasada

Antes de la audiencia hubo un movimiento que no se vio en la sala. La semana pasada, OpenAI escribió al Concejo de Nueva York para recomendarle que la ciudad establezca salvaguardas frente a los riesgos de la IA avanzada. Lo contó Menin en una rueda de prensa el lunes. La carta la firma Chan Park, responsable de política y alianzas de la empresa para Estados Unidos y Canadá.

En ella, OpenAI ofrece además trabajar con los ciberdefensores de la ciudad y aportarles herramientas, entre ellas Daybreak, su programa de ciberseguridad. Y recuerda que ya colabora con el estado de Nueva York en esa materia. La secuencia deja una imagen incómoda para la empresa: la misma que pide por escrito salvaguardas municipales es una de las cuatro que no tiene un seguro que cubra el riesgo del que avisa.