Nova York pregunta pel risc i ningú no hi posa cap xifra

La pregunta era quant, i ningú no va dir quant

L'audiència pública de dilluns al Consell Municipal de Nova York anava d'una cosa molt concreta: quina probabilitat assignen a un desastre les empreses que construeixen els sistemes d'IA més potents del mercat. Hi van declarar directius d'Anthropic, OpenAI, Google i Meta. Cap dels quatre no va donar cap xifra, i cap de les quatre empreses no té una assegurança que cobreixi aquest escenari.

La resposta més explícita la va donar Morgan Dwyer, d'OpenAI, quan li van demanar que quantifiqués el risc catastròfic: «No ho sé. Tampoc no crec que importi si la probabilitat que alguna cosa catastròfica vagi malament és de l'1 %, del 10 % o del 20 %. Cap d'aquests nivells no és remotament acceptable. No hauríem d'entrenar models dels quals no puguem argumentar amb molta força que els mantindrem sota control humà».

No és una negativa a contestar, és un argument sobre per què el número li sembla secundari. I aquests tres percentatges no són l'estimació de ningú: són la manera de dir que tant li fa quin dels tres sigui. El que queda, en tot cas, és que la pregunta del Consell Municipal es va quedar sense resposta numèrica de cap de les quatre.

L'únic que sí que es va mullar no parlava en nom de cap empresa. Jacob Coxon, exinvestigador d'Anthropic, va repetir a l'audiència l'advertiment amb què va sortir de la companyia: és «more likely than not that humanity loses control…», més probable que no que la humanitat perdi el control. Tampoc no és un percentatge, però sí una direcció, i la va donar qui ja és fora.

Cinquanta-un regidors i deu projectes de llei

Qui va marcar el to va ser Julie Menin, presidenta del Consell Municipal: «La veritable intenció d'aquesta audiència és garantir que la innovació es produeixi de manera responsable, que el Govern faci la seva feina de protegir el públic a mesura que la tecnologia avança, i que les proteccions a escala municipal puguin arribar a servir de model nacional», va dir a l'audiència.

El remat és la clau de la jornada: un ajuntament que no es conforma amb regular el seu propi terme municipal, sinó que es postula com a motlle per a la resta del país. I darrere de la frase hi ha feina legislativa en marxa. El Consell Municipal té deu projectes de llei damunt la taula que afecten les quatre empreses que van comparèixer, i un d'ells crea incentius per a qui denunciï des de dins.

La ciutat, a més, ja ha pres decisions sense esperar ningú. L'alcalde, Zohran Mamdani, ha introduït una moratòria per a l'ús d'IA a les escoles municipals. I un escaló més amunt, la governadora Kathy Hochul va signar una moratòria d'un any per als centres de dades. Totes dues van en la mateixa direcció: parar primer i regular després.

Menin vol que la ciutat sigui el model; l'alcalde mira cap a Washington

L'alcalde no va acompanyar el Consell Municipal en aquesta ambició. Zohran Mamdani, alcalde de Nova York, va posar l'accent en un altre lloc: «Crec que hi ha d'haver regulació d'aquesta tecnologia a tots i cadascun dels nivells (…) Aquesta no és una qüestió específica de la ciutat de Nova York. I per tant (…) el lloc on necessitem la resposta més urgent a això és el nivell nacional».

És a dir: cal regular a tot arreu, però l'urgent pertoca al nivell federal. No és una oposició a regular, és un canvi de destinatari, i xoca de ple amb el que sosté la presidenta del Consell Municipal. Menin presenta l'ordenança municipal com a laboratori de la llei nacional; l'alcalde diu que el problema no és municipal. La ciutat arriba a la seva pròpia audiència amb dues idees diferents sobre per a què serveix el que està fent, i això importa perquè el mateix alcalde que envia la pilota a Washington és el que ja ha frenat la IA a les aules de la seva ciutat.

La citació que SpaceXAI va contestar per carta i sense aparèixer

A la taula li faltava una cadira. Menin va demanar a SpaceXAI, la unitat d'intel·ligència artificial de SpaceX —l'empresa espacial d'Elon Musk—, que enviés algú a declarar. L'empresa no va respondre. El Consell Municipal va emetre llavors una citació per obligar-la, i a això SpaceXAI sí que va contestar: amb una carta on deia que volia treballar amb la ciutat. A l'audiència no hi va anar ningú.

Menin va anunciar que la ciutat emprèn accions legals per la incompareixença. És la part de la jornada amb conseqüències immediates: les quatre empreses que hi van anar se'n van amb deu projectes de llei pendents, i la que no hi va anar, amb un procediment judicial en marxa. La diferència entre estar convidat i estar citat és justament aquesta.

La carta que OpenAI va enviar al Consell Municipal la setmana passada

Abans de l'audiència hi va haver un moviment que no es va veure a la sala. La setmana passada, OpenAI va escriure al Consell Municipal de Nova York per recomanar-li que la ciutat estableixi salvaguardes davant els riscos de la IA avançada. Ho va explicar Menin en una roda de premsa dilluns. La carta la signa Chan Park, responsable de política i aliances de l'empresa per als Estats Units i el Canadà.

Hi ofereix, a més, treballar amb els ciberdefensors de la ciutat i aportar-los eines, entre elles Daybreak, el seu programa de ciberseguretat. I recorda que ja col·labora amb l'estat de Nova York en aquesta matèria. La seqüència deixa una imatge incòmoda per a l'empresa: la mateixa que demana per escrit salvaguardes municipals és una de les quatre que no té una assegurança que cobreixi el risc del qual avisa.