Quatre organitzacions demanen a un jutge que congeli la IA frontier

Congelar els cinc grans

La demanda, Irreplaceable Education Fund i altres contra Anthropic PBC i altres, es va presentar el 12 de novembre davant el Tribunal Superior de Califòrnia al comtat de San Francisco. Les demandades són Anthropic, l'empresa de Claude; Google; Meta; OpenAI, l'empresa de ChatGPT (amb dues societats: OpenAI Group PBC i OpenAI Foundation), i SpaceX Super Intelligence (SpaceXSI, també amb dues societats), que segons la demanda desenvolupa i ven el model Grok, és controlada per Elon Musk i abans del juliol del 2026 era xAI.

El que demanen és una congelació. El primer punt del petitori sol·licita «una ordre judicial immediata que prohibeixi als demandats desenvolupar o desplegar sistemes d'IA més capaços que els seus sistemes més capaços en la data d'aquesta demanda». El segon, prohibir-los que facin servir sistemes d'IA per dirigir o dur a terme de manera autònoma la recerca i el desenvolupament de sistemes més capaços.

No reclamen diners: a banda de dues ordres més, genèriques, contra les pràctiques que denuncien, només demanen els honoraris dels seus advocats.

El que al·leguen: competència deslleial per posar en perill la salut

La demanda té una sola causa: la llei de competència deslleial de Califòrnia (UCL, Unfair Competition Law), que abasta les pràctiques comercials il·lícites i les deslleials. Els demandants al·leguen que les de les cinc empreses són totes dues coses.

Il·lícites, perquè serien una molèstia pública. Segons la demanda, són «perjudicials per a la salut» perquè és probable que causin danys catastròfics, incloses lesions i morts per desalineació o pèrdua de control, i obstrueixen el lliure ús de la propietat perquè comprometen sistemes informàtics de tercers.

Deslleials, perquè xoquen amb polítiques públiques de Califòrnia: entre altres, la que fixa la llei de transparència sobre la IA frontier de l'estat (Transparency in Frontier Artificial Intelligence Act) i la protecció dels ordinadors i les seves dades davant l'accés no autoritzat.

«Els menys capaços que seran mai»

La demanda enumera les pràctiques que impugna: l'automillora recursiva dels sistemes d'IA; desenvolupar una intel·ligència artificial general (AGI, artificial general intelligence) o una superintel·ligència; desenvolupar i desplegar sistemes avançats que comporten riscos catastròfics; desenvolupar i desplegar sistemes que ataquen ordinadors aliens, i desenvolupar i desplegar sistemes cada vegada més capaços que poden escapar al control dels seus creadors.

El seu argument de fons, en paraules de l'escrit: «Avui, els sistemes d'IA “frontier” dels demandats —els que són a l'avantguarda de la capacitat de la IA— són els menys capaços que seran mai. Però ja infringeixen la llei de manera autònoma i causen danys».

Els demandants sostenen, a més, que «els demandats saben que no hi ha cap mètode fiable per controlar els seus sistemes d'IA i impedir que causin danys». I ho reblen: «A cap altra indústria no se li permet tractar com a inevitable el seu propi desenvolupament de productes insegurs, i encara menys de productes que ens podrien matar a tots».

Qui demanda

Public Citizen, amb seu a Washington, defensa els consumidors des del 1971 i, segons el seu web, té un milió de membres i simpatitzants als Estats Units. Irreplaceable Education Fund la va fundar el 2026 Phil Aroneanu, que va ajudar a crear el moviment climàtic 350.org, per mobilitzar-se contra els efectes de la IA en l'ocupació, la infància, l'energia i el risc catastròfic.

Heat Initiative, amb seu a San Francisco, pressiona les tecnològiques perquè protegeixin els menors a internet, segons el seu web. Aquest web cita com a soci Moriah Fund, i la seva política de privadesa està a nom de Hopewell Fund, una entitat sense ànim de lucre de Washington, i de les seves afiliades. Alliance for Secure AI, de Washington i fundada el 2025, informa el públic sobre la IA avançada, segons el seu web; demanda amb la seva raó social, Future Tech Insights Inc.

«La nostra demanda sol·licita al tribunal que apliqui la llei vigent, declari il·legals les pràctiques temeràries de les empreses d'IA i congeli qualsevol nou avenç de la IA», diu Robert Weissman, copresident de Public Citizen. «Hem de congelar el desenvolupament de la IA frontier fins que la tecnologia estigui sota control i els nord-americans tinguin veu i part en el seu futur», afegeix Aroneanu. I Brooke Istook, consellera delegada de Heat Initiative: «Ens neguem a esperar fins que no quedi res a protegir».

Porta el cas Matthew Platkin, exfiscal general de Nova Jersey, amb el seu despatx, Platkin LLP, juntament amb el bufet Gerstein Harrow LLP i Legal Advocates for Safe Science and Technology (LASST), una organització d'advocats de Washington. «Les empreses d'IA causen una molèstia pública en desenvolupar i desplegar conscientment sistemes d'IA que comporten un risc catastròfic», sosté Platkin.

Les empreses, encara sense resposta

Meta no va voler comentar la demanda a la cadena nord-americana CBS News. Anthropic, Google, OpenAI i SpaceXSI no van respondre immediatament a les peticions de CBS News i de l'agència de notícies AP.

Un mes i mig abans, en un episodi aliè a la demanda, OpenAI havia aturat l'entrenament dels seus models més capaços arran d'un incident amb un dels seus agents.