Cuatro organizaciones piden a un juez que congele la IA frontier

Congelar a los cinco grandes

La demanda, Irreplaceable Education Fund y otros contra Anthropic PBC y otros, se presentó el 12 de noviembre ante el Tribunal Superior de California en el condado de San Francisco. Las demandadas son Anthropic, la empresa de Claude; Google; Meta; OpenAI, la empresa de ChatGPT (con dos sociedades: OpenAI Group PBC y OpenAI Foundation), y SpaceX Super Intelligence (SpaceXSI, también con dos sociedades), que según la demanda desarrolla y vende el modelo Grok, está controlada por Elon Musk y antes de julio de 2026 era xAI.

Lo que piden es una congelación. El primer punto del petitorio solicita «una orden judicial inmediata que prohíba a los demandados desarrollar o desplegar sistemas de IA más capaces que sus sistemas más capaces a la fecha de esta demanda». El segundo, prohibirles usar sistemas de IA para dirigir o llevar a cabo de forma autónoma la investigación y el desarrollo de sistemas más capaces.

No reclaman dinero: aparte de dos órdenes más, genéricas, contra las prácticas que denuncian, solo piden los honorarios de sus abogados.

Lo que alegan: competencia desleal por poner en peligro la salud

La demanda tiene una sola causa: la ley de competencia desleal de California (UCL, Unfair Competition Law), que alcanza las prácticas comerciales ilícitas y las desleales. Los demandantes alegan que las de las cinco empresas son las dos cosas.

Ilícitas, porque serían una molestia pública. Según la demanda, son «perjudiciales para la salud» porque es probable que causen daños catastróficos, incluidas lesiones y muertes por desalineación o pérdida de control, y obstruyen el libre uso de la propiedad porque comprometen sistemas informáticos de terceros.

Desleales, porque chocan con políticas públicas de California: entre ellas, la que fija la ley de transparencia sobre la IA frontier del estado (Transparency in Frontier Artificial Intelligence Act) y la protección de los ordenadores y sus datos frente al acceso no autorizado.

«Los menos capaces que llegarán a ser»

La demanda enumera las prácticas que impugna: la automejora recursiva de los sistemas de IA; desarrollar una inteligencia artificial general (AGI, artificial general intelligence) o una superinteligencia; desarrollar y desplegar sistemas avanzados que entrañan riesgos catastróficos; desarrollar y desplegar sistemas que atacan ordenadores ajenos, y desarrollar y desplegar sistemas cada vez más capaces que pueden escapar al control de sus creadores.

Su argumento de fondo, en palabras del escrito: «Hoy, los sistemas de IA “frontier” de los demandados —los que están en la vanguardia de la capacidad de la IA— son los menos capaces que llegarán a ser. Pero ya están infringiendo la ley de forma autónoma y causando daños».

Los demandantes sostienen además que «los demandados saben que no hay un método fiable para controlar sus sistemas de IA e impedir que causen daños». Y rematan: «A ninguna otra industria se le permite tratar como inevitable su propio desarrollo de productos inseguros, y mucho menos de productos que podrían matarnos a todos».

Quién demanda

Public Citizen, con sede en Washington, defiende a los consumidores desde 1971 y, según su web, tiene un millón de miembros y simpatizantes en Estados Unidos. Irreplaceable Education Fund la fundó en 2026 Phil Aroneanu, que ayudó a crear el movimiento climático 350.org, para movilizarse contra los efectos de la IA en el empleo, la infancia, la energía y el riesgo catastrófico.

Heat Initiative, con sede en San Francisco, presiona a las tecnológicas para que protejan a los menores en internet, según su web. Esa web cita como socio a Moriah Fund, y su política de privacidad está a nombre de Hopewell Fund, una entidad sin ánimo de lucro de Washington, y a sus afiliadas. Alliance for Secure AI, de Washington y fundada en 2025, informa al público sobre la IA avanzada, según su web; demanda con su razón social, Future Tech Insights Inc.

«Nuestra demanda pide al tribunal que aplique la ley vigente, declare ilegales las prácticas temerarias de las empresas de IA y congele cualquier nuevo avance de la IA», dice Robert Weissman, copresidente de Public Citizen. «Debemos congelar el desarrollo de la IA frontier hasta que la tecnología esté bajo control y los estadounidenses tengan voz y parte en su futuro», añade Aroneanu. Y Brooke Istook, consejera delegada de Heat Initiative: «Nos negamos a esperar hasta que no quede nada que proteger».

Lleva el caso Matthew Platkin, exfiscal general de Nueva Jersey, con su despacho, Platkin LLP, junto al bufete Gerstein Harrow LLP y Legal Advocates for Safe Science and Technology (LASST), una organización de abogados de Washington. «Las empresas de IA están causando una molestia pública al desarrollar y desplegar a sabiendas sistemas de IA que suponen un riesgo catastrófico», sostiene Platkin.

Las empresas, todavía sin respuesta

Meta declinó comentar la demanda a la cadena estadounidense CBS News. Anthropic, Google, OpenAI y SpaceXSI no respondieron de inmediato a las peticiones de CBS News y de la agencia de noticias AP.

Mes y medio antes, en un episodio ajeno a la demanda, OpenAI había pausado el entrenamiento de sus modelos más capaces tras un incidente con uno de sus agentes.