Anthropic se escribe su propia ley

Un texto confidencial y una confirmación genérica

Según Politico, los representantes de Anthropic han llevado el borrador «discretamente» al Capitolio. Lo cuentan tres personas conocedoras de las gestiones que pidieron el anonimato. No consta a qué legisladores se ha presentado ni cuándo, y el texto no se ha publicado.

La única confirmación es de un portavoz de Anthropic: «Este proyecto de ley representa las propuestas recogidas en el Advanced AI Framework de Anthropic, que venimos defendiendo ante legisladores federales y estatales desde junio». Añade que son «políticas sensatas» sobre las que el Congreso debería actuar. No confirma ni desmiente ninguna cláusula.

Según Politico, Anthropic no había respaldado en público ninguna iniciativa concreta del Congreso, aunque sí leyes estatales de seguridad de la IA, entre ellas dos de California.

El borrador solo frena un modelo ante una catástrofe

Según Politico, el Gobierno solo podría bloquear el lanzamiento o el uso de un modelo si supone un riesgo previsible e inminente de más de 1.000 millones de dólares en daños o de matar o herir gravemente a más de 50 personas. Ese riesgo tendría que venir de un arma biológica, de que el modelo eluda los controles de su desarrollador o de un ciberataque.

Politico escribe que esa redacción refleja la de las leyes de IA de California, incluida la SB 53; el marco de Anthropic ya recomendaba definir el riesgo catastrófico en línea con esa ley. Según Politico, ninguno de los incidentes con agentes de IA que comunicaron los laboratorios este verano parece haber causado muertes masivas ni más de 1.000 millones en daños.

Un juez de Washington y ninguna agencia más

Según Politico, unos evaluadores independientes registrados en el Departamento de Comercio, el ministerio federal del ramo, examinarían periódicamente al laboratorio y sus modelos frontier. El laboratorio podría pagarles si el pago no depende del resultado. Ante un «riesgo enumerado inminente», tendrían 72 horas desde que acaban la evaluación para avisar a Comercio.

Según Politico, Comercio podría pedir a un juez que pare el lanzamiento, y el texto prohíbe a cualquier otro departamento, agencia o cargo federal suspender un modelo; solo podría ordenarlo un juez del Tribunal de Distrito para el Distrito de Columbia, el tribunal federal de Washington.

Según Politico, el borrador obligaría además a los laboratorios frontier a tener marcos de seguridad, publicar informes de transparencia de cada modelo nuevo, proteger a los denunciantes y notificar a Comercio los incidentes críticos.

El borrador frente al marco de junio

Según Politico, el borrador desplazaría algunas leyes estatales sobre divulgación de riesgos, evaluación por terceros y notificación de incidentes críticos. Los demócratas han rechazado propuestas que temían que vaciaran las normas de California, Illinois o Nueva York; muchos grupos de la industria prefieren un estándar nacional único.

El marco que Anthropic publicó en junio dice que el Congreso no debería desplazar las leyes estatales salvo con un régimen federal riguroso que iguale o supere sus medidas más fuertes, y aun así solo en funciones concretas. Sin una ley federal fuerte, añade, los estados deben conservar toda su capacidad de legislar.

Otras leyes que compiten en el Congreso

Según Politico, en la Cámara de Representantes la demócrata Lori Trahan y el republicano Jay Obernolte impulsan la FRONTIER Act, que permitiría al Gobierno parar modelos de riesgo y también desplazaría algunas leyes estatales. En el Senado, el líder de la mayoría, John Thune, negocia otra con la demócrata Amy Klobuchar y el republicano Ted Cruz, con la resistencia de algunos grupos partidarios de la seguridad de la IA y de la demócrata Maria Cantwell, que quieren que el Gobierno revise más los modelos.