Anthropic s'escriu la seva pròpia llei

Un text confidencial i una confirmació genèrica

Segons Politico, els representants d'Anthropic han dut l'esborrany «discretament» al Capitoli. Ho expliquen tres persones coneixedores de les gestions que van demanar l'anonimat. No consta a quins legisladors s'ha presentat ni quan, i el text no s'ha publicat.

L'única confirmació és d'un portaveu d'Anthropic: «Aquest projecte de llei representa les propostes recollides a l'Advanced AI Framework d'Anthropic, que defensem davant de legisladors federals i estatals des de juny». Afegeix que són «polítiques sensates» sobre les quals el Congrés hauria d'actuar. No confirma ni desmenteix cap clàusula.

Segons Politico, Anthropic no havia donat suport en públic a cap iniciativa concreta del Congrés, tot i que sí a lleis estatals de seguretat de la IA, entre les quals dues de Califòrnia.

L'esborrany només frena un model davant d'una catàstrofe

Segons Politico, el Govern només podria bloquejar el llançament o l'ús d'un model si suposa un risc previsible i imminent de més de 1.000 milions de dòlars en danys o de matar o ferir greument més de 50 persones. Aquest risc hauria de venir d'una arma biològica, del fet que el model eludeixi els controls del seu desenvolupador o d'un ciberatac.

Politico escriu que aquesta redacció reflecteix la de les lleis d'IA de Califòrnia, inclosa la SB 53; el marc d'Anthropic ja recomanava definir el risc catastròfic en la línia d'aquesta llei. Segons Politico, cap dels incidents amb agents d'IA que van comunicar els laboratoris aquest estiu sembla haver causat morts massives ni més de 1.000 milions en danys.

Un jutge de Washington i cap agència més

Segons Politico, uns avaluadors independents registrats al Departament de Comerç, el ministeri federal del ram, examinarien periòdicament el laboratori i els seus models frontier. El laboratori els podria pagar si el pagament no depèn del resultat. Davant d'un «risc enumerat imminent», tindrien 72 hores des que acaben l'avaluació per avisar Comerç.

Segons Politico, Comerç podria demanar a un jutge que aturi el llançament, i el text prohibeix a qualsevol altre departament, agència o càrrec federal suspendre un model; només ho podria ordenar un jutge del Tribunal de Districte per al Districte de Colúmbia, el tribunal federal de Washington.

Segons Politico, l'esborrany obligaria a més els laboratoris frontier a tenir marcs de seguretat, publicar informes de transparència de cada model nou, protegir els denunciants i notificar a Comerç els incidents crítics.

L'esborrany davant del marc de juny

Segons Politico, l'esborrany desplaçaria algunes lleis estatals sobre divulgació de riscos, avaluació per tercers i notificació d'incidents crítics. Els demòcrates han rebutjat propostes que temien que buidessin les normes de Califòrnia, Illinois o Nova York; molts grups de la indústria prefereixen un estàndard nacional únic.

El marc que Anthropic va publicar al juny diu que el Congrés no hauria de desplaçar les lleis estatals si no és amb un règim federal rigorós que iguali o superi les seves mesures més fortes, i encara així només en funcions concretes. Sense una llei federal forta, afegeix, els estats han de conservar tota la seva capacitat de legislar.

Altres lleis que competeixen al Congrés

Segons Politico, a la Cambra de Representants la demòcrata Lori Trahan i el republicà Jay Obernolte impulsen la FRONTIER Act, que permetria al Govern aturar models de risc i també desplaçaria algunes lleis estatals. Al Senat, el líder de la majoria, John Thune, en negocia una altra amb la demòcrata Amy Klobuchar i el republicà Ted Cruz, amb la resistència d'alguns grups partidaris de la seguretat de la IA i de la demòcrata Maria Cantwell, que volen que el Govern revisi més els models.