Huang i Zuckerberg, contra el fre d'Amodei

L'assaig del 12 de setembre demana frenar i pactar el ritme

Amodei va publicar dissabte 12 de setembre de 2026, al seu lloc personal, un assaig d'unes 3.800 paraules: «We Must Pace the Frontier». Dirigeix Anthropic, el laboratori estatunidenc d'IA que va crear Claude i que està constituït com a public benefit corporation, una figura societària estatunidenca que incorpora una finalitat d'interès públic als estatuts de l'empresa.

La seva tesi: la feina de seguretat s'ha quedat per darrere de la de capacitats i l'única manera perquè l'atrapi és afluixar el ritme expressament. «We must slow the pace at which we improve the capabilities of AI models. Progress will still seem fast, and we must make wise use of the time we gain», va escriure.

L'assaig admet que coordinar aquesta frenada entre laboratoris pot exigir mediació del govern o exempcions de la normativa antimonopoli, i anuncia que Anthropic fa el primer pas unilateralment, amb avaluadors externs integrats que vigilin la seva feina des de dins.

La idea va tenir suports immediats. Sam Altman va escriure «I agree with Dario that we need to pace the frontier» i Elon Musk ho va reblar amb un «Dario is right».

El conseller delegat d'NVIDIA va respondre que la seguretat és enginyeria

Dimarts 15 de setembre va obrir a San Francisco Dreamforce, el congrés anual de Salesforce, l'empresa estatunidenca de programari de gestió de clients al núvol. Per la sessió inaugural, davant d'uns 12.000 assistents, hi van passar Marc Benioff, conseller delegat de Salesforce, el mateix Amodei i, després, Jensen Huang, fundador i conseller delegat de NVIDIA, el fabricant estatunidenc dels xips amb què s'entrena i se serveix la majoria dels models d'IA.

«Safety is paramount in a lot of ways. It's job one», va dir Huang a l'escenari, segons recull la sala de premsa de NVIDIA. I va situar el problema on creu que li correspon: «Safety is an engineering problem. If you build a product or a service and you're not confident in its functionality, capability or safety, then don't release it». I va rematar: «Innovation, speed and safe products — it's a false choice. You could definitely have both at the same time. So run as fast as you can». Però ell mateix hi va posar el límit: «But if you feel at any given point in time the company's out of control, or the product's not going to be safe, take a pause and make sure you get it right». És a dir, rebutja la frenada pactada entre laboratoris, no la pausa.

Aquell mateix dimarts va ser més explícit sobre el permís antimonopoli a la cadena econòmica estatunidenca CNBC: «The fact that we need new laws, new antitrust laws, or new regulations, so that these companies could do their fundamental engineering and do it properly before they release products, that is just completely unnecessary».

El fons és un repartiment de responsabilitat: qui fabrica el model respon del seu producte, en comptes de demanar al legislador que li escrigui les regles.

Llegir-ne més: NVIDIA Newsroom — Jensen Huang a Dreamforce ↗

Zuckerberg sosté que l'alineació ja és un avantatge de mercat

Mark Zuckerberg, conseller delegat de Meta —propietària de Facebook, Instagram i WhatsApp—, va publicar la seva postura a les seves xarxes al voltant del 15 i el 16 de setembre: «There is a lot of debate about slowing progress on capabilities until alignment catches up. My view is that trust and alignment are quickly becoming the most important capabilities that will differentiate agents and models».

No va esmentar Anthropic. The New York Times va titular la seva informació com un atac a l'empresa d'Amodei, però aquesta és la lectura del diari, no el que va escriure Zuckerberg.

El seu raonament és que el mercat ja paga per la seguretat i que els laboratoris responen legalment del que llancen, així que una frenada pactada sobra. Va posar com a exemple el retard voluntari de tecnologies de Muse per motius de seguretat: «We just did it as part of our day-to-day work because it was clearly the right thing for people and for us».

Llegir-ne més: CNBC — Zuckerberg en el debat sobre frenar la IA ↗

OpenAI diu que ja es coordina amb Anthropic sense cap permís

El desmentiment més incòmode va arribar de l'altra empresa assenyalada. Chris Lehane, responsable global de política d'OpenAI —el laboratori estatunidenc que va crear ChatGPT—, va dir a periodistes a Washington dimarts 15 que la seva companyia fa setmanes que treballa en seguretat de la IA amb Anthropic i amb Google DeepMind, la divisió d'IA de Google.

El que tenen entre mans, segons el seu relat, són mesures de seguretat, un organisme d'estàndards per al sector i avaluadors externs integrats que vigilin la seguretat. Per a tot això, va sostenir Lehane, no cal cap exempció antimonopoli.

Va afegir que OpenAI dona suport a la disposició de la FRONTIER Act que exigeix organitzacions de verificació independents. És a dir: accepta que algú de fora revisi la feina, però no el permís excepcional que demana l'assaig.

Llegir-ne més: TechCrunch — OpenAI, Anthropic i Google fa setmanes que parlen de seguretat ↗

Els laboratoris petits veuen venir un mur regulatori

Bloomberg —agència i mitjà financer estatunidenc, propietat de Bloomberg L.P.— va publicar el 15 de setembre que l'impuls de seguretat d'Anthropic i OpenAI corre el risc d'aixecar un «mur regulatori» per als seus rivals: els costos de compliment pugen més de pressa del que un laboratori petit pot absorbir.

L'objecció pública més clara la va posar Aidan Gomez, conseller delegat de Cohere —laboratori d'IA amb seu a Toronto i centrat en models per a empreses—, que va titllar la proposta de càrtel: «un llop amb pell de xai, un càrtel amb un altre nom». La seva pregunta és qui escriu les normes, i la resposta que rebutja és que les escriguin «un grapat d'empreses d'IA escollides i dominants al mercat, de Silicon Valley».

L'inversor de capital risc David Sacks, fins al març de 2026 responsable d'IA a la Casa Blanca, ja el dia 13 va anar un pas més enllà i va descriure la supervisió promoguda pel mateix sector com una possible captura del regulador: laboratoris ja instal·lats que presenten la seva protecció comercial com a seguretat pública.

El teló de fons polític tampoc no acompanya. El 14 de setembre el president dels Estats Units va rebutjar a les xarxes tota regulació de la IA i va qualificar de «hoax» la por a la tecnologia.

Llegir-ne més: Bloomberg — «Regulatory Wall» per als rivals ↗