Anthropic declara oberta la singularitat davant l'FMI

Un cofundador a la tribuna dels governadors

Clark va cofundar Anthropic, l'empresa estatunidenca que desenvolupa els models Claude i que, segons Reuters, prepara la seva sortida a borsa. És una societat de benefici públic (Public Benefit Corporation) el consell de la qual elegeixen els accionistes i un fideïcomís propi, el Long-Term Benefit Trust. Amazon, accionista minoritari, es va comprometre a invertir-hi fins a 4.000 milions de dòlars el 2023 i uns altres 4.000 milions el 2024, segons Anthropic, i Google també hi ha invertit milers de milions, segons Reuters.

La conferència l'organitza des de fa més de sis dècades la Per Jacobsson Foundation, una fundació sense ànim de lucre creada als Estats Units amb aportacions del Banc de Pagaments Internacionals, de bancs centrals i de l'FMI; el seu consell el presideix Raghuram Rajan, execonomista en cap de l'FMI. Nigel Clarke, subdirector gerent de l'FMI, va reconèixer en presentar-lo que mai no l'havia pronunciada el cofundador d'una empresa tan jove.

«En diuen la singularitat. I crec que aquest any hem obtingut proves convincents que ja ha començat», va dir Clark. Com a mostra, va explicar que els investigadors d'Anthropic produeixen gairebé deu vegades més codi que en els quatre primers anys de l'empresa, una dada interna sense verificació independent.

Les proves porten lletra petita

Humanity's Last Exam és obra del Center for AI Safety (CAIS), una organització estatunidenca sense ànim de lucre, i de Scale AI, una empresa de dades per a IA de San Francisco en què Meta té una participació minoritària des del juny de 2025, segons Scale AI. Segons Clark, la millor marca vigent aquesta setmana és la de Claude Opus 5.5; la va publicar la mateixa Anthropic el 22 de setembre, amb eines.

FrontierMath és d'Epoch AI, un institut de recerca sense ànim de lucre que viu sobretot de subvencions i donacions —la més gran, de Coefficient Giving, l'antiga Open Philanthropy— i que va desenvolupar la prova amb finançament d'OpenAI, que té accés exclusiu a una part dels problemes. Clark no va distingir nivells: segons Epoch AI, el seu 94 % correspon als tres primers, i en el nivell 4, el dels problemes de recerca, GPT-6.1 Sol, d'OpenAI, ja fa el ple.

Clark també va citar el físic indi Suvrat Raju, coautor de TheoPhysEval, una prova de física teòrica: segons va explicar, els models van insistir que els experts s'equivocaven i, en revisar-ho, aquests van trobar «errors subtils» en els seus càlculs. L'article, del 9 d'octubre, adverteix que els agents gairebé no empitjoren sense cercador, senyal que han memoritzat molta bibliografia.

Clark demana frenar, i de pressa

Clark demana «regles inusuals i serioses» per a la tecnologia i per a les empreses que la construeixen, «contenció» i avançar «a poc a poc i de manera deliberada». En un altre passatge, sobre la IA que investiga en IA, va avisar que, sense moltíssima cura, «podríem perdre el control de la tecnologia». Segons Clark, Dario Amodei, conseller delegat d'Anthropic, va plantejar posar un sostre a la intel·ligència d'aquests sistemes.

I el termini és curt: on Carl Sagan veia centenars de milers d'anys perquè la humanitat es tornés més sàvia, Clark hi veu «un grapat d'anys, clarament menys d'una dècada».

Des de l'Índia i la Xina li passen la factura

V. Anantha Nageswaran, assessor econòmic en cap del Govern de l'Índia, va avisar que «els ministeris d'Hisenda, els bancs centrals i les llars pagaran la factura si l'optimisme d'avui sobre la IA resulta erroni». El seu tercer risc va ser el més directe: «Un laboratori que frena perd la cursa i la seva valoració. Ningú no paga el laboratori per contenir-se, i aquesta estructura ja l'hem vista: es deia banca abans del 2008».

El 83 % que va citar sobre la memòria surt del mateix estudi del MIT: 15 dels 18 usuaris de ChatGPT no van saber citar bé la seva redacció en la primera sessió. Les seves xifres d'ocupació i d'inversió, recollides a la taula, coincideixen amb dos estudis del Stanford Digital Economy Lab i amb una estimació de l'economista Stijn Van Nieuwerburgh que recull l'ITIF (Information Technology and Innovation Foundation), un centre d'estudis de Washington. El 90 % de deute que va atribuir a Hyperion, el centre de dades de Meta, és xifra seva, sense confirmació de Meta.

Yan Shen, catedràtica d'Economia de l'Escola Nacional de Desenvolupament de la Universitat de Pequín, va parlar de «paradoxa». Segons Shen, la Xina ja té 700 milions d'usuaris d'IA generativa, però, segons els estudis de la seva escola, la IA encara no millora la rendibilitat de les cotitzades: l'adopten perquè ho fa la competència, i la inversió queda obsoleta abans de donar fruit.

Els 44 bilions venien de setembre

Clark va recuperar un escenari en què el PIB dels EUA podria arribar a 44 bilions de dòlars el 2030 i que ell mateix va qualificar de «molt estrafolari»: és l'escenari extrem que Anthropic va publicar al setembre. Nageswaran el va fer servir per al seu cinquè risc, el dels comptes públics, i va proposar que els ministeris d'Hisenda no comptin amb el dividend de la IA «fins que aparegui a les dades».