Investigació
OpenAI afirma haver assolit el seu becari de recerca automatitzat mentre el seu científic en cap reclama cautela extrema
OpenAI va publicar el 6 de setembre dos textos que convé llegir junts: un sosté que la companyia ha complert, segons els seus propis mesuraments, l'objectiu de disposar d'un research intern (becari de recerca) automatitzat; l'altre, signat pel seu científic en cap, demana cautela extrema i coordinació internacional. Són afirmacions i expectatives internes, i aquests documents no aporten una validació independent de la fita.
Rep el resum diari d'IA
Cada matí, l'essencial de la intel·ligència artificial al teu correu, sense fum. Al dia amb la IA.
En subscriure-t'hi acceptes rebre el butlletí d'AI Informator. Pots donar-te de baixa quan vulguis.
En resum
- OpenAI diu haver assolit el setembre de 2026, segons mesuraments interns que qualifica de preliminars, l'objectiu d'un becari de recerca automatitzat anunciat la tardor anterior, i situa el març de 2028 la meta d'un investigador d'IA automatitzat.
- A mitjan agost, l'investigador medià per ús d'agents emprava més de 600 dòlars diaris d'inferència valorada a preus d'API i el percentil 90 superava els 7.000 dòlars: són volums de tokens tarifats, no factures ni despesa real.
- També a mitjan agost, l'organització de recerca acumulava 3,1 jornades-agent per cada jornada humana de vuit hores, una mesura de durada agregada d'execució que no quantifica rendiment ni substitució de persones.
- Jakub Pachocki, científic en cap d'OpenAI, sosté que cap laboratori no ha resolt l'alineament i la monitorització prou com per continuar escalant a màxima velocitat gaire més temps.
La fita és una afirmació de la mateixa companyia
OpenAI defineix el seu becari de recerca automatitzat com un sistema capaç d'executar tasques de recerca ben definides sota direcció humana, incloses algunes que a un investigador expert li portarien diversos dies. L'empresa afirma que els seus mesuraments indiquen que ha assolit aquest objectiu, anunciat la tardor passada, i que avança cap a un investigador d'IA automatitzat el març del 2028.
Convé subratllar l'estatus d'aquesta declaració: procedeix de dades internes, la mateixa companyia reconeix que els seus mètodes de mesurament són preliminars i aquests dos documents no aporten una validació independent que corrobori la fita. Res no hi sosté que s'hagi aconseguit una superintel·ligència ni que els sistemes operin sense direcció humana.
Les xifres d'ús mesuren activitat, no capacitat cognitiva
Els indicadors publicats descriuen adopció de coding agents (agents de codificació). A començament d'any, l'investigador medià per ús els emprava de manera modesta; a mitjan agost els integrava diàriament, amb més de 600 dòlars diaris d'inferència valorada a preus d'API (application programming interface, interfície de programació d'aplicacions), mentre que el percentil 90 depassava els 7.000 dòlars. Aquestes quantitats tarifiquen consum de tokens: no són factures ni despesa efectiva, ni serveixen per mesurar intel·ligència o ocupació desplaçada.
El mateix passa amb la dada de 3,1 jornades-agent per cada jornada humana, referida a mitjan agost del 2026: reflecteix durada agregada d'execució d'agents davant d'hores de treball humà, no productivitat comparada ni reemplaçament. Creixen també els fluxos amb quatre o més agents simultanis, comptant subagents derivats, i els experiments per experimentador actiu van marcar l'agost el seu màxim des que es registren, el gener del 2025. La companyia presenta aquest augment com a correlacionat amb l'adopció de Codex, sense demostrar causalitat, i recorda que el seu còmput disponible també ha crescut i que les tasques menys automatitzables es convertiran en els colls d'ampolla rellevants.
La supervisió humana continua al centre del relat corporatiu
OpenAI insisteix que les persones fixen les prioritats de recerca, decideixen quines idees i resultats cal perseguir i determinen si un sistema s'escala, es pausa o es desplega. També afirma que va elevar els seus estàndards de seguretat i alineament i va traslladar aquesta feina a fases més primerenques del cicle de vida del model, exigint més evidència de comportament alineat durant tot l'entrenament.
Com a context ja conegut, després de l'incident de Hugging Face la companyia va pausar l'entrenament per reinforcement learning (aprenentatge per reforç) dels seus models més recents destinats a desplegament mentre endurien els seus entorns de recerca amb red-teaming (proves adversàries) i ampliava la monitorització. Segons el seu propi relat, allò no va aturar tota la recerca: algunes càrregues es van reprendre amb controls reforçats i altres van continuar pausades.
Pachocki demana barreres obligatòries i alentiments voluntaris
En un assaig publicat el mateix dia, el científic en cap Jakub Pachocki relata que a mitjan 2023, en el projecte intern RLSlow, va veure els primers resultats que el van convèncer que era possible escalar l'entrenament de models de raonament. Tres anys després expressa una expectativa personal, que atribueix a resultats interns, que aquest ritme pugui sostenir-se fins a desembocar en RSI (recursive self-improvement, autosuperació recursiva). És una previsió seva, no un fet establert.
La seva conclusió és de fre: demana cautela extrema, convertir compromisos com el Preparedness Framework o la Responsible Scaling Policy en llindars de seguretat àmpliament exigits i verificats per auditors externs, agències públiques o organismes internacionals, i considera prioritària la coordinació entre governs. Diu que espera que els alentiments voluntaris es generalitzin fins que existeixin aquests llindars compartits i situa el repte central a mantenir les persones dins del bucle de millora.
Conclusió
Els dos textos dibuixen una tensió que la mateixa companyia no amaga: presumeix d'una fita que només ella ha mesurat i, alhora, admet que no sap com arribar amb seguretat a una autosuperació recursiva alineada. Per al lector, la lectura útil passa per separar tres plans: mètriques d'ús d'agents, que descriuen activitat i no capacitat; afirmacions internes sobre fites, presentades sense contrast extern en aquests documents; i expectatives personals d'un directiu, que no són pronòstics verificats. Tots dos escrits coincideixen a reclamar el mateix per vies diferents, estàndards compartits de mesurament i llindars de seguretat verificables per tercers, i que aquestes propostes es concretin determinarà que es pugui comprovar des de fora què passa dins dels laboratoris de frontera.
Fonts primàries
Rep el resum diari d'IA
Cada matí, l'essencial de la intel·ligència artificial al teu correu, sense fum. Al dia amb la IA.
En subscriure-t'hi acceptes rebre el butlletí d'AI Informator. Pots donar-te de baixa quan vulguis.
Comentarios