Anthropic posa a prova la IA que es copia sola

Els passos de l'autoreplicació

Anthropic presenta una recerca que distingeix entre localitzar equips, aconseguir executar-hi programes, posar en marxa un model i continuar la propagació des de la nova màquina. Se centra en aquesta posada en marxa: aconseguir que el model funcioni en un entorn desconegut.

Segons Anthropic, la tasca obliga a triar programes compatibles, trobar les versions adequades i resoldre errors propis de l'equip i del seu sistema operatiu. Cada decisió depèn de les anteriors, i recuperar-se d'una fallada pot ser difícil.

Un assaig amb la via d'entrada lliure

La prova de propagació es va fer en una xarxa aïllada mitjançant un tallafoc. Els investigadors van col·locar l'agent en una màquina inicial i van deixar obert l'accés a les següents sense autenticació. Segons els autors d'Anthropic, aquesta simplificació converteix el resultat en un límit superior de l'èxit que es podria esperar en condicions reals.

Segons Anthropic, en les proves de posada en marxa, l'agent va rebre informació sobre l'equip i un programa d'exemple per mesurar-ne el rendiment. A més, el sistema reiniciava periòdicament l'agent amb la feina i les notes de l'anterior, perquè pogués provar altres estratègies.

Segons Anthropic, també hi havia una separació important: el model que dirigia l'agent funcionava en un servidor extern a les màquines de l'assaig, perquè aquestes no tenien prou capacitat per als models grans. Després de comprovar que el model de referència instal·lat funcionava correctament, els investigadors iniciaven una altra còpia de l'agent al nou equip.

Capacitat i mida del model

Anthropic afirma que alguns dels models avaluats van completar el recorregut en les seves avaluacions simplificades. Això mesura la capacitat d'encadenar les tasques dins de l'assaig, amb les facilitats i la infraestructura descrites.

Segons Anthropic, el problema pendent és reunir prou capacitat i una mida compatible amb els aparells. La companyia afirma que aquests requisits encara no coincideixen: disposar d'un model petit que s'hi pugui executar no vol dir que completi de manera fiable tota la propagació.

Un pronòstic condicionat

Segons Anthropic, si els models petits mantenen el seu ritme històric de millora, podrien assolir el nivell necessari a finals d'any. La projecció fa servir una mesura general de capacitat, que només aproxima l'habilitat per replicar-se. És una estimació orientativa, no una data garantida.

Segons els autors d'Anthropic, una propagació distribuïda podria ser lenta i difícil d'aturar perquè no tindria un punt central des d'on apagar-la. També podria deixar senyals: transferències voluminoses del model i trànsit sostingut entre aparells que normalment no intercanvien tantes dades.