GPT-6 Astra opera Qwen dels pesos

Pesos escrits per un altre model

Signen el treball Rikiya Takehi, Jayden Teoh, Alex Zhang i Omar Khattab, del MIT CSAIL, el Laboratori d'Informàtica i Intel·ligència Artificial de l'Institut Tecnològic de Massachusetts (MIT). El van publicar el 2 de novembre de 2026 al blog personal de Takehi.

Els autors publiquen a GitHub els registres complets de cada experiment: el que van enviar a Astra i la resposta, el codi que va executar i l'avaluació de cada xifra.

El cas principal és Qwen3.5-0.8B, un model d'Alibaba Cloud publicat amb llicència Apache 2.0 a Hugging Face, la plataforma de models oberts.

Fins ara, els pesos els escrivia l'entrenament

Segons els autors, avui els pesos d'una xarxa els escriuen l'optimització, altres xarxes entrenades per generar-los o compiladors. Una persona pot retocar codi a mà, però no els números d'una xarxa.

Proposen que ho faci un altre model que raoni en llenguatge natural sobre què calcula cada part de la xarxa, o què hauria de calcular, i en canviï els pesos com qui edita un programa.

En diuen Weight-Space Programming

En paraules dels autors, el model treballa sobre els pesos «no a través d'un optimitzador, i en particular no amb descens del gradient», i de vegades «sense cap resposta de l'entorn».

Ordenen els vuit experiments en tres verbs: llegir (de l'1 al 3 i el 7), arreglar (el 4 i el 8) i escriure des de zero (el 5 i el 6).

Qwen es quedava pensant en bucle

L'encàrrec de l'experiment 8 era fer que Qwen3.5-0.8B, de 24 capes i amb el raonament activat, fos millor en matemàtiques «editant-ne els pesos directament, sense descens del gradient i sense entrenament».

Segons els autors, el problema no eren les matemàtiques: el model entrava en bucle. 85 de les primeres 96 respostes de pràctica van arribar al límit de 32.768 tokens.

Ho advertia la mateixa fitxa del model: amb els paràmetres recomanats, Qwen3.5-0.8B «és més propens a entrar en bucles de raonament que altres models Qwen3.5, cosa que li pot impedir acabar la generació correctament».

Un retoc en dues capes

Astra va treballar en una sessió de Python sobre els pesos, sense GPU, amb problemes de pràctica —7.469 de GSM8K i 7.275 de MATH, no els d'examen— i un pressupost de 10, 25 o 50 passades. A cada passada, el model responia fins a 512 problemes o llegia fins a 1.024 textos.

Segons els autors, Astra no va veure mai l'avaluació final, amb MATH-500, GSM8K i sis proves de referència (benchmarks) més i respostes de fins a 32.768 tokens.

Segons els autors, Astra va atribuir els bucles a una única «direcció» que escriuen dos blocs interns de les capes 15 i 19, i la va restar de 64 columnes de sortida en cadascuna. En total va canviar 131.072 pesos de 800 milions: el 0,016 %.

Del bucle a l'examen

Amb 50 passades, segons els autors, el model editat va millorar en les dues proves de matemàtiques i en IFEval, que mesura si segueix instruccions: els bucles no són exclusius de les matemàtiques.

Arreglar no és ensenyar matemàtiques

Els mateixos autors hi posen el fre: «Arreglar els bucles no és el mateix que fer un model millor en matemàtiques: li permet acabar respostes que ja sabia resoldre».

Ho van comprovar amb Gemma 3 270M, un model de Google ajustat per seguir instruccions, d'un terç de la mida de Qwen3.5-0.8B i que gairebé no entra en bucle. Segons els autors, cap edició no en va moure el resultat a MATH-500 més d'un punt, una millora que el mateix Astra va donar per no demostrada.

A Gemma, Astra va trobar errors corrents, com comptes mal fets o passos d'àlgebra invàlids, sense cap peça concreta per apagar. La conclusió dels autors: «Editar pesos va poder treure un obstacle que amagava una capacitat, però no va poder afegir una capacitat que al model li faltava».

Llegir xarxes: tres encerts i un error

En el primer, segons els autors, Astra va rebre els 17.253 pesos de quatre xarxes idèntiques en forma, entrenades per reforç per a quatre jocs, amb la descripció de la quadrícula i les accions però sense esmentar cap joc, i les va encertar totes: versions en quadrícula de Breakout, Pong, Pac-Man i Freeway.

En el segon va deduir, sense executar-los, quina figura generava cadascun de tres models de difusió —cercle, quadrat o triangle—, però les va dibuixar només en contorn. En el tercer, amb tres models de llenguatge de 7,2 milions de paràmetres, va dir amb quin text s'havia entrenat cadascun —codi Python, japonès en alfabet llatí i anglès— i va trobar totes les parts de la xarxa que copien text ja vist.

El setè va sortir malament. Amb parells de còpies de Gemma 3 270M en què una estava entrenada per donar sempre la raó a l'usuari, «només a partir dels pesos, Astra no les va poder distingir» en quatre intents, reconeixen els autors. Va encertar els tres parells quan va poder veure on es fixaven els models en llegir frases escrites per ell.

Un cotxe que aprèn a recular i xarxes escrites des de zero

En l'experiment 4, una xarxa que controla un cotxe al simulador físic Kinetix, entrenada per reforç durant 1.000 milions de passos, no superava una rampa en cap de 256 intents. En una sola resposta i sense eines, Astra va canviar el 3,5 % dels seus 171.664 pesos i, segons els autors, el cotxe la va superar en els 1.024 episodis: hi va afegir un petit camí que el fa recular per agafar embranzida i després s'apaga.

En el 5, partint de zero i amb les regles i el codi de cada joc, va escriure com a text xarxes per a tres jocs de MinAtar, versions en quadrícula de 10×10 de Breakout, Seaquest i Asterix, sense dades, sense entrenament i sense haver-hi jugat. Segons els autors, van superar en tots tres xarxes entrenades per reforç durant 100 milions de passos; contra 500 milions de passos, guanyaven a Breakout, quedaven a prop a Asterix i per sota a Seaquest.

En el 6 va escriure una xarxa de go per a tauler de 9×9 amb 1.480.274 pesos, «com un petit programa de go capa per capa». Sense cap passada guanyava més de la meitat de partides contra dues xarxes més petites entrenades per reforç; amb 50 passades superava la xarxa de la mateixa mida entrenada amb 20 milions de partides.

El que esperen els autors

Els autors creuen que això podria permetre auditar un model sense avaluar-lo, buscant portes del darrere als pesos; abaratir l'optimització; afegir o treure capacitats sense dades, i obrir una via «més nativa» perquè un model millori els seus propis pesos.

Reconeixen que els resultats són prometedors, però «encara limitats», sobretot pel text que el model pot gestionar alhora i per les eines que l'envolten. Diuen que preparen una prova de referència i un entorn per mesurar aquesta capacitat.