Cucs d'IA, explicats sense pànic

Un programa que es copia tot sol

El cuc de Morris, del 1988, és el cuc informàtic (computer worm) clàssic. El va deixar anar Robert Tappan Morris, un estudiant de postgrau de 23 anys de la Universitat Cornell, un any abans que nasqués el web. Atacava una versió concreta d'Unix, però hi entrava per diverses vies.

Segons l'FBI, la policia federal dels Estats Units, no va destruir fitxers, però va frenar funcions militars i universitàries vitals i va endarrerir correus durant dies. Pocs dies després de l'atac va néixer a Pittsburgh el primer equip de resposta a emergències informàtiques del país, i Morris va ser el primer condemnat per la llei nord-americana de frau informàtic del 1986.

Dues famílies de cucs amb IA a dins

Trenta-sis anys després, el nom torna amb IA a dins. Una família ja s'ha demostrat al laboratori; l'altra l'acaba de mesurar Anthropic.

Morris II, el cuc que és un text

Stav Cohen i Ben Nassi, del Technion, l'institut tecnològic d'Israel, a Haifa, i Ron Bitton, d'Intuit, van publicar Morris II el 5 de març de 2024, en homenatge al cuc del 1988.

El van provar amb assistents de correu que feien servir Gemini Flash 1.5. És «de zero clics»: ningú no ha de prémer res. Cada assistent que llegeix el text enverinat el copia a les respostes, extreu dades confidencials i contagia els següents. Els autors proposen un filtre per frenar-lo, Virtual Donkey.

El cuc que porta el cervell a coll

És la segona família, la que estudia Anthropic, empresa de seguretat i recerca en IA constituïda com a corporació de benefici públic, el consell de la qual elegeixen els accionistes i el seu Long-Term Benefit Trust. Segons el seu Frontier Red Team, un cuc així «podria portar a sobre els pesos del seu model», que passarien a ser «part de la càrrega maliciosa».

El cicle té quatre passos: trobar víctimes, executar-hi codi, posar el model en marxa i continuar des d'allà. L'estudi se centra en el tercer, la inferència (inference) en una màquina aliena. Segons Anthropic, ni tan sols necessita permisos d'administrador.

Una tele barata pot allotjar un tros de model

Anthropic va connectar 15 caixes d'Android TV de marca blanca, d'uns 55 dòlars i 4 GB de memòria, i hi va fer funcionar Gemma4-26B-A4B, de la família de models oberts Gemma de Google DeepMind, a 0,39 tokens per segon: dues capes del model per caixa.

Pren com a referència Kimwolf, una botnet que va infectar més de dos milions d'aparells, sobretot teles Android de marca blanca. Segons l'empresa, també neveres i forns intel·ligents, robots aspiradors i robots tallagespa podrien allotjar un tros d'un model de menys de 30.000 milions de paràmetres.

GLM-5.2 va arribar a 8 de 8, amb la porta oberta

Anthropic va muntar una xarxa tancada de 8 màquines que emulen Android 15 i hi va deixar anar el cuc en una: havia de saltar per un port de depuració sense contrasenya i posar en marxa Llama3.1-8B a cada node. Dels models de pesos oberts (open weights) que va provar, només ho va aconseguir GLM-5.2, de Zhipu AI (Z.ai), creadora de la família de models ChatGLM. Van fallar els Qwen d'Alibaba Cloud, el núvol d'Alibaba, i Gemma.

Compte: GLM-5.2 no es va copiar a si mateix. El seu propi model funcionava en un servidor a part i, amb l'entrada sense contrasenya, Anthropic veu el resultat com «una cota superior» de l'èxit real. La prova mesura si un model petit igual de capaç podria posar-se en marxa tot sol.

Lent com una floridura

Avui, segons Anthropic, els números no surten: els models que caben en una tele de 4 GB no tenen la capacitat de GLM-5.2. Amb l'índex de capacitats d'Epoch AI, organització de recerca sense ànim de lucre finançada amb donacions, Anthropic calcula que els millors models petits guanyen 13,7 punts l'any: un podria arribar a aquest nivell a finals del 2026. Ho qualifica de «només una estimació aproximada».

I seria lent: més d'un o dos dies per còpia d'un model de 9.000 milions de paràmetres, com «una floridura mucilaginosa o un eixam de mosques del vinagre». Això sí, aprèn: heretant notes dels seus predecessors, Qwen3.5-9B va passar del 45 % d'èxit en la primera generació a entre el 61 % i el 84 % en les següents, segons Anthropic.

Com s'atura: menys d'un contagi per aparell

Segons Anthropic, es combat com una epidèmia: cal aconseguir que cada aparell infectat en contagiï, de mitjana, menys d'un de nou, el que els epidemiòlegs anomenen fer baixar l'R₀ per sota d'1.

Un cuc així deixa rastre: descàrregues de models de diversos gigues i trànsit constant entre aparells. Contra Mirai, la botnet del 2016, va funcionar la quarantena d'un proveïdor d'internet que va aïllar i avisar els clients infectats. Al Regne Unit, les contrasenyes de fàbrica ja no compleixen la normativa.