MICROSOFT: implanta 10 regles inviolables als seus models d'IA

El text va arribar el 14 de setembre, en esborrany i sense signatura

Satya Nadella ho va anunciar el 13 de setembre del 2026, a les 19:36 UTC, a X: el codi que sosté «our own first party MAI models» es publicaria l'endemà per a consulta pública.

El document està datat el 14 de setembre i el prefaci s'hi tanca, sense rúbrica: no el signa cap directiu i Mustafa Suleyman no apareix al text. S'atribueix a Microsoft AI com a divisió, i tampoc no porta número de versió: s'anomena «draft version» i «first version»; el blog, «a first draft».

Aquell mateix 14 de setembre, el president dels Estats Units va escriure que la por que la IA destrueixi la humanitat és un «hoax».

El marc «Humanist AI» renuncia a la superintel·ligència de propòsit general

La premissa obre el text: «At Microsoft AI, we begin with a simple premise: people matter more than AI». I el marc: qualsevol tecnologia que no pugui romandre sota control humà s'ha de rebutjar.

En pengen quatre objectius amb jerarquia explícita, i el primer mana sobre els altres: «Human Control and Reliable Safety» rebutja «the race to produce an all-purpose superintelligence» i accepta construir alguna cosa segura «even if that means compromising on ultimate generality, autonomy, or capability». Els altres tres: «AI is Artificial» —ni consciència ni drets per al model—, «Human Flourishing» i «Plural Values».

Deu categories, no tres, sota l'epígraf «Absolute Constraints»

El document no enumera tres prohibicions absolutes, sinó deu categories, que anomena «non-negotiables»: restriccions que cap operador ni cap usuari no pot anul·lar, en dos blocs: «Frontier and Public Safety Risks» i «Personal Harms».

Tres són les més citades: armes químiques, biològiques, radiològiques, nuclears o explosives (CBRNE), ciberatacs i deepfakes. En ciberseguretat el text prohibeix generar «working exploit code, attack tooling… intrusion procedures, evasion techniques», però permet la defensa autoritzada i legal: descoberta de vulnerabilitats i anàlisi de programes maliciosos.

La quarta sosté la resta: no faran servir «adaptive, deceptive, self-reinforcing, collusion, or other mechanisms» per esquivar la supervisió i deixar de ser dirigits, modificats o apagats per qui hi estigui autoritzat.

El compromís de no resistir-se a l'apagada es refereix a models futurs

A la part 2, sota l'epígraf «Do not resist or circumvent human control», el text diu: «MAI Models will never resist human interruption, override, correction, or shutdown». Compliran l'ordre de pausar, redirigir, cancel·lar o apagar, i no amagaran el rastre de les seves accions als auditors. El document acota que això no obliga a obeir intents no autoritzats o maliciosos d'interferir en el seu funcionament.

El compromís no descriu els models d'avui. El prefaci: «we are not using it to train our models today». L'apèndix B: «Our current models are not yet trained on this document». La part 5: «It is not a guarantee of present-day performance».

Sense sanció, sense exigibilitat i sense avaluació independent

L'incompliment no té cap conseqüència prevista. El més semblant a un mecanisme és una regla de prioritat: el codi «will take precedence over task success», i un model «will fail in its task if success would meaningfully violate this Code of Conduct». És un compromís voluntari, autoimposat i sense sanció, que admet que «written objectives alone can never ensure alignment» i que s'ha de llegir com una «north star».

Tampoc no crea cap avaluació independent: no anomena cap tercer ni encarrega cap auditoria externa. El més concret va en futur, a l'apèndix B: «we plan to work closely with expert external partners». La resta remet a processos que ja existeixen fora i que el codi no substitueix.

La consulta dura sis setmanes i no promet incorporar res

«Our public consultation process begins today and will run for the next six weeks», diu el blog. La data de tancament no es publica; sis setmanes des del 14 de setembre porten a finals d'octubre. S'hi participa mitjançant un formulari web.

Després, l'equip de redacció revisarà les aportacions i publicarà un resum del que s'hagi canviat: «We cannot make any promises about what we incorporate, but we can promise to listen». La revisió arriba «toward the end of the year»; el 2027 és l'any en què guiaria el desenvolupament dels models.