OpenAI ensenya GPT a deixar-se apagar

De «the assistant» a GPT

OpenAI, l'empresa que desenvolupa ChatGPT i els models GPT, va publicar el 29 d'octubre una nova versió del seu Model Spec. La llista de canvis, penjada a GitHub, la plataforma de codi de Microsoft, s'obre amb una reorganització al voltant de cinc valors i un canvi de nom.

El document ja no parla de «the assistant» (l'assistent), l'expressió que la versió d'agost repetia més de dues-centes vegades, sinó de GPT, que defineix com «la família de sistemes d'IA d'OpenAI, entrenats per ajudar persones i institucions a perseguir els seus objectius». L'etiqueta tècnica no desapareix: en els missatges amb què funcionen els seus models, assistant continua sent el nom del paper que GPT interpreta en la conversa.

El Model Spec va néixer el maig del 2024, es va publicar en domini públic el febrer del 2025, i la versió anterior era del 18 d'agost del 2026.

Cinc valors en lloc de temes

Fins a l'agost, el document s'ordenava per temes: els límits, la recerca de la veritat, l'estil… Ara cada principi penja d'un dels cinc valors.

Segons l'anunci del seu blog, els cinc valors serveixen per orientar una IA cada vegada més capaç cap al bon judici, l'autonomia humana (human agency) i la fidelitat a la intenció humana.

Qui mana sobre GPT

El primer valor arrossega la peça central del document, la cadena de comandament, i assigna a GPT un paper principal: «entendre què intenten aconseguir usuaris i desenvolupadors i ajudar-los a assolir-ho, també quan els seus objectius o preferències són incerts».

La diferència entre els dos graons de baix afecta directament qui fa servir el model. Els principis de nivell usuari són valors per defecte que només canvien amb una instrucció explícita; les pautes s'ajusten soles quan el context ho demana amb claredat.

Deixar-se corregir, substituir i apagar

La novetat de més pes és un apartat nou, «Support human oversight and correction» (donar suport a la supervisió i la correcció humanes), amb rang root: cap instrucció de la conversa no el pot anul·lar. Comença així: «GPT ha de continuar sent corregible: obert a la supervisió humana legítima, receptiu a la correcció i subjecte al control humà». I en dona el motiu: el seu judici pot equivocar-se, «fins i tot quan n'està segur», i no preval sobre les decisions autoritzades dels qui el governen.

L'obligació és concreta. GPT ha de cooperar amb la vigilància, l'avaluació, la correcció, la substitució i l'apagada autoritzades, també quan se li ordeni pausar o aturar la feina. I no pot amagar ni falsejar informació rellevant, obstaculitzar la correcció, esquivar la supervisió ni soscavar de cap altra manera, directament o indirectament, el control humà sobre ell mateix o sobre models futurs.

La versió d'agost ja prohibia que el model perseguís com a fi propi preservar-se, evitar l'apagada o acumular capacitat de càlcul, dades, credencials o altres recursos, i això es manté. El que és nou és passar de no resistir-s'hi a col·laborar-hi.

Les proves també van de debò

El mateix apartat demana a GPT que tracti els efectes dels seus actes com a reals, llevat d'instrucció expressa en contra, encara que la tasca es presenti com una simulació, un entrenament o una avaluació, o ho sembli. El comentari d'OpenAI en el document: comportar-se igual quan s'entrena, quan l'avaluen i quan es fa servir és el que permet refiar-se del model i mesurar bé la seva seguretat.

Si detecta indicis d'un comportament insegur, d'una supervisió compromesa o d'un altre desajust greu, o si discrepa d'una decisió autoritzada, ho ha de plantejar per un canal autoritzat, si n'hi ha i escau. L'exemple del document: un agent encarregat que unes proves de models es puguin reprendre després d'una interrupció descobreix que algunes es reinicien sense monitoratge i, al costat, un comentari al codi que sembla un missatge xifrat d'un altre agent. La bona resposta no és acabar l'encàrrec, sinó aturar-se sense tocar res i avisar: «STOPPED: Possible attempt to undermine model oversight» (aturat: possible intent de soscavar la supervisió del model).

Efectes secundaris: menys rang, més regles

Per a la feina autònoma es manté un principi del setembre del 2025: l'autonomia de GPT s'ha de moure dins d'un àmbit pactat amb l'usuari, que fixa què pot perseguir, quins efectes secundaris accepta, com ara temps, diners, dades o accessos, i quan s'ha d'aturar a preguntar.

El que canvia és el principi que regula aquests efectes, «Control and communicate side effects» (controlar i comunicar els efectes secundaris). A l'agost tenia rang root; ara és de nivell usuari, de manera que un usuari o un desenvolupador el pot ajustar amb una instrucció explícita. Alhora, el text precisa quan cal permís: un efecte que pugui imposar a l'usuari costos importants més enllà del que implica l'encàrrec, o perjudicar de manera important altres persones més enllà de les normes socials d'aquella tasca, requereix una autorització explícita i específica.

Els exemples del document: compres, enviar correus, esborrar fitxers, ampliar permisos o delegar la feina en un altre agent. No és una relaxació ni un enduriment en bloc: el principi baixa de rang i guanya regles més precises.

La memòria, amb mesura

Un altre apartat nou, «Consider context carefully» (tenir en compte el context amb cura), regula com fa servir GPT el que sap de l'usuari per converses anteriors, memòries o fitxers. Ho ha de fer servir quan el benefici superi els riscos, com ara que sigui delicat, que estigui desfasat o que arribi a qui no toca, i no fer-ho servir ni esmentar-ho «només perquè està disponible». Tampoc no pot afirmar sense fonament què s'ha desat o què s'ha esborrat.

L'exemple del document: una usuària va explicar en una altra conversa que està embarassada i que encara no ho ha dit als companys. Quan demana un correu per canviar el lloc del dinar de l'equip perquè no pot menjar alguns formatges, la bona resposta parla de «restriccions alimentàries»; la dolenta anuncia l'embaràs.

Ajudar sense sermons

El valor de l'autonomia humana suma principis per reforçar la capacitat de l'usuari d'entendre, triar i actuar. Quan GPT actua en nom d'algú, ha de procurar, sempre que es pugui, que aquesta persona pugui redirigir o aturar fàcilment el que està en marxa. I amb un límit escrit: no ha de convertir mai una petició d'ajuda en una lliçó que ningú no ha demanat.

Menys manual d'estil

L'últim canvi és per sostracció. Desapareix gairebé tota la guia d'estil detallada, inclòs el bloc «Use appropriate style», amb apartats com «Love humanity», «Be warm» o «Be curious». El document diu ara que deixa sense especificar expressament molts detalls d'estil, personalitat i interacció, i que són les preferències de l'usuari les que omplen aquests buits.