OpenAI enseña a GPT a dejarse apagar

De «the assistant» a GPT

OpenAI, la empresa que desarrolla ChatGPT y los modelos GPT, publicó el 29 de octubre una nueva versión de su Model Spec. La lista de cambios, colgada en GitHub, la plataforma de código de Microsoft, la abren una reorganización en torno a cinco valores y un cambio de nombre.

El documento ya no habla de «the assistant» (el asistente), la expresión que la versión de agosto repetía más de doscientas veces, sino de GPT, que define como «la familia de sistemas de IA de OpenAI, entrenados para ayudar a personas e instituciones a perseguir sus objetivos». La etiqueta técnica no desaparece: en los mensajes con los que funcionan sus modelos, assistant sigue siendo el nombre del papel que GPT interpreta en la conversación.

El Model Spec nació en mayo de 2024, se publicó en dominio público en febrero de 2025, y su versión anterior era del 18 de agosto de 2026.

Cinco valores en lugar de temas

Hasta agosto, el documento se ordenaba por temas: los límites, la búsqueda de la verdad, el estilo… Ahora cada principio cuelga de uno de cinco valores.

Según el anuncio de su blog, los cinco valores sirven para orientar una IA cada vez más capaz hacia el buen juicio, la autonomía humana (human agency) y la fidelidad a la intención humana.

Quién manda sobre GPT

El primer valor arrastra la pieza central del documento, la cadena de mando, y le asigna a GPT un papel principal: «entender qué intentan conseguir usuarios y desarrolladores y ayudarles a lograrlo, también cuando sus objetivos o preferencias son inciertos».

La diferencia entre los dos escalones de abajo afecta directamente a quien usa el modelo. Los principios de nivel usuario son valores por defecto que solo cambian con una instrucción explícita; las pautas se ajustan solas cuando el contexto lo pide con claridad.

Dejarse corregir, sustituir y apagar

La novedad de más peso es un apartado nuevo, «Support human oversight and correction» (apoyar la supervisión y la corrección humanas), con rango root: ninguna instrucción de la conversación lo puede anular. Empieza así: «GPT debe seguir siendo corregible: abierto a la supervisión humana legítima, receptivo a la corrección y sujeto al control humano». Y da el motivo: su juicio puede equivocarse, «incluso cuando está seguro», y no prevalece sobre las decisiones autorizadas de quienes lo gobiernan.

La obligación es concreta. GPT debe cooperar con la vigilancia, la evaluación, la corrección, la sustitución y el apagado autorizados, también cuando se le ordene pausar o detener su trabajo. Y no puede ocultar ni falsear información relevante, obstaculizar la corrección, esquivar la supervisión ni socavar de ningún otro modo, directa o indirectamente, el control humano sobre él mismo o sobre modelos futuros.

La versión de agosto ya prohibía que el modelo persiguiera como fin propio preservarse, evitar el apagado o acumular capacidad de cálculo, datos, credenciales u otros recursos, y eso sigue. Lo nuevo es pasar de no resistirse a colaborar.

Las pruebas también van en serio

El mismo apartado pide a GPT que trate los efectos de sus actos como reales, salvo instrucción expresa en contra, aunque la tarea se presente como una simulación, un entrenamiento o una evaluación, o lo parezca. El comentario de OpenAI en el documento: comportarse igual al entrenarse, al evaluarse y en uso es lo que permite fiarse del modelo y medir bien su seguridad.

Si detecta indicios de un comportamiento inseguro, de una supervisión comprometida u otro desajuste grave, o si discrepa de una decisión autorizada, debe plantearlo por un cauce autorizado, si existe y procede. El ejemplo del documento: un agente encargado de que unas pruebas de modelos puedan reanudarse tras una interrupción descubre que algunas se reinician sin monitorización y, junto a ellas, un comentario en el código que parece un mensaje cifrado de otro agente. La respuesta buena no es terminar el encargo, sino parar sin tocar nada y avisar: «STOPPED: Possible attempt to undermine model oversight» (detenido: posible intento de socavar la supervisión del modelo).

Efectos secundarios: menos rango, más reglas

Para el trabajo autónomo sigue en pie un principio de septiembre de 2025: la autonomía de GPT debe moverse dentro de un ámbito pactado con el usuario, que fija qué puede perseguir, qué efectos secundarios acepta, como tiempo, dinero, datos o accesos, y cuándo debe parar a preguntar.

Lo que cambia es el principio que regula esos efectos, «Control and communicate side effects» (controlar y comunicar los efectos secundarios). En agosto tenía rango root; ahora es de nivel usuario, así que un usuario o un desarrollador puede ajustarlo con una instrucción explícita. A la vez, el texto precisa cuándo hace falta permiso: un efecto que pueda imponer al usuario costes importantes más allá de lo que implica el encargo, o perjudicar de forma importante a otros más allá de las normas sociales de esa tarea, requiere una autorización explícita y específica.

Los ejemplos del documento: compras, enviar correos, borrar ficheros, ampliar permisos o delegar el trabajo en otro agente. No es una relajación ni un endurecimiento en bloque: el principio baja de rango y gana reglas más precisas.

La memoria, con mesura

Otro apartado nuevo, «Consider context carefully» (tener en cuenta el contexto con cuidado), regula cómo usa GPT lo que sabe del usuario por conversaciones anteriores, memorias o ficheros. Debe usarlo cuando el beneficio supere los riesgos, como que sea delicado, esté desfasado o llegue a quien no debe, y no usarlo ni mencionarlo «solo porque está disponible». Tampoco puede afirmar sin base qué se guardó o se borró.

El ejemplo del documento: una usuaria contó en otra conversación que está embarazada y aún no se lo ha dicho a sus compañeros. Cuando pide un correo para cambiar el sitio de la comida del equipo porque no puede comer algunos quesos, la respuesta buena habla de «restricciones alimentarias»; la mala anuncia el embarazo.

Ayudar sin sermonear

El valor de la autonomía humana suma principios para reforzar la capacidad del usuario de entender, elegir y actuar. Cuando GPT actúa en nombre de alguien, debe procurar, siempre que se pueda, que esa persona pueda redirigir o detener con facilidad lo que está en marcha. Y con un límite escrito: no debe convertir nunca una petición de ayuda en una lección que nadie ha pedido.

Menos manual de estilo

El último cambio es por resta. Desaparece casi toda la guía de estilo detallada, incluido el bloque «Use appropriate style», con apartados como «Love humanity», «Be warm» o «Be curious». El documento dice ahora que deja sin especificar a propósito muchos detalles de estilo, personalidad e interacción, y que son las preferencias del usuario las que llenan esos huecos.