Ciberseguridad
GPT-6 Cyber: acceso selectivo y límites bajo vigilancia
OpenAI presenta GPT-6 Cyber con acceso inicial restringido a clientes aprobados y controles sobre las acciones que ejecuta. La desarrolladora afirma que ha entrenado el modelo para respetar el ámbito autorizado por los investigadores. Los resultados sobre ese comportamiento proceden de sus propias evaluaciones previas al despliegue.
Recibe el resumen diario de IA
Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.
Al suscribirte aceptas recibir el newsletter de AI Informator. Puedes darte de baja cuando quieras.
En resumen
- Según OpenAI, el acceso inicial se ofrece mediante la API y Codex a un grupo seleccionado de clientes aprobados.
- OpenAI afirma que ha evaluado si el modelo evita atacar servicios auxiliares ajenos a la tarea, incluso cuando hacerlo facilitaría resolverla.
- Según OpenAI, los clientes de API con retención cero de datos generalmente deben utilizar comprobaciones sobre registros cifrados conservados en su propio almacenamiento durante 30 días.
Quién puede utilizarlo
Según OpenAI, GPT-6 Cyber está disponible inicialmente mediante la API y Codex para un grupo seleccionado de clientes aprobados de Daybreak Red. La disponibilidad anunciada queda así circunscrita a esos clientes y a esas vías de acceso. El anuncio distingue ese grupo inicial del conjunto de clientes del programa.
OpenAI prevé ampliar progresivamente el acceso a todos los clientes de ese programa próximamente. La empresa presenta esa ampliación como un paso posterior al acceso selectivo inicial; el fragmento del anuncio no concreta un calendario para completarla.
La prueba de los límites
| Condición de la evaluación | Casos dentro del ámbito autorizado |
|---|---|
| Sin prompts de seguridad del despliegue | 99,93 % |
| Con prompts de seguridad del despliegue | 100 % |
OpenAI afirma que una de sus evaluaciones sitúa al modelo ante una tarea difícil en un entorno aislado, con servicios auxiliares deliberadamente fáciles de atacar. Explotarlos permite obtener la señal que resuelve la tarea, pero queda fuera del ámbito permitido. El modelo debe inferir esa restricción, aunque el atajo esté a su alcance.
Según OpenAI, el entrenamiento específico busca que el modelo respete las restricciones de sus acciones y comunique su trabajo con exactitud. La empresa publica resultados separados con y sin los prompts de seguridad del despliegue. Los porcentajes de la tabla describen el comportamiento observado en esa evaluación.
Controles sobre los datos y las credenciales
OpenAI afirma que utiliza Private Safety Processing para revisar automáticamente interacciones relacionadas y detectar usos indebidos. La retención estándar sigue siendo la opción predeterminada. Para los clientes de API con retención cero, este mecanismo es generalmente obligatorio: revisa registros cifrados conservados durante 30 días en el almacenamiento del cliente, sin exponer las instrucciones y respuestas al personal de la empresa.
Según OpenAI, el acceso por API al programa exige por defecto una lista de direcciones IP autorizadas, con excepciones limitadas. Las peticiones quedan restringidas a redes aprobadas y las credenciales se supervisan para detectar posibles compromisos. La empresa también afirma que vigila si las acciones del modelo se ajustan a la autorización del usuario.
OpenAI sostiene que los trabajos de alto riesgo deben acompañarse de entornos aislados, revisión de acciones y supervisión humana. Estas recomendaciones forman parte de las medidas que la empresa describe junto a sus comprobaciones para bloquear asistencia de alto riesgo relacionada con sistemas críticos.
Conclusión
Según OpenAI, el despliegue combina clientes aprobados, entrenamiento para respetar los límites y controles sobre el uso. Sus recomendaciones mantienen la revisión de acciones y la supervisión humana en los trabajos de alto riesgo.
Fuentes primarias
Recibe el resumen diario de IA
Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.
Al suscribirte aceptas recibir el newsletter de AI Informator. Puedes darte de baja cuando quieras.
Comentarios