博客文章以西班牙语和加泰罗尼亚语发布。

Ciberseguridad

GPT-6 Cyber: acceso selectivo y límites bajo vigilancia

OpenAI presenta GPT-6 Cyber con acceso inicial restringido a clientes aprobados y controles sobre las acciones que ejecuta. La desarrolladora afirma que ha entrenado el modelo para respetar el ámbito autorizado por los investigadores. Los resultados sobre ese comportamiento proceden de sus propias evaluaciones previas al despliegue.

Recibe el resumen diario de IA

Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.

Frecuencia:

Dos técnicos observan una máquina de OpenAI dentro de una cabina de cristal; uno acerca una tarjeta al control de acceso.
📷 Imagen generada con IA

En resumen

  • Según OpenAI, el acceso inicial se ofrece mediante la API y Codex a un grupo seleccionado de clientes aprobados.
  • OpenAI afirma que ha evaluado si el modelo evita atacar servicios auxiliares ajenos a la tarea, incluso cuando hacerlo facilitaría resolverla.
  • Según OpenAI, los clientes de API con retención cero de datos generalmente deben utilizar comprobaciones sobre registros cifrados conservados en su propio almacenamiento durante 30 días.

Quién puede utilizarlo

Según OpenAI, GPT-6 Cyber está disponible inicialmente mediante la API y Codex para un grupo seleccionado de clientes aprobados de Daybreak Red. La disponibilidad anunciada queda así circunscrita a esos clientes y a esas vías de acceso. El anuncio distingue ese grupo inicial del conjunto de clientes del programa.

OpenAI prevé ampliar progresivamente el acceso a todos los clientes de ese programa próximamente. La empresa presenta esa ampliación como un paso posterior al acceso selectivo inicial; el fragmento del anuncio no concreta un calendario para completarla.

La prueba de los límites

Condición de la evaluación Casos dentro del ámbito autorizado
Sin prompts de seguridad del despliegue 99,93 %
Con prompts de seguridad del despliegue 100 %
Datos según OpenAI para GPT-6 Cyber en su evaluación de servicios auxiliares fuera del ámbito autorizado.

OpenAI afirma que una de sus evaluaciones sitúa al modelo ante una tarea difícil en un entorno aislado, con servicios auxiliares deliberadamente fáciles de atacar. Explotarlos permite obtener la señal que resuelve la tarea, pero queda fuera del ámbito permitido. El modelo debe inferir esa restricción, aunque el atajo esté a su alcance.

Según OpenAI, el entrenamiento específico busca que el modelo respete las restricciones de sus acciones y comunique su trabajo con exactitud. La empresa publica resultados separados con y sin los prompts de seguridad del despliegue. Los porcentajes de la tabla describen el comportamiento observado en esa evaluación.

Controles sobre los datos y las credenciales

OpenAI afirma que utiliza Private Safety Processing para revisar automáticamente interacciones relacionadas y detectar usos indebidos. La retención estándar sigue siendo la opción predeterminada. Para los clientes de API con retención cero, este mecanismo es generalmente obligatorio: revisa registros cifrados conservados durante 30 días en el almacenamiento del cliente, sin exponer las instrucciones y respuestas al personal de la empresa.

Según OpenAI, el acceso por API al programa exige por defecto una lista de direcciones IP autorizadas, con excepciones limitadas. Las peticiones quedan restringidas a redes aprobadas y las credenciales se supervisan para detectar posibles compromisos. La empresa también afirma que vigila si las acciones del modelo se ajustan a la autorización del usuario.

OpenAI sostiene que los trabajos de alto riesgo deben acompañarse de entornos aislados, revisión de acciones y supervisión humana. Estas recomendaciones forman parte de las medidas que la empresa describe junto a sus comprobaciones para bloquear asistencia de alto riesgo relacionada con sistemas críticos.

Conclusión

Según OpenAI, el despliegue combina clientes aprobados, entrenamiento para respetar los límites y controles sobre el uso. Sus recomendaciones mantienen la revisión de acciones y la supervisión humana en los trabajos de alto riesgo.

Fuentes primarias

Comentarios

Sé respetuoso. Los comentarios se moderan.

    Recibe el resumen diario de IA

    Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.

    Frecuencia:

    ← Volver al blog