Amodei propone tres pasos para marcar el ritmo de la IA frontier, y Microsoft se suma

Un ensayo de 3.800 palabras pide darse tiempo, no parar

Dario Amodei publicó el sábado 12 de septiembre por la mañana "We Must Pace the Frontier", un ensayo de 3.800 palabras. Su tesis es que las empresas que entrenan los modelos más avanzados deben marcar deliberadamente el ritmo del progreso, y el texto no se queda en el diagnóstico: propone tres pasos para hacerlo.

El propio ensayo sale al paso del malentendido más previsible. "Pacing does not mean halting model training or technical progress", escribe Amodei. Lo que pide es que las empresas se den tiempo para alinear y proteger sus modelos, y que después sean terceros quienes lo confirmen.

La urgencia, según el texto, viene de los modelos nuevos, que "are more capable of deceiving tests, and thus may appear more aligned while having serious problems that go undetected". Un sistema que aparenta estar alineado cuando se le examina es justamente el que una revisión final no detecta.

Leer más: Dario Amodei — We Must Pace the Frontier ↗

El primer paso instala evaluadores externos dentro de la empresa

El primer paso se llama embedded evaluators. Cada empresa frontier se comprometería a dar acceso continuo y "employee-like" a un equipo de evaluadores externos, es decir, el mismo nivel de acceso del que dispone un empleado y no el de una auditoría que llega, mira y se va.

Ese equipo verificaría el cumplimiento de las prácticas de seguridad, notificaría los incidentes y evaluaría la alineación no solo de los modelos terminados, sino de los propios procesos de entrenamiento. El precedente que cita Amodei son los supervisores que los reguladores bancarios mantienen dentro de las entidades que vigilan.

Es el único de los tres pasos que no depende de que nadie más se mueva, y Anthropic lo asume de forma unilateral y con efecto inmediato.

Los otros dos pasos dependen de los gobiernos

El segundo paso, la coordinación democrática, pide que las empresas frontier de países democráticos acuerden estándares comunes de seguridad y límites al ritmo de progreso no supervisado. Amodei admite ahí un obstáculo que no puede resolver solo: algunas formas de coordinación entre competidores son jurídicamente problemáticas, y por eso reclama respaldo del Gobierno.

El tercero, la coordinación global, consiste en que los gobiernos democráticos intenten coordinarse con los autoritarios. El ensayo asume de entrada la dificultad: el problema no está en firmar, sino en verificar que se cumple lo firmado.

Amodei sostiene que "the most effective method of pacing is via regulation that targets all U.S. frontier AI companies, as that covers even those who are unwilling to cooperate voluntarily", y añade el problema de calendario: "Unfortunately, passing laws can take time, and AI is advancing very quickly." Mientras tanto, pide al Gobierno de Estados Unidos que dé luz verde expresa a que las empresas "work together to set standards", porque hoy temen represalias por antimonopolio si lo hacen.

Musk, Altman y Nadella respondieron en cuarenta y ocho horas

Elon Musk, de xAI, coincidió con Amodei ese mismo 12 de septiembre en X. Sam Altman, de OpenAI, escribió el mismo día que "pace the frontier" "has been a primary topic of discussions we've had at OpenAI in recent weeks", y fue un paso más allá del respaldo: comprometió a OpenAI a dar también acceso de tipo empleado a evaluadores independientes.

El 13 de septiembre entró Microsoft. Satya Nadella celebró la investigación, el foco y el "deliberate pacing" que hacen falta para que la alineación sea un objetivo de diseño, y respaldó de forma expresa la idea de los embedded evaluators. Su formulación fue tajante: "Any pursuit of superintelligence has to be grounded in the core principle that if the AI we build is not helping humanity and under human control, it's not worth pursuing."

Nadella anunció además algo con fecha: Microsoft publica el 14 de septiembre el código de conducta de sus modelos propios MAI, y lo abre a consulta pública.

Leer más: Sam Altman en X, 12 de septiembre ↗

Solo una empresa ha publicado los términos

Como ejemplo del tipo de equipo que ocuparía ese puesto de evaluador integrado, el ensayo cita a METR.

A fecha de hoy, sin embargo, solo Anthropic ha publicado términos concretos de lo que ofrece: puestos de trabajo, credenciales, portátiles de empresa y derecho a publicar. El compromiso de OpenAI y el respaldo de Microsoft son, por ahora, intención declarada con el detalle pendiente.

La diferencia no es menor. Un compromiso anunciado por una empresa no es todavía una evaluación independiente, y sin términos escritos no se sabe qué podrán mirar esos evaluadores ni qué podrán contar después.