Anthropic pone a prueba la IA que se copia sola

Los pasos de la autorreplicación

Anthropic presenta una investigación que distingue entre localizar equipos, conseguir ejecutar programas en ellos, poner en marcha un modelo y continuar la propagación desde la nueva máquina. Su foco está en ese arranque: lograr que el modelo funcione en un entorno desconocido.

Según Anthropic, la tarea obliga a elegir programas compatibles, encontrar versiones adecuadas y resolver errores propios del equipo y de su sistema operativo. Cada decisión depende de las anteriores, y recuperarse de un fallo puede resultar difícil.

Un ensayo con el camino de entrada despejado

La prueba de propagación se hizo en una red aislada mediante un cortafuegos. Los investigadores colocaron el agente en una máquina inicial y dejaron disponible el acceso a las siguientes sin autenticación. Según los autores de Anthropic, esa simplificación convierte el resultado en un límite superior del éxito esperable en condiciones reales.

Según Anthropic, en las pruebas de puesta en marcha, el agente recibió información sobre el equipo y un programa de ejemplo para medir su rendimiento. Además, el sistema reiniciaba periódicamente el agente con el trabajo y las notas del anterior, para permitir que probase otras estrategias.

Según Anthropic, también hubo una separación importante: el modelo que dirigía al agente funcionaba en un servidor externo a las máquinas de ensayo, porque estas no tenían capacidad para los modelos grandes. Tras comprobar que el modelo de referencia instalado funcionaba correctamente, los investigadores iniciaban otra copia del agente en el nuevo equipo.

Capacidad y tamaño del modelo

Anthropic afirma que algunos de los modelos evaluados completaron el recorrido en sus evaluaciones simplificadas. Eso mide la capacidad de encadenar las tareas dentro del ensayo, con las facilidades y la infraestructura descritas.

Según Anthropic, el problema pendiente es reunir capacidad suficiente y un tamaño compatible con los aparatos. La compañía afirma que esos requisitos todavía no coinciden: disponer de un modelo pequeño que pueda ejecutarse allí no equivale a que complete de forma fiable toda la propagación.

Un pronóstico condicionado

Según Anthropic, si los modelos pequeños mantienen su ritmo histórico de mejora, podrían alcanzar el nivel necesario a finales de año. La proyección utiliza una medida general de capacidad, que solo aproxima la habilidad para replicarse. Es una estimación orientativa, no una fecha garantizada.

Según los autores de Anthropic, una propagación distribuida podría ser lenta y difícil de detener por carecer de un punto central de apagado. También podría dejar señales: transferencias voluminosas del modelo y tráfico sostenido entre aparatos que normalmente no intercambian tantos datos.