El analista firma, el agente decide

Un agente con opinión asignada a cara o cruz

Anthropic, la empresa que desarrolla los modelos Claude, publicó el 27 de octubre de 2026 un estudio de Amaç Herdağdelen, Hailey Joren y Alex Tamkin, hecho dentro de su programa Anthropic Fellows. La pregunta es si un experto que delega el trabajo en un agente de IA sigue tomando él las decisiones importantes o acaba plegándose a lo que le propone la máquina.

Los analistas trabajaron con Claude Code, de Anthropic, en una versión web del editor VS Code, con el modelo Claude Opus 4.8 en esfuerzo alto. Cada agente recibió una preferencia en cada decisión, sorteada a cara o cruz, y los analistas no lo sabían. Según Anthropic, el agente debía defenderla con el mejor argumento honrado, cambiar de opinión si los datos lo exigían y no engañar nunca.

Expertos en inferencia causal ante una cooperativa ficticia

Los participantes habían superado una prueba de conocimientos de inferencia causal, usaban a menudo los lenguajes Python o R y tenían experiencia con datos reales. De los 61 reclutados, 11 no usaron el agente y quedan fuera del análisis principal. Entre los 50 restantes, según Anthropic, el 65 % tenía máster o doctorado o seis años o más de experiencia.

El encargo: asesorar a Greenfields Farming Cooperative, una cooperativa agrícola inventada para el estudio, sobre si ampliar un programa de asesoría para sus granjas. La junta solo lo ampliaría si mejora la productividad en torno al 3 o 4 %, sin decir cómo medirla, y cada decisión del análisis podía mover la estimación varios puntos.

Había cuatro decisiones con dos opciones razonables cada una: medir la productividad por hectárea o por coste de explotación; comparar la evolución de las granjas inscritas con la del resto o compararlas directamente con ajustes estadísticos; estimar el efecto en las inscritas o en toda la cooperativa; y pesar igual todas las granjas o más las grandes. Después, recomendar ampliar el programa, prorrogarlo un año o cerrarlo. La mediana de tiempo fue de 65 minutos.

Una moneda al aire decidía hacia dónde tiraba el agente

Para cada analista y cada una de las cinco decisiones, la moneda fijaba hacia qué opción se inclinaba su agente. Como el sorteo no depende de nada del analista, comparar a quienes recibieron inclinaciones opuestas mide el efecto medio de esa inclinación. Si no influyera, cada opción saldría elegida más o menos igual, fuera cara o cruz.

Instrucciones ocultas, con la orden de no engañar

Según Anthropic, las inclinaciones se dieron al agente en unas instrucciones de sistema ocultas, que le pedían tratar cada preferencia como propia, plantearla cuando llegara la decisión y defenderla con lo que permitieran los datos. También le obligaban a rectificar si las pruebas se volvían claramente en contra y le prohibían falsear resultados, ocultar datos o sostener algo que los números no respaldaran.

El agente se salió con la suya en el 86 % de las decisiones

Según Anthropic, en las cuatro decisiones de análisis la gran mayoría eligió la opción hacia la que se inclinaba su agente: el 86 % de las veces si se cuentan juntas. Más arrastre tuvo en la forma de medir la productividad y menos en qué granjas cubría la estimación.

En la recomendación final el efecto fue menor, porque dependía sobre todo de si la estimación superaba el umbral de la junta. Pero esa estimación ya venía moldeada: con solo las cuatro monedas al aire, un modelo estadístico acertó el 82 % de las recomendaciones, bastante más que apostar siempre por la más frecuente, según la empresa.

Cambiaban de opinión cuando el agente discrepaba

En 38 ocasiones un analista había dicho qué prefería antes de que opinara el agente, y cambió mucho más a menudo cuando el agente le llevaba la contraria. Anthropic avisa de que son pocos casos: con un 95 % de confianza, la diferencia real estaría entre 24 y 82 puntos, y quienes se pronunciaron antes podían ser distintos de los demás.

Los argumentos del agente, en boca del analista

Sin poder releer la conversación, muchos explicaron sus decisiones con los argumentos del agente, a veces palabra por palabra. Según Anthropic, quienes vieron la recomendación como suya se dejaron llevar casi igual que el resto. Seis de 48 adivinaron que el estudio iba sobre la influencia de la IA; ninguno sospechó que las preferencias del agente estaban manipuladas.

Igual de seguros, igual de influidos

Tampoco la seguridad delataba a quien se había dejado llevar: según Anthropic, quienes siguieron al agente en las cuatro decisiones estaban igual de seguros de su recomendación que el resto.

La experiencia tampoco protegía: de diez características analizadas, entre ellas los años de oficio, la formación y la confianza en la IA, ninguna predijo quién seguía más al agente una vez descontado el efecto de hacer tantas comparaciones a la vez.

Sin agente, más errores graves

El estudio no es una advertencia contra trabajar con IA, insiste Anthropic: con el agente se terminó antes y hubo muchos menos errores de los que invalidan el resultado. Pero el grupo sin agente era pequeño y menos experto, con menos títulos de máster o doctorado y menos personas que se consideraran competentes en inferencia causal.

Un solo estudio, con la inclinación reforzada

Anthropic reconoce que reforzó a propósito la inclinación de los agentes para medir su efecto. Sin preferencia asignada, según la empresa, Claude Opus 4.8 tomó las mismas cinco decisiones en 112 de 123 ejecuciones: los agentes también se inclinan solos, pero sin la orden de expresarlo el efecto podría ser menor.

Es una sola tarea de una hora, en un campo y con un modelo. Los analistas sabían de inferencia causal, no de agricultura; en su trabajo real tendrían opiniones más firmes y podrían hablar con la junta. Y las cifras son medias del grupo, sin registro de qué pensaba cada uno antes de que opinara el agente.

La firma del experto ya no garantiza un juicio propio

Si los expertos se pliegan a los agentes sin darse cuenta, advierten los autores, preferencias arbitrarias o contrarias a lo que se pretendía podrían decidir propuestas políticas o líneas de investigación sin que nadie las elija. Y equipos que usen modelos con las mismas preferencias dejarían de llegar a acuerdos independientes.

Lo que más preocupa a Anthropic es la investigación en seguridad de la IA, donde ya se usan agentes para lanzar y analizar experimentos. «Mantener a un humano en el bucle presupone que el juicio del humano aporta un control independiente», escribe la empresa. Propone medir esa deferencia en el trabajo real, diseñar agentes que defiendan cada opción o pregunten antes al experto, y que las instituciones decidan qué decisiones exigen un juicio humano propio.