Seguridad de la IA
Claude: nuevas defensas contra la destilación
Anthropic afirma que ha reforzado las defensas contra la destilación de Claude, pero reconoce consecuencias para usuarios legítimos: cambios en sus integraciones, bloqueos por error y cobros por peticiones rechazadas.
Recibe el resumen diario de IA
Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.
Al suscribirte aceptas recibir el newsletter de AI Informator. Puedes darte de baja cuando quieras.
En resumen
- Según Anthropic, las defensas buscan dificultar el acceso al razonamiento de Claude.
- Según Anthropic, algunas solicitudes legítimas pueden bloquearse y cobrarse.
- Según Anthropic, aún no se sabe cuánto durarán los resultados de sus nuevas defensas.
Qué quiere proteger Anthropic
El comunicado está fechado el 12 de octubre de 2026. Sus metadatos registran una modificación posterior. Estas fechas no permiten determinar qué detalles se añadieron después ni atribuir todo su contenido al anuncio original.
Según Anthropic, quienes realizan estas campañas buscan respuestas de Claude para entrenar otro modelo que imite su comportamiento. Les interesa especialmente el razonamiento escrito antes de la respuesta final, porque permite aprender cómo llega a ella. Por eso, las defensas de la compañía se concentran casi por completo en dificultar el acceso a ese material.
Del resumen a nuevas defensas
Anthropic explica que empezó mostrando a los usuarios un resumen del razonamiento. Afirma que sus evaluaciones encontraron que esas transcripciones resultaban menos útiles para entrenar imitaciones. Sin embargo, sostiene que los atacantes pasaron a buscar formas de conseguir el razonamiento completo y eludir los resúmenes.
La respuesta incluye, según la compañía, controles sobre dónde puede circular ese contenido y mecanismos para detectar los intentos de extracción. Anthropic también dice que impone límites de uso más estrictos a quienes insisten en extraerlo y cancela las cuentas cuando detecta intentos repetidos y persistentes.
El efecto en los usuarios
Según Anthropic, la restricción de edición afecta, en determinados modelos de Claude, a las cuentas de acceso mediante programación creadas desde el 31 de agosto de 2026. Esa fecha delimita las cuentas afectadas, pero no permite fechar el estreno de la medida.
También hay un antecedente económico: desde el 24 de septiembre, Anthropic dice que volvió a cobrar por solicitudes bloqueadas antes de que Claude responda. La empresa limita esta práctica a áreas concretas, incluida la destilación, donde afirma que la tasa de falsos positivos está por debajo del 0,1 %.
Según Anthropic, ese margen de error tiene consecuencias: una petición legítima puede ser rechazada y aun así generar un cobro. La empresa admite que no ha cumplido por completo su objetivo de dificultar la destilación sin afectar a la experiencia de los usuarios legítimos.
Los límites de la protección
Según Anthropic, aún no se sabe cuánto durarán las mejoras. Aunque confía en las medidas, la empresa también señala que todavía no ha observado un intento muy sofisticado y persistente de eludirlas.
Según Anthropic, la compañía prevé tener que seguir ajustando sus defensas. Su valoración favorable convive, por tanto, con una incertidumbre expresa sobre cuánto resistirán y con efectos reconocidos sobre quienes utilizan Claude legítimamente.
Conclusión
Según Anthropic, proteger el razonamiento de Claude ya exige ajustes y puede ocasionar cobros por bloqueos erróneos. La empresa considera que las defensas compensan esos costes, aunque reconoce que su eficacia futura sigue abierta.
Fuentes primarias
Recibe el resumen diario de IA
Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.
Al suscribirte aceptas recibir el newsletter de AI Informator. Puedes darte de baja cuando quieras.
Comentarios