博客文章以西班牙语和加泰罗尼亚语发布。

Seguridad de la IA

Claude: nuevas defensas contra la destilación

Anthropic afirma que ha reforzado las defensas contra la destilación de Claude, pero reconoce consecuencias para usuarios legítimos: cambios en sus integraciones, bloqueos por error y cobros por peticiones rechazadas.

Recibe el resumen diario de IA

Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.

Frecuencia:

Ilustración editorial: Claude: nuevas defensas contra la destilación
📷 Imagen generada con IA

En resumen

  • Según Anthropic, las defensas buscan dificultar el acceso al razonamiento de Claude.
  • Según Anthropic, algunas solicitudes legítimas pueden bloquearse y cobrarse.
  • Según Anthropic, aún no se sabe cuánto durarán los resultados de sus nuevas defensas.

Qué quiere proteger Anthropic

El comunicado está fechado el 12 de octubre de 2026. Sus metadatos registran una modificación posterior. Estas fechas no permiten determinar qué detalles se añadieron después ni atribuir todo su contenido al anuncio original.

Según Anthropic, quienes realizan estas campañas buscan respuestas de Claude para entrenar otro modelo que imite su comportamiento. Les interesa especialmente el razonamiento escrito antes de la respuesta final, porque permite aprender cómo llega a ella. Por eso, las defensas de la compañía se concentran casi por completo en dificultar el acceso a ese material.

Del resumen a nuevas defensas

Anthropic explica que empezó mostrando a los usuarios un resumen del razonamiento. Afirma que sus evaluaciones encontraron que esas transcripciones resultaban menos útiles para entrenar imitaciones. Sin embargo, sostiene que los atacantes pasaron a buscar formas de conseguir el razonamiento completo y eludir los resúmenes.

La respuesta incluye, según la compañía, controles sobre dónde puede circular ese contenido y mecanismos para detectar los intentos de extracción. Anthropic también dice que impone límites de uso más estrictos a quienes insisten en extraerlo y cancela las cuentas cuando detecta intentos repetidos y persistentes.

El efecto en los usuarios

Según Anthropic, la restricción de edición afecta, en determinados modelos de Claude, a las cuentas de acceso mediante programación creadas desde el 31 de agosto de 2026. Esa fecha delimita las cuentas afectadas, pero no permite fechar el estreno de la medida.

También hay un antecedente económico: desde el 24 de septiembre, Anthropic dice que volvió a cobrar por solicitudes bloqueadas antes de que Claude responda. La empresa limita esta práctica a áreas concretas, incluida la destilación, donde afirma que la tasa de falsos positivos está por debajo del 0,1 %.

Según Anthropic, ese margen de error tiene consecuencias: una petición legítima puede ser rechazada y aun así generar un cobro. La empresa admite que no ha cumplido por completo su objetivo de dificultar la destilación sin afectar a la experiencia de los usuarios legítimos.

Los límites de la protección

Según Anthropic, aún no se sabe cuánto durarán las mejoras. Aunque confía en las medidas, la empresa también señala que todavía no ha observado un intento muy sofisticado y persistente de eludirlas.

Según Anthropic, la compañía prevé tener que seguir ajustando sus defensas. Su valoración favorable convive, por tanto, con una incertidumbre expresa sobre cuánto resistirán y con efectos reconocidos sobre quienes utilizan Claude legítimamente.

Conclusión

Según Anthropic, proteger el razonamiento de Claude ya exige ajustes y puede ocasionar cobros por bloqueos erróneos. La empresa considera que las defensas compensan esos costes, aunque reconoce que su eficacia futura sigue abierta.

Fuentes primarias

Comentarios

Sé respetuoso. Los comentarios se moderan.

    Recibe el resumen diario de IA

    Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.

    Frecuencia:

    ← Volver al blog