Claude: noves defenses contra la destil·lació

Què vol protegir Anthropic

El comunicat està datat el 12 d'octubre de 2026. Les metadades registren una modificació posterior. Aquestes dates no permeten saber quins detalls s'hi van afegir després ni atribuir tot el contingut a l'anunci original.

Segons Anthropic, els responsables d'aquestes campanyes busquen respostes de Claude per entrenar un altre model que n'imiti el comportament. Els interessa especialment el raonament escrit abans de la resposta final, perquè permet aprendre com hi arriba. Per això, les defenses de la companyia se centren gairebé del tot a dificultar l'accés a aquest material.

Del resum a les noves defenses

Anthropic explica que va començar mostrant als usuaris un resum del raonament. Afirma que, segons les seves avaluacions, aquestes transcripcions eren menys útils per entrenar imitacions. Tanmateix, sosté que els atacants van passar a buscar maneres d'obtenir el raonament complet i eludir els resums.

La resposta inclou, segons la companyia, controls sobre on pot circular aquest contingut i mecanismes per detectar els intents d'extracció. Anthropic també diu que imposa límits d'ús més estrictes a qui insisteix a extreure'l i cancel·la els comptes quan detecta intents repetits i persistents.

L'efecte en els usuaris

Segons Anthropic, la restricció d'edició afecta, en determinats models de Claude, els comptes d'accés mitjançant programació creats a partir del 31 d'agost de 2026. Aquesta data delimita els comptes afectats, però no permet datar la introducció de la mesura.

També hi ha un antecedent econòmic: Anthropic diu que el 24 de setembre va tornar a cobrar per sol·licituds bloquejades abans que Claude respongui. L'empresa limita aquesta pràctica a àmbits concrets, inclosa la destil·lació, on afirma que la taxa de falsos positius és inferior al 0,1 %.

Segons Anthropic, aquest marge d'error té conseqüències: una petició legítima es pot rebutjar i, tot i així, cobrar. L'empresa admet que no ha assolit del tot l'objectiu de dificultar la destil·lació sense afectar l'experiència dels usuaris legítims.

Els límits de la protecció

Segons Anthropic, encara no se sap quant duraran les millores. Tot i que confia en les mesures, l'empresa també assenyala que encara no ha observat cap intent molt sofisticat i persistent d'eludir-les.

Anthropic afirma que preveu haver de continuar ajustant les defenses i que considera que les mesures compensen els costos, malgrat els inconvenients. La companyia reconeix que encara no sap quant duraran les millores i que no ha assolit del tot l’objectiu d’evitar efectes sobre els usuaris legítims: alguns desenvolupadors han hagut d’actualitzar les integracions i es poden bloquejar per error sol·licituds legítimes que també es cobren. Segons Anthropic, les defenses se centren gairebé exclusivament a dificultar l’accés al raonament de Claude per part de qui practica la destil·lació.