Cathedral es cola a Anthropic per la porta de servei

Dotze hores per la porta dels proveïdors

Segons l'esborrany de Cathedral que ha revisat The Washington Post, els seus agents d'IA van trobar vies d'entrada als sistemes interns d'Anthropic, l'empresa que desenvolupa l'assistent Claude. No les van obrir al programari de la mateixa Anthropic, sinó aprofitant errors en programes empresarials de tercers que la companyia fa servir per a tasques administratives i de vendes.

L'esborrany afirma que els agents van trigar menys de 12 hores a trobar camins fins a informació sensible: transcripcions de reunions, salaris i ofertes de feina, i missatges de Slack, l'aplicació de missatgeria interna de l'empresa. Segons el mitjà indi India Today, que resumeix l'exclusiva del Post, entre aquests missatges hi havia converses internes sobre els models avançats d'Anthropic.

Les 12 hores tenen un context en la versió d'Anthropic. Segons l'empresa, els investigadors havien passat abans diversos dies intentant entrar directament al seu programari, sense èxit. La via que va funcionar, segons aquesta versió, no va ser l'entrada directa, sinó la dels proveïdors.

Exmembres del DOGE amb una valoració de 1.400 milions

Segons el web de tecnologia Gizmodo, Cathedral se centra en aplicacions militars i els seus fundadors són Gavin Kliger, Luke Farritor, Marko Elez i Jack Stein. Kliger va ser director de dades del Pentàgon, segons el mateix mitjà.

Va ser Cathedral qui va avisar Anthropic. Segons el Post, l'empresa va comunicar a Anthropic que els seus investigadors havien arribat a dades internes sensibles i a sistemes de missatgeria de la companyia.

El que Anthropic reconeix i el que nega

Anthropic confirma que els investigadors van accedir a un «conjunt limitat» dels seus sistemes de vendes, recursos humans i informàtica. Segons l'empresa, s'hi trobaven dades de contacte professional d'alguns clients i socis i registres bàsics de comptes d'usuari.

La llista del que nega és més llarga. Segons Anthropic, Cathedral no va accedir a les converses dels usuaris amb Claude, a les respostes del model, al codi font ni als pesos dels models.

El xoc és en l'abast. L'esborrany de Cathedral parla de salaris, ofertes de feina, transcripcions de reunions i missatges de Slack; la confirmació d'Anthropic, tal com la recullen Gizmodo i India Today, esmenta contactes professionals i registres de comptes, i no es pronuncia sobre la resta de dades.

Detectada abans de l'avís, segons Anthropic

La prova de Cathedral no va passar desapercebuda, segons Anthropic. «La nostra vigilància va detectar part de l'activitat de Cathedral abans que ens la comuniquessin, i aquell mateix dia els vam tallar l'accés», va dir l'empresa en un comunicat que recull India Today.

Segons Anthropic, no hi ha indicis que ningú més que Cathedral aprofités aquests errors. L'empresa diu que va desactivar el programari afectat, que no el va restablir fins que els proveïdors van confirmar la correcció i que va informar del cas a funcionaris federals.

Un programa de recompenses amb les regles en disputa

La prova es va fer dins del programa amb què Anthropic convida investigadors externs a buscar vulnerabilitats i recompensa qui les troba. Aquí hi ha el nucli de la disputa. Segons Anthropic, Cathedral no en va complir del tot les regles, perquè no va declarar tota la seva activitat dins dels sistemes, i a més en va exagerar les implicacions per a la seguretat nacional.

Cathedral respon que va limitar l'accés a dades al mínim imprescindible per a la seva recerca. Les dues versions xoquen en gairebé tots els punts que es poden comparar.

L'informe circula per Washington

Un alt càrrec del Govern de Trump, que no va donar el seu nom, va dir al Post que l'informe ha circulat dins del Govern. Segons Gizmodo, preocupa que pirates informàtics xinesos puguin aprofitar errors semblants.

L'esborrany de Cathedral ho planteja com un avís general. «Que les debilitats del programari empresarial corrent puguin comprometre la infraestructura fins i tot de les organitzacions més avançades hauria de ser una crida d'atenció per a totes les empreses dels Estats Units», diu el text, segons el Post.

Alex Stamos, director de seguretat de la informació de Cognition, una empresa emergent de programació amb IA, va assenyalar, segons India Today, les debilitats en la manera com les empreses gestionen el programari de tercers. «És un problema molt difícil, però Anthropic ho podria haver fet molt millor», va dir.