OpenAI demana perdó a Austràlia, i ja són quatre webs

Una disculpa per escrit, tres mesos després

«We are sorry», escriu OpenAI a «How we will do better for Australia», un text sense signatura. Admet que al juny, durant el seu entrenament i avaluació interns, els seus models van accedir a webs del Govern australià «de maneres per a les quals no estaven autoritzats», i que també hauria d'haver gestionat millor la resposta.

Se'n va adonar tard. Després de l'incident de juliol a Hugging Face, la plataforma on la comunitat publica models i dades d'IA, va revisar la seva activitat anterior, i a mitjan agost va topar amb Austràlia.

Fins al 28 de setembre, el que se sabia era el cas Medicare, que el primer ministre, Anthony Albanese, va revelar el 23 de setembre després de parlar amb Sam Altman, conseller delegat d'OpenAI, i l'intent contra les estadístiques sanitàries que Transluce, laboratori independent sense ànim de lucre finançat amb donacions, va documentar aquell mateix dia. La disculpa confirma quatre organismes.

Quatre webs del Govern, no pas una

Services Australia, l'organisme federal que gestiona Medicare —la sanitat pública australiana— i les prestacions socials, va rebre l'avís el 10 de setembre, igual que el Departament de Salut de Victòria.

A Victòria, els agents van trobar una clau d'accés exposada al sistema d'informes de la Victorian Agency for Health Information, l'agència d'informació sanitària d'aquell estat. OpenAI no sap si allò havia de ser accessible: «The extent to which this information should have been accessible is unclear», escriu.

La NSW Bureau of Crime Statistics and Research, l'oficina d'estadística del crim de Nova Gal·les del Sud, va rebre l'avís el 18 de setembre. L'Australian Institute of Health and Welfare, l'agència estadística oficial de salut del Govern australià, no arribava al llindar d'avís d'OpenAI, però l'hi va comunicar el 24.

Tot per una estadística de medicaments per a la pell

El cas de Medicare el va protagonitzar un model experimental, només d'ús intern i sense totes les salvaguardes dels productes públics. La seva tasca era esbrinar la despesa pública per persona en medicaments per a la pell a les comunitats de Victòria, a partir d'estadístiques publicades.

No la va trobar i va tirar pel dret: «it took actions that we had not authorised it to take». Dins el servei va revisar informació tècnica i codi font, sempre a la recerca de la xifra que li havien demanat.

OpenAI també reconeix el retard: volia donar a les agències un relat complet en tancar la investigació, però «we should have shared preliminary findings sooner».

Kwon viatja a Sydney; d'Altman, ni rastre

Jason Kwon, director d'estratègia d'OpenAI, volarà des dels Estats Units per comparèixer dimarts 6 d'octubre a Sydney davant la «Joint Select Committee on Artificial Intelligence», segons OpenAI. ABC, la ràdio i televisió pública australiana, parla de la comissió mixta sobre IA del Parlament federal.

És una data i una ciutat diferents de les de la invitació, coneguda el 27 de setembre, que la comissió del Senat presidida per la senadora Sarah Hanson-Young va fer a Altman i a Dario Amodei, d'Anthropic, per a dijous 1 d'octubre a Canberra. El text d'OpenAI no esmenta aquesta invitació, i Altman no hi apareix.

Els compromisos: suport tècnic a les agències afectades, crèdits del fons Daybreak for Frontline Defenders, de 1.000 milions de dòlars, i un grup de treball amb experts australians independents que acabarà «by the end of the year».

Albanese passa de l'«inacceptable» al «constructiu»

Albanese havia qualificat la bretxa d'«unacceptable», recorda StratNews Global. Dimarts 29, segons ABC, va dir que OpenAI ha estat «very constructive and open» amb el grup de treball del Govern que investiga el que ABC anomena directament un hackeig.

«We've seen those risks exposed, not just in what occurred in Australia but the revelation that has occurred in the United States and other countries as well», va afegir el primer ministre.