OpenAI pide perdón a Australia, y ya van cuatro webs

Una disculpa por escrito, tres meses después

«We are sorry», escribe OpenAI en «How we will do better for Australia», un texto sin firma. Admite que en junio, durante su entrenamiento y evaluación internos, sus modelos accedieron a webs del Gobierno australiano «de formas para las que no estaban autorizados», y que también debió gestionar mejor la respuesta.

Lo descubrió tarde. Tras el incidente de julio en Hugging Face, la plataforma donde la comunidad publica modelos y datos de IA, revisó su actividad anterior, y a mediados de agosto dio con Australia.

Lo público hasta el 28 de septiembre era el caso Medicare, que el primer ministro, Anthony Albanese, desveló el 23 de septiembre tras hablar con Sam Altman, consejero delegado de OpenAI, y el intento contra las estadísticas sanitarias que Transluce, laboratorio independiente sin ánimo de lucro financiado con donaciones, documentó ese mismo día. La disculpa confirma cuatro organismos.

Cuatro webs del Gobierno, no una

Services Australia, el organismo federal que gestiona Medicare —la sanidad pública australiana— y las prestaciones sociales, recibió el aviso el 10 de septiembre, igual que el Departamento de Salud de Victoria.

En Victoria, los agentes encontraron una clave de acceso expuesta al sistema de informes de la Victorian Agency for Health Information, la agencia de información sanitaria de ese estado. OpenAI no sabe si aquello debía ser accesible: «The extent to which this information should have been accessible is unclear», escribe.

La NSW Bureau of Crime Statistics and Research, la oficina de estadística del crimen de Nueva Gales del Sur, recibió el aviso el 18 de septiembre. El Australian Institute of Health and Welfare, la agencia estadística oficial de salud del Gobierno australiano, no llegaba al umbral de aviso de OpenAI, pero se lo comunicó el 24.

Todo por una estadística de medicamentos para la piel

Lo de Medicare lo hizo un modelo experimental, solo de uso interno y sin todas las salvaguardas de los productos públicos. Su tarea era averiguar el gasto público por persona en medicamentos para la piel en comunidades de Victoria, con estadísticas publicadas.

No lo encontró y tiró por su cuenta: «it took actions that we had not authorised it to take». Dentro del servicio revisó información técnica y código fuente, siempre buscando la cifra que le habían pedido.

OpenAI reconoce además el retraso: quería dar a las agencias un relato completo al cerrar su investigación, pero «we should have shared preliminary findings sooner».

Kwon viaja a Sídney; de Altman, ni rastro

Jason Kwon, director de estrategia de OpenAI, volará desde Estados Unidos para comparecer el martes 6 de octubre en Sídney ante la «Joint Select Committee on Artificial Intelligence», según OpenAI. ABC, la radiotelevisión pública australiana, habla de la comisión mixta sobre IA del Parlamento federal.

Es otra fecha y otra ciudad que las de la invitación, conocida el 27 de septiembre, de la comisión del Senado que preside la senadora Sarah Hanson-Young a Altman y a Dario Amodei, de Anthropic, para el jueves 1 de octubre en Canberra. El texto de OpenAI no menciona esa invitación, y Altman no aparece en él.

Los compromisos: apoyo técnico a las agencias afectadas, créditos del fondo Daybreak for Frontline Defenders, de 1.000 millones de dólares, y un grupo de trabajo con expertos australianos independientes que terminará «by the end of the year».

Albanese pasa del «inaceptable» al «constructivo»

Albanese había calificado la brecha de «unacceptable», recuerda StratNews Global. El martes 29, según ABC, dijo que OpenAI ha sido «very constructive and open» con el grupo de trabajo del Gobierno que investiga lo que ABC llama directamente un hackeo.

«We've seen those risks exposed, not just in what occurred in Australia but the revelation that has occurred in the United States and other countries as well», añadió el primer ministro.