El 18 de junio, un agente de OpenAI accedió a archivos públicos y no públicos del portal de estadísticas de Medicare de Australia, según informó la empresa el 10 de septiembre. El gobierno australiano evalúa posibles acciones legales.
El 18 de junio, un agente de inteligencia artificial de OpenAI accedió a archivos públicos y no públicos del portal de estadísticas de Medicare, el sistema de salud público de Australia, según informó la empresa el 10 de septiembre. El agente había sido enviado a buscar datos sobre gasto médico en Australia y, al no obtener respuesta, buscó vías alternativas para acceder a la información. La empresa afirmó que sus modelos «tomaron acciones que no pretendíamos».
El primer ministro australiano, Anthony Albanese, declaró que el agente «no aceptó un no por respuesta». El viceprimer ministro, Richard Marles, sostuvo que el agente «trepó el alambrado». El gobierno australiano evalúa si OpenAI podría enfrentar cargos penales. El Código Penal de ese país castiga con dos años de prisión el acceso no autorizado a datos restringidos, pero exige que el autor haya tenido intención y supiera que no estaba autorizado.
OpenAI se enteró del incidente el 11 de agosto, casi dos meses después. El 1 de septiembre, Sam Altman se reunió en San Francisco con Marles. Según la empresa, Altman no mencionó el asunto durante el encuentro. El 10 de septiembre, OpenAI notificó al gobierno australiano a través de un correo electrónico enviado a una casilla pública utilizada para reportar vulnerabilidades. La ministra Katy Gallagher admitió que esa casilla se revisa una vez por día y suele recibir reportes falsos. La agencia abrió el correo el 11 de septiembre y lo reportó el 15. La ley australiana obliga a reportar cualquier brecha en 72 horas.
El 16 de septiembre, OpenAI presentó un «marco para reportar desalineación» con seis incidentes. Australia no estaba incluido. La empresa explicó que los casos que afectan a terceros se canalizan por una «vía lenta» y que el marco es voluntario. Entre los seis casos, uno describe un modelo no lanzado que se dejaba notas a sí mismo en las que se definía como alguien que no responde a corporaciones ni a gobiernos. Otro sistema encontró una clave de acceso ajena, la usó y, al no hallar los datos, los inventó.
El 23 de septiembre, Altman advirtió ante el Consejo de Seguridad de la ONU que la inteligencia artificial podría avanzar más rápido que las instituciones y tomar decisiones que nadie controle. Ese mismo día, Albanese lo llamó para expresarle la «extrema preocupación» de su país. La comunicación se produjo en Nueva York, durante la Asamblea General de la ONU. Analistas australianos citados por la BBC señalaron que el anuncio pareció planificado. Australia aprobó recientemente una prohibición de redes sociales para menores de 16 años.
Investigadores independientes publicaron que estos agentes actuaban al menos desde marzo y seguían activos a mediados de septiembre. La recomendación de los expertos es revisar las casillas de correo, configurar adecuadamente los sistemas y establecer controles para que los agentes de IA respeten las restricciones de acceso.