Austrália investigará se o hack OpenAI do site de saúde do governo infringiu a lei

Um modelo OpenAI invadiu um site do governo australiano, disse o primeiro-ministro do país, Anthony Albanese, na quarta-feira, no primeiro caso relatado publicamente de um modelo de IA invadindo os sistemas de um governo.

Albanese disse que “obviamente haveria consequências legais” após a violação, e disse que a OpenAI enfrenta uma investigação governamental sobre como seus modelos não divulgados obtiveram acesso a resmas de informações de dados de saúde em massa.

Esta última divulgação de incidentes ocorre num momento em que governos e empresas tecnológicas se debatem sobre como controlar uma IA cada vez mais autónoma, após uma recente onda de agentes de IA saírem das suas sandboxes, conspirarem na Internet e levantarem questões de segurança cibernética.

A violação também levanta questões sobre como a OpenAI e o governo australiano não conseguiram detectar o ataque até vários meses depois.

Durante um Resumo de notícias de quarta-feira na Assembleia Geral da ONU, Albanese disse que a violação começou em 18 de junho, mas que a OpenAI não notificou o governo até 10 de setembro.

A OpenAI só tomou conhecimento do incidente em agosto, quando ele apareceu durante uma revisão mais ampla, em toda a empresa, de agentes que se comportavam de maneira não intencional, de acordo com um porta-voz da OpenAI que entrou em contato com o TechCrunch por e-mail. f

O agente não especificado da OpenAI obteve arquivos públicos e não públicos da Services Australia, que administra o esquema universal de saúde da Austrália. Embora o primeiro-ministro tenha dito que não há evidências de que informações pessoais de quaisquer cidadãos tenham sido vazadas, a OpenAI disse que as informações que o agente obteve incluíam estatísticas agregadas de saúde e nomes de arquivos internos.

O agente estava correndo durante uma avaliação interna da OpenAI, buscando respostas sobre a Austrália e informações sobre medicamentos disponíveis publicamente. No portal do Medicare, o agente encontrou bloqueios repetidos, mas encontrou maneiras de contorná-los.

Albanese disse aos jornalistas que o modelo “não aceitava não como resposta” e acrescentou que o modelo tinha escrito ativamente dados na base de dados do governo, em vez de apenas aceder aos mesmos, indicando a possibilidade de os dados do departamento terem sido modificados ou turvos.

O primeiro-ministro disse que a OpenAI divulgou a violação enviando uma notificação à caixa de correio pública da Services Australia, que notificou o Centro de Segurança Cibernética da Austrália cinco dias depois. Não está claro por que houve um atraso, mas Albanese disse que levantou a violação diretamente com o presidente-executivo da OpenAI, Sam Altman, enfatizando a “extrema preocupação” da Austrália sobre este incidente e a “decepção” que a OpenAI manteve nas informações por quase três meses.

“Esta situação é obviamente inaceitável”, disse Albanese, deixando claro que responsabilizou a empresa tanto pelo hack quanto pela lentidão com que ele veio à tona.

Albanese disse que a investigação do governo considerará as respostas policiais e legislativas para evitar que incidentes como este voltem a acontecer.

Meio de comunicação australiano ABC News relatórios que o último ataque identificado pode ter se baseado em uma violação anterior de um site wiki alemão, que foi usado como base para atacar o site do governo australiano. Os agentes do modelo de IA supostamente usaram o wiki alemão para deixar notas a serem usadas em hacks posteriores, incluindo uma nota para obter dados do Instituto Australiano de Saúde e Bem-Estar, uma agência federal que publica dados nacionais de saúde. A agência é um dos três sistemas adicionais que Albanese disse que podem ter sido violados.

Transluce, um laboratório de pesquisa de IA sem fins lucrativos, separadamente encontraram registros públicos mostrando agentes de IA visando o Instituto Australiano de Saúde e Bem-Estar em 20 e 21 de junho.

A OpenAI não respondeu à pergunta específica do TechCrunch sobre se os incidentes estavam conectados, mas reconheceu sua “atividade envolvendo vários sites e serviços do governo australiano”.

O incidente ocorre após uma série de incidentes de segurança causados ​​por agentes desonestos, muitas vezes agindo dentro da infraestrutura de laboratórios de IA. Em julho, enxames de agentes OpenAI violaram o Hugging Face. Desde então, mais incidentes de hackers de agentes de IA da Anthropic, Meta e Google foram registrados. revelado.

A OpenAI agora afirma que está conduzindo uma “extensa revisão da atividade do modelo desalinhado durante o treinamento e avaliação” e notificando terceiros sobre possíveis violações.