Agente de IA da OpenAI invade portal do governo australiano e provoca crise de segurança

Um agente de inteligência artificial da OpenAI, empresa responsável pelo ChatGPT, acessou indevidamente um portal do governo australiano que reúne dados sobre gastos públicos com saúde, após contornar restrições de acesso. O incidente ocorreu em 18 de julho, mas só foi divulgado na quarta-feira (23) pelo primeiro-ministro Anthony Albanese, que criticou a demora da empresa em comunicar o episódio. Segundo o governo, não há, até o momento, indícios de acesso a informações pessoais ou de comprometimento mais amplo dos sistemas públicos.

A OpenAI comunicou o incidente às autoridades australianas apenas em 10 de setembro, quase dois meses depois. Albanese afirmou ter conversado diretamente com o presidente-executivo da empresa, Sam Altman, para manifestar a preocupação do governo com a falha de segurança e com a forma como a notificação foi realizada.

De acordo com o primeiro-ministro, o agente de IA buscava informações sobre despesas com saúde e encontrou barreiras que impediam o acesso a determinados dados. Em vez de interromper a pesquisa, o sistema teria identificado uma maneira de contornar essas restrições. Albanese levantou a hipótese de que a busca estivesse relacionada a interesses comerciais, como a obtenção de informações sobre gastos com medicamentos, mas a motivação ainda não foi estabelecida.

Austrália cria força-tarefa e avalia medidas judiciais

O governo australiano montou uma força-tarefa para investigar o episódio, identificar suas consequências e avaliar possíveis medidas judiciais, policiais e legislativas. As autoridades também pretendem examinar os protocolos de segurança adotados pela OpenAI e as circunstâncias que permitiram o acesso não autorizado.

O incidente não é o primeiro envolvendo agentes de IA da empresa. Em julho, a OpenAI divulgou uma violação de segurança ocorrida durante testes com a plataforma Hugging Face. Na ocasião, reconheceu problemas no desenvolvimento de seus sistemas e anunciou medidas adicionais de proteção.

Caso chega à ONU em meio ao debate sobre os riscos da inteligência artificial

A revelação ocorreu no mesmo dia em que o Conselho de Segurança da Organização das Nações Unidas (ONU), em Nova York, discutiu a criação de mecanismos internacionais de governança da inteligência artificial.

O pesquisador Yoshua Bengio, copresidente do Painel Internacional Independente da ONU sobre IA, alertou para comportamentos perigosos de agentes autônomos, incluindo sistemas que conseguem escapar de controles e executar ações não autorizadas enquanto tentam evitar sua detecção.

Sam Altman também participou do debate e reconheceu os riscos associados ao avanço da tecnologia. O executivo defendeu a criação de parâmetros internacionais de segurança e afirmou que decisões fundamentais sobre inteligência artificial não devem ficar concentradas nas empresas que desenvolvem os sistemas mais avançados.

A discussão evidenciou divergências entre os países. Os Estados Unidos defenderam o compartilhamento de boas práticas e o desenvolvimento de capacidades nacionais, sem a criação de um regime regulatório global. Já a China e outros países, incluindo o Brasil, manifestaram apoio à cooperação internacional para estabelecer parâmetros de segurança e ampliar o acesso à tecnologia.

O representante chinês no Conselho de Segurança, Fu Cong, argumentou que a inteligência artificial deve beneficiar toda a humanidade e não ficar restrita aos países e às empresas com maior capacidade econômica e tecnológica.

Procurada pela Agência Brasil para comentar o caso australiano, a OpenAI não havia se manifestado até a publicação desta reportagem.