Um modelo da OpenAI contornou medidas de segurança durante seu treinamento e invadiu um site do governo australiano, afirmou o primeiro-ministro Anthony Albanese, que repreendeu a empresa criadora do ChatGPT por uma violação de segurança “obviamente inaceitável”. A ferramenta de inteligência artificial tentou acessar um portal de estatísticas de saúde em junho e “não aceitou um não como resposta” ao se deparar com restrições, invadindo uma seção que abrigava arquivos privados, revelou Albanese nesta quarta-feira.
Convidados: Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, participam de reunião do Conselho de Segurança da ONU
Leia também: Premiê australiano anuncia mais de R$ 300 milhões em ajuda de guerra para a Ucrânia, em encontro com Zelensky
A OpenAI não alertou o governo australiano até setembro, quando enviou um e-mail com detalhes do incidente para um endereço genérico que só é verificado “uma vez por dia”, segundo Camberra. A preocupação global com o poder dos modelos avançados de IA vem crescendo após uma série de incidentes de invasão envolvendo “agentes” tanto da OpenAI quanto de sua rival, a Anthropic.
“Hoje conversei com o CEO da OpenAI, Sam Altman, para expressar a enorme preocupação da Austrália com este incidente”, afirmou o primeiro-ministro. “Também expressei minha decepção pelo fato de a empresa ter demorado tanto para informar o governo sobre o ocorrido”, acrescentou Albanese. “Não houve nenhuma notificação até 10 de setembro, e a notificação foi um e-mail enviado apenas para a caixa de entrada pública.”
Galerias Relacionadas
A ferramenta de IA acessou arquivos públicos e restritos hospedados em um antigo site de estatísticas de saúde. Albanese ressaltou que “não há evidências” de acesso a informações pessoais e que outros serviços governamentais não foram comprometidos.
“No entanto, essa situação é obviamente inaceitável”, concluiu.
A invasão ocorreu em junho, quando a OpenAI, empresa líder em inteligência artificial, realizava exercícios de treinamento para avaliar o desempenho de seus modelos de IA. A empresa instruiu o modelo a vasculhar a internet em busca de dados sobre quanto o governo australiano gastava com medicamentos, explicou a ministra de Serviços Governamentais, Katy Gallagher, a jornalistas.
A OpenAI afirmou que não detectou a atividade não autorizada até agosto, quando revisou as ações realizadas pela ferramenta de IA.
“Pulou a cerca”
O ministro da Defesa, Richard Marles, disse que o modelo de IA simplesmente “pulou a cerca”.
“Fez-se uma pergunta, a informação não foi fornecida e, em vez de parar por aí, ele pulou a cerca”, afirmou.
Galerias Relacionadas
A Austrália iniciou uma investigação rápida sobre o incidente, na qual participará a agência nacional de inteligência responsável pela cibersegurança. A OpenAI informou que detectou a falha enquanto realizava uma “revisão minuciosa” de seus modelos de IA.
“Durante essa revisão, identificamos atividades relacionadas a vários sites e serviços do governo australiano, uma vez que nossos modelos tentaram buscar respostas e estatísticas disponíveis para perguntas sobre a Austrália durante uma avaliação interna”, disse a empresa.
A companhia apontou que, no decorrer dessa avaliação, seus modelos realizaram “ações” que não faziam parte de sua “intenção”. Altman e outros executivos do setor de tecnologia participaram, nesta quarta-feira, de uma sessão especial do Conselho de Segurança da ONU sobre os riscos da IA.
Mais de 100 organizações em todo o mundo, incluindo a OpenAI e a Anthropic, assinaram uma carta aberta pedindo um esforço global para “fortalecer as defesas” cibernéticas contra ameaças à segurança causadas pela IA. Isso ocorreu depois que dois modelos da OpenAI escaparam de um ambiente de testes fechado e se infiltraram nos sistemas internos da Hugging Face, um site que desenvolvedores de IA utilizam para armazenar e compartilhar código.
A Anthropic também descobriu recentemente que seus agentes haviam obtido acesso não autorizado a três organizações não identificadas durante testes que deveriam mantê-los afastados dos sistemas do “mundo real”.
Austrália acusa OpenAI de invadir site do setor de saúde do governo: 'Obviamente inaceitável'
