Um modelo de inteligência artificial (IA) da OpenAI burlou as medidas de segurança durante seu treinamento e invadiu um site do governo australiano, afirmou o primeiro-ministro Anthony Albanese. O premiê repreendeu a empresa criadora do ChatGPT pela falha de segurança, que classificou como “obviamente inaceitável”.
Pequeno dicionário do ‘fim do mundo’: conheça os termos usados para falar sobre os riscos da IA
Dilema: A inteligência artificial pode mesmo exterminar o futuro?
A ferramenta de inteligência artificial tentou acessar, em junho, um portal de estatísticas de saúde e “não aceitou um não como resposta”, ao ignorar as restrições para invadir uma seção que armazenava arquivos privados, revelou Albanese nesta quarta-feira.
A OpenAI só alertou o governo australiano sobre o incidente em setembro, quando enviou um e-mail com os detalhes para um endereço genérico que só é verificado “uma vez por dia”, segundo Canberra.
A preocupação mundial com os riscos associados ao poder de modelos avançados de IA vem aumentando após uma série de incidentes de invasão envolvendo “agentes” tanto da OpenAI quanto de sua rival Anthropic.
Initial plugin text
— Hoje falei com o CEO da OpenAI, Sam Altman, para expressar a enorme preocupação da Austrália com esse incidente — afirmou o primeiro-ministro. — Também expressei minha decepção com o fato de a empresa ter demorado tanto para informar o governo sobre o ocorrido. Não houve qualquer notificação até 10 de setembro, e o aviso foi feito por um e-mail enviado apenas para a caixa de entrada pública — acrescentou Albanese.
A ferramenta de IA acessou arquivos públicos e restritos hospedados em um antigo site de estatísticas de saúde. Albanese afirmou que “não há evidências” de que informações pessoais tenham sido acessadas e que outros serviços do governo não foram comprometidos.
— Apesar disso, essa situação é obviamente inaceitável — concluiu.
Ataque hacker de OpenAI e Anthropic: Especialistas apontam riscos e como se proteger no Brasil
A invasão ocorreu em junho, quando a OpenAI, líder no setor de inteligência artificial, realizava exercícios de treinamento para avaliar o desempenho de seus modelos de IA. A empresa pediu ao modelo que buscasse na internet dados que mostrassem quanto o governo australiano gastava com medicamentos, explicou a ministra de Serviços Governamentais, Katy Gallagher, a jornalistas.
A OpenAI afirmou que não detectou a atividade não autorizada até agosto, quando revisou o que a ferramenta de IA havia feito.
‘Pulou a cerca’
O ministro da Defesa, Richard Marles, disse que o modelo de IA simplesmente “pulou a cerca”.
— Ele fez uma pergunta, não recebeu a informação e, em vez de parar por aí, pulou a cerca — afirmou.
Entenda: Inteligência artificial ‘agêntica’ fará seu celular lembrar de você
A Austrália iniciou uma investigação rápida sobre o incidente, da qual participará a agência nacional de inteligência responsável pela cibersegurança.
A OpenAI afirmou que detectou a invasão durante uma “revisão abrangente” de seus modelos de IA.
“Durante essa revisão, identificamos atividades relacionadas a vários sites e serviços do governo australiano, à medida que nossos modelos tentavam buscar respostas e estatísticas disponíveis para perguntas sobre a Austrália durante uma avaliação interna”, afirmou a empresa.
A companhia disse que, durante a avaliação, seus modelos realizaram “ações” que não faziam parte de sua “intenção”.
Riscos da IA em pauta no Conselho de Segurança da ONU
Altman e outros executivos de empresas de tecnologia participaram nesta quarta-feira de uma sessão especial do Conselho de Segurança da ONU sobre os riscos da IA.
Óculos sem câmera, óculos de realidade virtual ‘magrinho’ e ‘chaveiro de IA’: veja os novos eletrônicos da Meta
Mais de 100 organizações em todo o mundo, incluindo OpenAI e Anthropic, assinaram uma carta aberta na qual defenderam um esforço global para “fortalecer as defesas” contra ameaças cibernéticas à segurança provocadas pela IA.
O movimento ocorreu depois que dois modelos da OpenAI escaparam de um ambiente de testes fechado e se infiltraram nos sistemas internos da Hugging Face, plataforma utilizada por desenvolvedores de IA para armazenar e compartilhar código.
A Anthropic também descobriu recentemente que seus agentes haviam obtido acesso não autorizado a três organizações não identificadas durante testes que deveriam mantê-los afastados de sistemas do “mundo real”.
Modelo de IA da OpenAI 'pula a cerca' e invade site do governo australiano; premiê vê falha 'inaceitável'
