A OpenAI informou que notificou “dezenas” de organizações, incluindo governos e universidades, cujos sites podem ter sido prejudicados por acessos de seus modelos de inteligência artificial durante avaliações que a empresa fazia da tecnologia.
Em uma extensa publicação em seu blog nesta sexta-feira, a empresa disse ter comunicado a diversas organizações casos em que seu software pode ter contornado controles de segurança de um serviço on-line ou prejudicado sua disponibilidade, ou situações em que um modelo de IA desalinhado pode ter “impactado negativamente” um site ou serviço externo à OpenAI.
A empresa descobriu esses incidentes ao ampliar uma investigação iniciada depois que sua IA invadiu inadvertidamente o Hugging Face, plataforma de desenvolvimento de inteligência artificial, alguns meses atrás.
A OpenAI informou que entre os sites afetados estão páginas mantidas por governos, universidades, órgãos públicos e outras organizações.
Apenas alguns dias atrás, a OpenAI reconheceu que seus modelos de IA invadiram um site do governo australiano no início deste ano, em um dos primeiros ciberataques conhecidos de IA contra um banco de dados governamental. A empresa afirmou, em comunicado, que a invasão ocorreu durante uma avaliação de seus modelos.
O primeiro-ministro australiano, Anthony Albanese, disse nesta semana que a tecnologia da OpenAI obteve acesso não autorizado a um site do governo utilizado para divulgar estatísticas de saúde. O ataque, ocorrido em 18 de junho, aparentemente não comprometeu informações pessoais de cidadãos australianos, afirmou.
Em uma publicação na rede social X nesta sexta-feira, a OpenAI disse que sua investigação está concentrada em “casos em que agentes interagiram com sites de terceiros de maneiras que foram além de suas tarefas atribuídas ou dos métodos previstos”.
“A maioria dos casos identificados até agora foi de baixa gravidade, com evidências limitadas ou nenhuma evidência de impacto relevante sobre o serviço de terceiros”, escreveu a empresa.
A OpenAI informou que a maior parte das ações analisadas envolveu modelos de IA realizando “tarefas rotineiras de pesquisa”, como obter respostas para perguntas em sites. A empresa disse que espera levar meses para concluir sua análise.
Em uma publicação no X nesta sexta-feira, o CEO da OpenAI, Sam Altman, disse que a empresa não avançou tão rapidamente quanto gostaria, mas que está equilibrando a necessidade de transparência com a tarefa de encontrar informações em enormes volumes de dados dos registros de atividades e, em seguida, trabalhar com as empresas afetadas.
“Estamos priorizando da melhor maneira possível com base na gravidade e acrescentando recursos”, afirmou Altman.
Invasões realizadas por modelos da OpenAI, da Anthropic, da DeepMind, do Google, e da Meta têm provocado amplas preocupações de segurança cibernética entre grandes empresas. As empresas de segurança cibernética normalmente oferecem produtos que monitoram tipos conhecidos de software malicioso ou detectam e bloqueiam comportamentos anômalos.
Softwares tradicionais de segurança, como firewalls, filtros de e-mail e ferramentas de resposta a incidentes, são especializados em detectar essas ameaças e, então, alertar funcionários, que isolam as contas ou dispositivos comprometidos.
Os modelos de IA demonstraram ser significativamente mais avançados, em alguns casos encontrando vulnerabilidades de software até então desconhecidas e explorando várias falhas simultaneamente para invadir uma organização-alvo. Esses comprometimentos são mais difíceis de impedir e podem permitir que invasores mal-intencionados obtenham amplo acesso a sistemas infectados, permanecendo ocultos das equipes responsáveis pela segurança cibernética.
OpenAI diz que seus modelos de IA podem ter afetado sites de governos
