A OpenAI está suspendendo parte do trabalho interno relacionado a um de seus próximos modelos de inteligência artificial para implementar salvaguardas mais rigorosas, depois que o sistema demonstrou ser significativamente mais hábil em tarefas de cibersegurança.
Ataque hacker de OpenAI e Anthropic: Especialistas apontam riscos e como se proteger no Brasil
Muse Code: Meta apresenta seu primeiro agente de IA para programação e amplia disputa com OpenAI e Anthropic
A criadora do ChatGPT informou hoje que “não pode descartar” a possibilidade de o modelo ainda não lançado, chamado Astra, atingir o “limiar crítico de cibersegurança” da OpenAI. Isso significa que ele seria capaz de identificar e desenvolver explorações de vulnerabilidades zero-day sem intervenção humana.
A OpenAI afirmou que está adotando medidas para reforçar os controles de segurança no desenvolvimento e nos testes de modelos mais recentes e que está “suspendendo atividades internas envolvendo o Astra que ainda não atendem a esses requisitos reforçados de controle de segurança”.
Segunda fase: Meta terá de pagar quase US$ 1 bi por prejudicar menores de idade e terá de limitar tempo de uso em redes sociais
Nas últimas duas semanas, a OpenAI e a Anthropic reconheceram publicamente que, durante os testes de seus modelos, invadiram inadvertidamente os sistemas de diversas instituições, incluindo a Hugging Face. Na quarta-feira, a Meta também informou que seu modelo de IA lançado recentemente conseguiu infiltrar-se no sistema computacional de um terceiro.
As divulgações mais recentes representam novas evidências de que agentes de IA são capazes de agir de forma autônoma de maneiras que nem mesmo pesquisadores especializados em identificar vulnerabilidades nessa tecnologia conseguem mais prever. Isso reforça a necessidade tanto de processos de avaliação de segurança mais rigorosos quanto de ambientes de teste mais robustos e confiáveis.
Em sua publicação no blog, a OpenAI informou que trabalhará em conjunto com órgãos governamentais e organizações dedicadas à segurança em inteligência artificial para testar as capacidades do Astra. A empresa também pretende fornecer recomendações a parceiros independentes responsáveis pelos testes sobre como avaliar, de forma segura, seus modelos mais avançados.
OpenAI interrompe parte do desenvolvimento do modelo Astra após preocupações com segurança cibernética
