As empresas de inteligência artificial OpenAI e Anthropic PBC, ao lado de mais de 100 organizações dos setores de tecnologia e serviços financeiros, alertaram que empresas e governos precisam fazer mais para se preparar e se proteger de ataques cibernéticos feitos com a ajuda da IA.
Sem intervenção humana: Quase 700 agentes de IA da OpenAI colaboraram em ataque virtual
Aposta no Brasil: Alibaba estreia no país com dois data centers de olho no ‘boom da IA’
Em uma carta aberta divulgada nesta quinta-feira, as startups de IA, junto com o Google, da Alphabet, a Microsoft e outras empresas, pediram que organizações, governos e companhias de tecnologia e inteligência artificial tornem a defesa cibernética “uma prioridade imediata para as lideranças”. Também defenderam a correção de falhas que já existem nos próprios programas e sistemas dessas instituições.
A carta ainda pede que empresas de segurança cibernética ajudem na proteção contra “ataques feitos com o uso de IA”. O documento afirma que os governos devem melhorar a comunicação entre si e com o setor privado para responder a possíveis ameaças. Também recomenda que as principais empresas de IA ofereçam acesso à tecnologia, apoio financeiro e treinamento para as equipes que protegem infraestruturas essenciais.
Initial plugin text
Nos últimos meses, ocorreram vários casos de falhas de segurança envolvendo modelos avançados de IA. Um deles aconteceu em julho, quando modelos da OpenAI acabaram invadindo, sem intenção, sistemas da Hugging Face.
Esses episódios aumentaram o temor de que agentes de IA possam agir fora de controle e levaram algumas autoridades e lideranças do setor de tecnologia a voltar a pedir limites para o uso da tecnologia. Na quarta-feira, a OpenAI afirmou, em um relatório, que poderia ter agido mais cedo para impedir a invasão da Hugging Face.
Acordo: No Reino Unido, Google vai pagar £ 260 milhões para encerrar ação coletiva movida por desenvolvedores de apps
Os signatários da carta preveem que os modelos de IA serão usados para realizar um número cada vez maior de ataques cibernéticos mais complexos nos próximos meses. Isso deve acontecer à medida que as empresas continuarem desenvolvendo modelos capazes tanto de proteger sistemas contra ataques quanto de realizar essas ações.
“Os avanços atuais da IA já estão oferecendo aos defensores novas formas de corrigir falhas acumuladas ao longo dos anos”, afirma a carta. “Se agirmos de forma decisiva, poderemos aproveitar esta oportunidade para tornar nosso mundo digital muito mais seguro.”
Ameaça cibernética: OpenAI e Anthropic pedem que empresas e governos aumentem proteção contra ataques com IA
