A Anthropic afirmou, em uma publicação feita nesta segunda-feira em seu blog, que pequenos modelos de inteligência artificial (IA) estão a poucos meses de desenvolver as capacidades necessárias para se autorreplicar em aparelhos domésticos inteligentes, como fornos e televisores conectados à internet. Assim, formariam redes de agentes de IA potencialmente incontroláveis, sem depender de centros de dados.
Apple View: Dona do IPhone amplia aposta em casa conectada com novos dispositivos e inteligência artificial
Pedido de regulação: Ciberataques são o principal risco da IA hoje, afirma Bill Gates
Os agentes de inteligência artificial estão “cada vez mais aptos a executar as etapas individuais necessárias para completar o ciclo de replicação e transmitir suas adaptações às cópias futuras de si mesmos”, afirmou a Anthropic.
O alerta da criadora do Claude é o mais recente de uma série de advertências feitas por pesquisadores sobre os riscos à segurança cibernética associados ao avanço da inteligência artificial. À medida que esses sistemas ganham novas capacidades, também se tornam mais difíceis de controlar.
Executivos e pesquisadores da Anthropic e de sua concorrente OpenAI têm advertido repetidamente sobre os perigos associados ao desenvolvimento de sistemas de inteligência artificial cada vez mais poderosos. Alguns defendem a adoção de salvaguardas mais rigorosas e de medidas para controlar o ritmo de evolução da tecnologia.
Aquisição à vista? Amazon negocia compra da startup de IA Decart por cerca de US$ 7 bilhões, diz WSJ
A empresa, sediada em São Francisco, afirmou que, se os modelos de IA continuarem evoluindo no ritmo atual, a tecnologia será capaz de se disseminar pela internet como os chamados worms (vermes em tradução para o português) — programas maliciosos que se propagam automaticamente de um dispositivo para outro, sem intervenção humana.
“Estamos vendo os primeiros sinais de vida dos vermes de IA”, afirmou a Anthropic em uma publicação de pesquisa, comparando sua disseminação gradual por dispositivos vulneráveis de maneira semelhante a um “bolor digital ou a um enxame de moscas-da-fruta, que se reproduzem ao longo de vários dias”.
Esse processo, porém, poderia ganhar velocidade à medida que os eletrônicos de consumo se tornassem mais sofisticados e os modelos de inteligência artificial, mais eficientes.
Os worms, ou vermes digitais, há muito são uma ferramenta popular e eficaz de disseminação de programas maliciosos, graças à capacidade de se replicar e se espalhar rapidamente por redes de grande porte.
Saiba: O que está reduzindo a eficiência da IA? O chamado ‘imposto da verificação’
O alerta sugere que ataques semelhantes ao que surpreendeu pesquisadores durante a investigação do ataque hacker à Hugging Face poderiam ser direcionados a aparelhos pertencentes a moradores e empresas que sequer suspeitam do risco.
A advertência mais recente da Anthropic diz respeito aos dispositivos conhecidos como parte da internet das coisas (IoT, na sigla em inglês), cuja presença se disseminou na última década. Esses aparelhos permitem aos consumidores controlar, por meio da internet, sistemas de iluminação, tomadas, termostatos e equipamentos de segurança.
Muitos desses dispositivos conectados à internet historicamente apresentam falhas de segurança, seja por serem fabricados a baixo custo por fornecedores de hardware genérico, por serem usados para acessar ilegalmente serviços de streaming de TV ou porque as empresas responsáveis por desenvolvê-los encerraram suas atividades.
Essa fragilidade dos equipamentos cria um ambiente propício para hackers, que já recorrem à capacidade de programação da inteligência artificial para acelerar e personalizar seus ataques.
“Embora os dispositivos da internet das coisas sejam vulneráveis há muito tempo, agentes leves podem estar muito mais dispostos do que atacantes humanos a investir o esforço necessário para comprometer uma parcela significativa da capacidade computacional dos dispositivos de IoT em todo o mundo”, acrescentou a empresa.
“Ainda não temos um replicador totalmente fora de controle, mas os agentes estão cada vez mais aptos a executar as etapas individuais necessárias para completar o ciclo de replicação”, afirmou a Anthropic. “Devemos fortalecer nossos sistemas para dificultar a propagação desses replicadores, mas também nos preparar para um cenário em que eles se tornem uma presença permanente.”
Anthropic alerta que agentes de IA poderão se autorreplicar e 'infectar' eletrodomésticos
