A Anthropic afirmou ter interrompido neste ano várias possíveis iniciativas de cientistas que usaram seus principais modelos de inteligência artificial para realizar pesquisas que poderiam ter ajudado no desenvolvimento de armas biológicas.
‘Brincando com nossas vidas’: Ex-pesquisador da OpenAI e da Anthropic acusa empresas de irresponsabilidade
Apple inicia nova era de lançamentos de dispositivos: saiba o que vem por aí em 2026, 27, 28…
Em um relatório que descreve usos indevidos de seus modelos de IA, a Anthropic disse que não conseguiu determinar se as pesquisas tinham uma finalidade legítima ou mal-intencionada, porque estudos biológicos válidos — do tipo que pode levar a avanços como vacinas — também podem contribuir para a criação de patógenos perigosos.
Diante dessa incerteza, a Anthropic afirmou que optou por agir com cautela, pois as consequências de deixar passar uma atividade maliciosa poderiam ser graves.
‘Aceita?’ Organizações e especialistas pedem que UE acabe com aviso sobre cookies de sites
“Você não vê alguém, como num gibi, dizendo: ‘Ei, quero construir uma arma biológica para matar todo mundo’”, disse Jacob Klein, chefe de inteligência contra ameaças da Anthropic, em entrevista. “É uma situação extremamente complexa.”
A possibilidade de que modelos de IA de ponta facilitem o desenvolvimento de patógenos biológicos conhecidos ou inteiramente novos está entre as maiores preocupações de especialistas em relação a uma tecnologia que avança tão rapidamente, que até mesmo seus principais arquitetos duvidam que os seres humanos serão capazes de controlá-la plenamente.
Andrew Weber, pesquisador sênior do Council on Strategic Risks, que analisou o relatório da Anthropic antes de sua divulgação, afirmou que as descobertas são “exemplos assustadores de desenvolvedores de armas biológicas patrocinados por Estados recorrendo às capacidades em rápida evolução dos principais modelos de IA”.
Frio como aliado: Google vai investir US$ 15 bi em data center na Finlândia
O extenso relatório publicado pela Anthropic nesta quinta-feira catalogou, nos últimos oito meses, uma série de usos indevidos de seus modelos de IA, incluindo o chatbot Claude. Alguns exemplos eram semelhantes a divulgações anteriores da Anthropic e de outros laboratórios de IA, incluindo atores supostamente ligados aos governos da China e do Irã que tinham como alvo comunidades dissidentes e da diáspora para fins de vigilância.
O relatório também destacou casos de veículos de mídia estatais russos usando o Claude para gerar propaganda na internet apresentada como se fosse jornalismo independente, incluindo alegações falsas sobre uma eleição na Moldávia.
Especialistas: Checagem profissional de conteúdo nas redes vive crise na América Latina
A Anthropic documentou ainda outro tipo de abuso que, segundo a empresa, é novo: tentativas de usar o Claude para desenvolver softwares destinados ao projeto e à fabricação de armas convencionais, incluindo armas de fogo, mísseis, drones armados e bombas.
A Anthropic não divulgou os nomes dos pesquisadores ou das instituições que bloqueou, seus países de vinculação ou os agentes biológicos específicos envolvidos, em parte devido à incerteza sobre suas intenções.
Anthropic afirma ter bloqueado possíveis tentativas de desenvolver armas biológicas
