Ela poderia lançar um ataque com armas biológicas ou desencadear uma guerra global de drones. Poderia detonar uma bomba nuclear. Ou poderia destruir a sociedade humana de maneira mais gradual, acumulando todos os recursos econômicos do mundo e nos privando de alimentos, moradia ou medicamentos.
Esses são os tipos de pensamentos sombrios que agora rondam a inteligência artificial, uma tecnologia que já se provou um grande avanço nas conquistas humanas — mas que, temem alguns, também tem potencial para extinguir completamente a humanidade.
Essas preocupações ganharam as manchetes em todo o mundo nesta semana, quando um pesquisador da Anthropic deixou o setor, alegando temer que seu laboratório e outros semelhantes estivessem construindo máquinas superinteligentes que os seres humanos seriam incapazes de controlar.
As potenciais ameaças representadas pela IA são, compreensivelmente, assustadoras. Mas o mundo moderno está repleto de uma infinidade de riscos existenciais. Os seres humanos também enfrentam a possibilidade de desaparecer por causa de asteroides assassinos, pandemias, guerras termonucleares, mudanças climáticas, enormes massas de material incandescente lançadas pelo Sol, colapso ecológico e o início de uma nova era glacial repentina.
O problema, dizem cientistas e especialistas em políticas públicas, não são tanto essas ameaças, das quais a IA é apenas a mais recente, mas a dificuldade inerente aos seres humanos de colocá-las em perspectiva.
— Somos tolerantes aos riscos aos quais estamos acostumados, mas tememos os novos—, disse James K. Hammitt, diretor do Harvard Center for Risk Analysis.
Nós andamos de carro com mais frequência do que viajamos de avião, afirmou, e por isso “as companhias aéreas são vistas como perigosas em comparação com os veículos automotores, quando, na realidade, não são”.
A inteligência artificial, observou ele, “obviamente não é compreendida nem está sob nosso controle percebido, gerando uma enorme preocupação social”.
Entre os executivos de tecnologia e pesquisadores que desenvolvem sistemas de IA, sempre houve um grupo que alerta para o potencial da inteligência artificial de destruir a humanidade.
No curto prazo, dizem alguns, a inteligência artificial poderia ajudar pessoas sem conhecimento especializado, mas mal-intencionadas, a criar vírus ou substâncias tóxicas capazes de provocar doenças e mortes em larga escala.
Na quinta-feira, a Anthropic informou ter frustrado várias tentativas de cientistas que realizavam pesquisas que poderiam potencialmente levar ao desenvolvimento de armas biológicas.
No longo prazo, aqueles que alertam para os perigos potenciais da IA argumentam que as empresas de tecnologia poderiam dar aos sistemas de inteligência artificial maior autonomia, conectá-los à internet e até integrá-los a infraestruturas vitais, incluindo redes elétricas, mercados de ações e armas militares. Uma vez conectados a essas infraestruturas, argumentam, os sistemas de IA poderiam causar problemas de maneiras inesperadas.
Hoje, quando os sistemas de IA saem de controle, empresas como a OpenAI podem simplesmente desligá-los. Mas alguns especialistas temem que os sistemas do futuro resistam às tentativas de desligá-los.
Por enquanto, essas são preocupações hipotéticas.
— Estamos muito longe disso— disse Oren Etzioni, professor da Universidade de Washington e primeiro diretor-executivo do Allen Institute for Artificial Intelligence. — Se eu tivesse de me preocupar entre uma IA escapando do laboratório e matando milhões de pessoas e um vírus escapando e matando milhões, não há comparação. A preocupação é o vírus.
Acontece que até mesmo o antraz tem uma chance razoável de acabar com a humanidade.
O antraz existe desde a Antiguidade, mas, mais recentemente, tornou-se uma das armas preferidas de países fora da lei que desenvolvem programas de armas biológicas.
Os cientistas sabem há muito tempo que um único galão de antraz, se adequadamente distribuído, poderia acabar com a vida humana na Terra. Mas isso não aconteceu, embora haja suspeitas de longa data de que a Coreia do Norte e outros Estados beligerantes (incluindo o Irã) mantenham em seu poder esse germe letal.
O que muitas vezes se perde em meio aos pânicos frenéticos da vida moderna é que, pelo menos no caso de ameaças intencionais, a velha e conhecida dissuasão pode evitar o pior. Países relutam em lançar antraz contra um inimigo porque enfrentarão retaliação — transformando um ataque em suicídio —, criando assim um incentivo à contenção.
O Harvard Center, fundado em 1989, busca colocar esses inúmeros cenários de catástrofe em perspectiva, especialmente aqueles que não podem ser evitados por dissuasão, como os riscos ambientais e as grandes ameaças à saúde. O centro procura aplicar ciência da decisão, economia e avaliação de riscos para analisar e aprimorar as políticas públicas.
Da mesma forma, a NASA utiliza supercomputadores em seu Asteroid Threat Assessment Project (Projeto de Avaliação de Ameaças de Asteroides). De modo geral, a agência espacial considera essencialmente zero o risco, neste século, de um impacto de asteroide que colocaria em perigo a existência humana. E calcula que os habitantes da Terra podem, muito provavelmente, respirar aliviados por pelo menos mais 1.000 anos.
E como cientistas especializados avaliam o risco de uma pandemia que eliminaria a maior parte da vida humana?
Eles classificam a ameaça como baixa, quando não próxima de zero. Toby Ord, pesquisador da Universidade de Oxford, em seu livro de 2020, “The Precipice: Existential Risk and the Future of Humanity” (“O Precipício: Risco Existencial e o Futuro da Humanidade”, em tradução livre), estimou em 1 em 30 — ou aproximadamente 3% — o risco, em 100 anos, de uma catástrofe existencial provocada por uma pandemia.
O que diferencia os pessimistas do setor de tecnologia de, digamos, um cientista de uma companhia aérea que avalia riscos de acidentes, é que muitos executivos e pesquisadores da área de IA já nutriam essas crenças alarmistas mesmo antes de a tecnologia começar a demonstrar seu poder. Eles acreditam que o risco existencial é um problema grave, em parte porque sempre acreditaram nisso.
“Eu estava lá quando essa subcultura se desenvolveu”, disse Zack Korman, fundador da empresa de segurança de IA Embroidery. Ele se referia ao período em que esteve na Universidade de Oxford, quando a instituição era um dos principais centros do movimento do “altruísmo eficaz”, no qual muitos desses temores relacionados ao risco existencial da IA começaram a se formar.
Atualmente, disse Korman, pensadores demais sobre o tema “interpretam todos os acontecimentos à luz dessa história que vem sendo contada há mais de uma década”.
Especialistas observam que riscos catastróficos e existenciais também podem ser mitigados com planos sólidos e sistemas de alerta precoce. Diante de um perigo claro e iminente — como um asteroide em rota de colisão com o planeta —, a humanidade poderia muito bem se unir contra um inimigo comum, deixando as disputas em segundo plano.
Tob Ord espera que chegue o dia do que ele chama de “segurança existencial”.
“É um estado hipotético futuro do mundo no qual o risco existencial é baixo e permanece baixo”, escreveu em seu texto. Não apenas a humanidade apagaria os incêndios atuais, escreveu Ord, mas também “colocaria em prática os mecanismos para garantir que o fogo não volte a representar uma ameaça significativa”.
IA poderia, possivelmente, acabar com a humanidade. Como os humanos deveriam lidar com essa possibilidade?
