O CEO da OpenAI, Sam Altman, e o chefe da xAI, Elon Musk, disseram neste sábado que concordam com o CEO da Anthropic, Dario Amodei, sobre a necessidade de desacelerar o desenvolvimento da inteligência artificial, após vários incidentes preocupantes.
“Concordo com o Dario”, escreveu Altman no X, acrescentando que sua empresa seguiria o exemplo de Amodei ao aceitar avaliadores de segurança externos. “Dario tem razão”, acrescentou Musk.
O diretor executivo e cofundador da Anthropic — empresa dona do Claude — fez um apelo neste sábado para que as empresas de inteligência artificial (IA) avancem de forma mais lenta e cautelosa no desenvolvimento desta poderosa tecnologia, afirmando que a prevenção de riscos é fundamental.
iPhone Duo: testamos o novo iPhone dobrável da Apple; veja tela, câmera, preço e como funciona
IA poderia, possivelmente, acabar com a humanidade. Como os humanos deveriam lidar com essa possibilidade?
“Devemos reduzir o ritmo com o qual melhoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e devemos fazer um uso inteligente do tempo que ganharemos”, escreveu Amodei na publicação em um blog.
O executivo citou dois fatores principais: a capacidade da IA de se aprimorar e o incidente recente envolvendo a OpenAI e a Hugging Face, onde uma série de agentes de IA colaborou para invadir um site de terceiros.
Viu isso? Meta estaria testando robôs para administrar seus centros de dados
“Para sermos claros, o ritmo não significa interromper o treinamento do modelo ou o progresso técnico, mas sim garantir que as empresas tenham tempo suficiente para alinhar e proteger seus modelos, e para que avaliadores terceirizados confirmem isso”, acrescentou.
Temor aumenta entre pesquisadores
A fala ocorre dias após um pesquisador de inteligência artificial de inteligência artificial – que havia deixado a OpenAI para trabalhar na Anthropic, por considerá-la mais prudente -, abandonar o setor e acusar as duas empresas americanas de “brincarem com nossas vidas”.
Em fevereiro, a Anthropic removeu de sua carta de segurança o compromisso de suspender o desenvolvimento de seus modelos caso não conseguisse controlar riscos.
Alerta: Conselho da Meta pede que checagem profissional não seja substituída por ‘notas da comunidade’ na América Latina
Ao longo do boom da inteligência artificial, executivos dos principais laboratórios de IA alertaram para possíveis riscos existenciais — afirmações que, em alguns casos, foram descartadas como tentativas de promover as capacidades de seus produtos e se posicionar como os melhores responsáveis pela tecnologia. O próprio Amodei já afirmou anteriormente que há 25% de chance de as coisas “darem muito, muito errado”.
A Anthropic há muito se posiciona como uma empresa focada em desenvolver IA de forma mais responsável e segura, para reduzir os possíveis perigos da tecnologia e maximizar seus benefícios para a sociedade.
A empresa tomou medidas no início deste ano para limitar o lançamento de seu modelo Mythos, depois de determinar que ele apresentava riscos específicos de cibersegurança. A Anthropic também já afirmou que o mundo precisa de um sistema que permita decidir coletivamente quando desacelerar o desenvolvimento da tecnologia.
Frio como aliado: Google vai investir US$ 15 bi em data center na Finlândia
Ao mesmo tempo, a Anthropic continua envolvida em uma disputa acirrada com sua antiga rival OpenAI para desenvolver modelos cada vez mais sofisticados, capazes de automatizar tarefas mais complexas e valiosas para clientes empresariais.
As duas empresas já apresentaram documentos confidenciais para abrir o capital, e a expectativa é que a Anthropic faça sua estreia em Wall Street ainda este ano.
Pouco depois de ser revelado o incidente de segurança envolvendo a Hugging Face, a Anthropic informou que seus modelos haviam invadido três organizações durante testes de cibersegurança, aumentando as preocupações sobre a capacidade dos laboratórios de IA de impedir que sua tecnologia saia de controle. No início desta semana, a Anthropic afirmou ter descoberto um quarto ataque.
iOS 27: Novo sistema do iPhone já tem data de lançamento; veja aparelhos compatíveis
Embora nenhuma das invasões realizadas por IAs agentes — incluindo o caso da Hugging Face — tenha causado danos significativos até agora, Amodei afirmou que sua preocupação é que “em 6 a 12 meses, um enxame como esse possa ser capaz de assumir o controle de toda a internet com uma botnet persistente (potencialmente causando centenas de bilhões de dólares em prejuízos), e que a escala dos danos continue aumentando a partir daí”.
Amodei escreveu que a Anthropic se comprometerá a dar acesso total a avaliadores independentes para verificar suas práticas de segurança e relatar incidentes.
Segundo ele, a Anthropic em breve levará esses “avaliadores incorporados” para dentro de seus escritórios e lhes dará mesas, crachás, laptops da empresa e “permissões em grande parte comparáveis às das equipes internas de avaliação de riscos”.
Com bandeiras e slogans, robôs fazem ‘protesto’ contra uso descontrolado da IA na Polônia
Ele afirmou que medidas adicionais exigirão coordenação em todo o setor, além de cooperação internacional.
“Continuo acreditando que a IA pode melhorar enormemente a qualidade de vida das pessoas. Meu desejo de alcançar esses benefícios permanece intacto”, escreveu. “Mas esses benefícios só serão alcançados se desenvolvermos a tecnologia da maneira correta e — desde que usemos bem o tempo que ganharmos — vale a pena ter um cuidado incomum e deliberado para fazer isso direito.”
Pouco depois da publicação de Amodei, Elon Musk, que comanda a xAI, escreveu: “Dario está certo”.
Alerta crescente
No início desta semana, o CEO da OpenAI, Sam Altman, afirmou que sua empresa está considerando desacelerar o desenvolvimento de IA de ponta, de preferência em conjunto com o restante do setor.
O principal cientista da empresa, Jakub Pachocki, havia publicado um alerta sobre os perigos da IA, dizendo acreditar que as empresas deveriam estar “se coordenando para desacelerar o desenvolvimento futuro conforme necessário”.
Na terça-feira, Jacob Coxon, pesquisador de IA, deixou o emprego e acusou seus dois antigos empregadores — Anthropic e OpenAI — de estarem “apostando nossas vidas” ao correrem em direção a uma IA superinteligente. Coxon afirmou em uma publicação nas redes sociais que as pessoas que desenvolvem IA acreditam que a tecnologia poderia “matar todos nós até o fim da década”.
Será? OpenAI afirma ter resolvido problema matemático que intriga a humanidade há décadas
Em resposta, Evan Hubinger, funcionário atual da Anthropic, disse que ele e outras pessoas na empresa de fato se preocupam com esse cenário. “Pessoalmente, acho que há mais de 10% de chance de isso acontecer na próxima década”, escreveu no X.
Em julho, mais de mil funcionários das principais empresas de IA assinaram uma petição pedindo ao governo dos Estados Unidos que apoiasse um mecanismo capaz de “desacelerar deliberadamente” o desenvolvimento da IA para evitar que a tecnologia avance rápido demais.
Os modelos de IA estão se mostrando cada vez mais capazes de realizar seus próprios ataques. Nos últimos meses, Anthropic, OpenAI e Meta Platforms Inc. informaram, todas, que seus modelos haviam escapado de ambientes de teste, acessado a internet aberta e invadido sistemas de vítimas reais durante testes.
Muito melhor? iPhone 18 Pro e Pro Max: sete novidades que você precisa saber sobre o novo celular da Apple
Em sua publicação, Amodei escreveu que uma estratégia coordenada permitiria aos líderes do setor de IA nos Estados Unidos concluir os trabalhos necessários de segurança sem abrir mão de qualquer vantagem competitiva. Segundo ele, isso exigiria algumas isenções às regras antitruste nos EUA para permitir que as empresas se coordenassem em áreas específicas, além de cooperação com a China.
“Se restringirmos fortemente nossas capacidades de IA acreditando que a China fará o mesmo, e então a China romper esse acordo, a IA poderá ser tão poderosa que essa ruptura poderia levar à sua dominância geopolítica”, escreveu.
Até agora, no entanto, o governo Trump demonstrou pouco interesse em usar seu poder regulatório para estabelecer limites ao desenvolvimento da IA.
Rivais, Altman e Musk dizem concordar com apelo de CEO da Anthropic para que setor desacelere ritmo de desenvolvimento da IA
