Altos funcionários do governo de Donald Trump se reuniram nesta terça-feira com o principal executivo da Anthropic em Washington para discutir riscos relacionados à segurança da inteligência artificial (IA).
Tom Brown, diretor de computação da Anthropic, que se tornou o rosto da empresa em Washington, conversou virtualmente com Emil Michael, diretor de Tecnologia do Pentágono, e Howard Lutnick, secretário de Comércio, segundo pessoas familiarizadas com o assunto.
A Anthropic se recusou a comentar. Em nota, um funcionário do Departamento de Defesa afirmou que o órgão “mantém contato com empresas de IA de fronteira”, mas acrescentou que “a posição do departamento em relação à Anthropic não mudou”.
As tensões entre a Anthropic e o governo foram reacendidas por um ensaio de 3.800 palavras publicado no sábado pelo CEO da empresa, Dario Amodei. Ele defendeu a regulamentação pelo governo e pediu que o desenvolvimento dos sistemas de IA mais avançados seja desacelerado, para que pesquisadores possam compreender melhor as possíveis ameaças.
A manifestação de Amodei, rapidamente apoiada pelos rivais Sam Altman, CEO da OpenAI, e Elon Musk, CEO da SpaceXAI, provocou uma reação contundente do presidente Donald Trump. Ele classificou os temores sobre os riscos da IA como “uma farsa” e rejeitou a ideia de novas regras.
Ainda assim, os principais desenvolvedores de IA começaram a discutir entre si questões relacionadas à segurança da tecnologia. Chris Lehane, chefe global de políticas da OpenAI, afirmou que a empresa vem conversando com a Anthropic e o Google DeepMind há várias semanas sobre o tema. “É melhor tentar trabalhar juntos para priorizar a segurança”, disse Lehane em uma entrevista coletiva nesta terça-feira, em Washington.
As crescentes preocupações sobre os riscos dos modelos de IA de ponta ganharam destaque em fóruns realizados em diferentes partes dos Estados Unidos nesta terça-feira. Na conferência anual Dreamforce, da Salesforce Inc., em San Francisco, Amodei, Altman e o CEO da Nvidia Corp., Jensen Huang, também se manifestaram sobre o tema. Em um encontro sobre IA em Washington, o senador progressista Bernie Sanders e o ex-assessor de Trump Steve Bannon tiveram uma rara convergência ao alertarem que as empresas de IA estão colocando em risco os interesses humanos.
Na Dreamforce, Altman e Huang reconheceram as preocupações, mas argumentaram que as próprias empresas de IA conseguiriam controlar o ritmo de desenvolvimento da tecnologia com segurança, sem necessidade de regulamentação.
As preocupações sobre os possíveis perigos da IA avançada ganharam projeção na última semana após a saída de alto nível do pesquisador da Anthropic Jacob Coxon. Em uma mensagem de despedida publicada nas redes sociais, ele acusou as empresas de IA de “apostarem com nossas vidas”.
Michael, que liderou os esforços do Pentágono para acelerar a adoção da IA pelas Forças Armadas, rejeitou publicamente a afirmação de Coxon de que a IA poderia matar todos os seres humanos. Já Lutnick está empenhado em rebater mensagens negativas sobre a tecnologia antes das eleições de meio de mandato, em novembro, segundo pessoas familiarizadas com o assunto.
As relações entre a Anthropic e o governo dos EUA ficaram tensas após um desentendimento ocorrido no início deste ano com o Departamento de Comércio sobre a segurança de seus modelos avançados de IA, Mythos e Fable, e uma disputa com o Pentágono sobre o uso da tecnologia da empresa em operações militares.
Michael ajudou a liderar as negociações com a empresa sobre o uso de sua tecnologia pelas Forças Armadas, mas as conversas fracassaram quando o Pentágono rejeitou os termos apresentados pela Anthropic, classificando-os como uma interferência na autoridade militar. Em seguida, o governo colocou a empresa em uma lista negra, declarando-a uma ameaça à cadeia de suprimentos dos EUA. A Anthropic ainda mantém uma ação judicial contra o Pentágono em um tribunal de Washington por causa da inclusão na lista.
Brown surgiu no cenário de Washington no início deste verão, ao liderar negociações de alto nível com autoridades americanas para suspender controles de exportação impostos aos modelos de IA mais avançados da Anthropic. Ele conseguiu alcançar esse objetivo e, no início deste mês, apareceu publicamente ao lado de Lutnick em uma cúpula do G20 voltada para tecnologia, quando fez questão de elogiar o apoio de Trump aos data centers.
Em entrevista à Bloomberg Television, nos bastidores do evento, Lutnick afirmou que a empresa havia “abraçado a causa” e recomposto sua relação com o governo. Mais tarde, porém, o Pentágono declarou que sua própria proibição à empresa continuava em vigor.
Brown agora provavelmente terá de enfrentar mais um desafio delicado de reduzir as tensões com autoridades americanas em torno da segurança da IA em um momento em que o presidente rejeita essas preocupações.
Trump afirmou, em uma publicação na rede Truth Social nesta segunda-feira, que sua presidência é a única barreira de segurança necessária para a IA. Ele acrescentou que desacelerar a tecnologia é uma má ideia, que serviria apenas aos adversários dos EUA, como a China.
Assessores de Trump se reúnem com executivo da Anthropic para discutir segurança da IA
