O ex-pesquisador da Anthropic Jacob Coxon alertou que a corrida para desenvolver inteligência artificial traz riscos que a própria indústria ainda não compreende plenamente, durante uma audiência na Câmara Municipal de Nova York em que parlamentares avaliaram a possibilidade de impor suas próprias salvaguardas a um setor global em rápida expansão.
Constantino Tsallis: ‘A IA não é como um aparelho que pode ser desligado’, diz um dos físicos mais influentes do mundo
R$ 4,4 tri a mais no bolso: Boom de IA leva bilionários da tecnologia ao melhor ano de suas vidas
— Ainda não sabemos como controlar nenhum sistema de IA— disse Coxon na audiência realizada nesta segunda-feira, que também contou com representantes de algumas das principais empresas desenvolvedoras de inteligência artificial.
A audiência proporcionou uma cena inusitada em Nova York: Coxon, vestido com terno escuro e camisa branca, sentou-se diante de uma plateia formada por autoridades municipais e expôs sua visão sobre o funcionamento interno de uma indústria que ocupa um espaço cada vez mais central na economia dos Estados Unidos.
Entenda: CEOs de Anthropic, OpenAI, Google e xAI querem mesmo desacelerar o ritmo da inteligência artificial?
Ele prestou depoimento a pedido de Julie Menin, presidente da Câmara Municipal de Nova York, que quer aprovar um pacote de projetos de lei para impor novas restrições ao setor. As empresas de IA se expandiram rapidamente em Nova York, mas vêm enfrentando questionamentos crescentes sobre as ameaças que sua tecnologia pode representar para a economia da cidade e para sua população de maneira geral.
Entre as propostas em análise pela Câmara Municipal está a possibilidade de instalar um “botão de desligamento” (“kill switch”) capaz de interromper sistemas de IA que apresentem comportamento fora de controle, embora Coxon tenha afirmado que uma medida desse tipo teria alcance limitado.
— Precisamos de algum tipo de desaceleração no desenvolvimento dos modelos de fronteira— disse Coxon. — Ferramentas como os “kill switches” podem ser úteis no curto prazo, mas, provavelmente, não serão suficientes para garantir a segurança no longo prazo.
Do ‘Limpar’ ao ‘Estender’: iPhone 18 Pro usa IA para editar e comparar fotos. Veja testes
Nova York e outros governos estaduais e municipais vêm avançando com suas próprias propostas para regulamentar a IA, enquanto o governo Trump adotou, em grande parte, uma abordagem de pouca intervenção. Alguns executivos do setor e o presidente Donald Trump sugeriram que a melhor forma de regulamentar a IA seria a própria indústria supervisionar suas atividades, uma ideia rejeitada por Menin.
— A ideia de que as empresas de IA simplesmente vão se autorregular não vai funcionar— disse Menin em entrevista coletiva antes da audiência. — O que realmente precisamos fazer é aprovar essa legislação, que será a primeira do país, e esperamos que isso estimule ações do governo federal e de outras jurisdições.
Coxon deixou a Anthropic no mês passado, alertando que a IA poderia se tornar poderosa demais para ser controlada pelos seres humanos e acusando sua antiga empregadora e a OpenAI de “apostarem nossas vidas”.
Alex Turner, ex-pesquisador do Google DeepMind, e Daniel Kokotajlo, diretor-executivo do AI Futures Project e ex-pesquisador da OpenAI, prestaram depoimento remotamente.
Uma proposta apresentada por Menin daria aos denunciantes uma parcela das multas ou penalidades aplicadas a empresas de IA após violações serem comunicadas. Outra medida permitiria que pessoas prejudicadas por sistemas de IA processassem os desenvolvedores em determinadas circunstâncias e exigiria a validação por terceiros de alguns sistemas antes que eles pudessem ser implantados na cidade.
OpenAI, Anthropic e Google concordaram em enviar representantes à audiência depois que o gabinete de Menin alertou que as empresas poderiam ser intimadas judicialmente.
Logan Graham, chefe da Frontier Red Team da Anthropic, responsável por testar modelos avançados de IA quanto às suas capacidades e riscos, participou virtualmente da audiência. Também prestaram depoimento Morgan Dwyer, chefe de desenvolvimento e operações de políticas da OpenAI, e Shane Cahill, diretor de políticas de IA da Meta . Alice Friend, executiva de políticas de IA do Google, também participou remotamente.
Antes do início da audiência, Menin afirmou que pediria a um juiz que obrigasse a unidade de inteligência artificial da SpaceX a cumprir uma intimação, depois que a empresa não atendeu aos pedidos para enviar um representante.
Um porta-voz do Google se recusou a comentar. Representantes das outras empresas não responderam aos pedidos de comentário.
Também era esperado o depoimento de autoridades da administração do prefeito de Nova York, Zohran Mamdani, incluindo Samuel Levine, comissário do Departamento de Proteção ao Consumidor e ao Trabalhador, e Sarah Milstein, vice-comissária do Escritório de Tecnologia e Inovação.
Ex-pesquisador da Anthropic alerta que corrida pela IA traz riscos que a própria indústria ainda não compreende
