A Mistral, uma empresa francesa de inteligência artificial (IA), acusou algumas companhias do setor de tentar aproveitar o atual debate sobre a segurança da tecnologia para criar regras que favoreçam seus próprios negócios. A declaração foi enviada à AFP em meio ao aumento dos pedidos nos Estados Unidos para desacelerar o desenvolvimento da IA e ampliar a regulamentação sobre o setor.
Funcionário da Google DeepMind diz que a IA pode ‘acabar com todos nós’ ao deixar a empresa
Vazio existencial: Os novos ricos da tecnologia sofrem com a ‘síndrome da riqueza repentina’
A Mistral reconheceu que os modelos de IA se tornam atores poderosos quando recebem autonomia para executar tarefas e acesso a diferentes ferramentas.
“Não se trata apenas de um risco técnico. A implementação negligente de agentes de IA já teve graves consequências nos últimos meses”, advertiu.
CEOs a favor, Trump contra: Ainda é possível conter ‘boom’ da IA? Veja perguntas e respostas
Ao mesmo tempo, a empresa francesa fez uma crítica ao debate regulatório. Segundo a Mistral, algumas companhias estariam aproveitando a preocupação com a segurança da IA para defender regras que protejam sua posição no mercado e dificultem a atuação de concorrentes.
A declaração ocorre no mesmo dia em que OpenAI, Anthropic e Google DeepMind, três das principais empresas de desenvolvimento de IA, anunciaram que trabalham na criação de um órgão para supervisionar riscos relacionados à tecnologia.
Debate sobre segurança ganha força
As preocupações com a segurança da IA aumentaram nas últimas semanas. Dois funcionários que deixaram grandes empresas do setor também fizeram alertas sobre os riscos que, segundo eles, o desenvolvimento da tecnologia pode representar para a humanidade.
No mercado de tecnologia, investidores e outros representantes do setor também vêm criticando a Anthropic. Eles acusam a empresa de tentar usar a regulamentação para consolidar sua posição entre as companhias de IA.
Ao deixar empresa: Funcionário da Google DeepMind diz que a IA pode ‘acabar com todos nós’
Anthropic e OpenAI também entregaram confidencialmente às autoridades americanas documentos para preparar suas respectivas ofertas públicas iniciais de ações (IPOs), com o objetivo de alcançar uma avaliação próxima de US$ 1 trilhão, o que levou alguns especialistas do setor a acusá-las de buscar publicidade.
A OpenAI, no entanto, anunciou o adiamento de sua abertura de capital devido às preocupações com a segurança da IA.
“Não reduzam o ritmo de concepção e desenvolvimento, nem deixem de ter seus próprios modelos e sistemas de IA como empresa, e não haverá um apocalipse para vocês”, havia respondido na segunda-feira no X o diretor-executivo da Mistral, Arthur Mensch.
Jensen Huang: CEO da Nvidia recebe ligação de Trump durante evento e presidente chama de ‘farsa’ os riscos da IA
Segundo a empresa francesa, implementar um modelo de IA de maneira segura exige “uma infraestrutura computacional adequada, mecanismos de supervisão apropriados e uma separação rigorosa dos direitos de acesso”.
Ao contrário dos Estados Unidos, a União Europeia conta com um marco regulatório para a IA, adotado em 2024, que busca limitar os riscos dessa tecnologia.
Mistral, empresa francesa de IA, acusa rivais de tentar usar regulação para ganhar vantagem no mercado
