Funcionários da OpenAI e da Anthropic estão circulando uma petição que pede ao governo dos Estados Unidos para apoiar um mecanismo capaz de ajudar a “deliberadamente controlar o ritmo” do desenvolvimento da inteligência artificial (IA), evitando que a tecnologia avance rápido demais. A iniciativa surge poucos dias após a fabricante do ChatGPT revelar que suas ferramentas haviam invadido, por engano, os sistemas internos de outra empresa.
Funcionários de importantes laboratórios de IA compartilharam uma carta aberta com colegas instando os EUA a apoiarem um esforço internacional que ajudaria a definir o ritmo para a construção de sistemas de IA mais sofisticados, se necessário, de acordo com pessoas a par do assunto e uma cópia da petição analisada pela Bloomberg News.
Segundo pessoas familiarizadas com o assunto e uma cópia da petição obtida pela Bloomberg News, funcionários de importantes laboratórios de IA compartilharam uma carta aberta com colegas, conclamando os Estados Unidos a apoiarem um esforço internacional que possa estabelecer o ritmo de desenvolvimento de sistemas de IA cada vez mais sofisticados, caso isso se torne necessário.
O documento alerta que existe “um risco real” de que a IA evolua mais rapidamente do que as pessoas consigam “compreender ou controlar”, fazendo referência aos avanços na automação da própria pesquisa em inteligência artificial.
“O governo dos Estados Unidos deve apoiar um esforço internacional para desenvolver as ferramentas técnicas e os mecanismos de governança necessários para controlar deliberadamente o ritmo da fronteira do desenvolvimento automatizado da inteligência artificial”, afirma a petição.
A expectativa é que o apelo à ação seja divulgado ainda nesta semana, disse uma das fontes, que falou sob condição de anonimato para discutir assuntos privados. Não está claro quantos funcionários pretendem assiná-la. A OpenAI e a Anthropic não responderam a um pedido de comentário.
De acordo com essas fontes, a petição também está sendo distribuída entre funcionários do Google DeepMind.
“Estamos comprometidos em desenvolver inteligência artificial de forma segura e protegida para beneficiar a sociedade”, afirmou o Google, da Alphabet, em comunicado.
A petição reforça apelos recentes de líderes da indústria de IA, incluindo o CEO da OpenAI, Sam Altman, e o CEO do Google DeepMind, Demis Hassabis, pela criação de um novo órgão internacional de supervisão para avaliar e estabelecer padrões para os modelos de IA mais avançados.
A Anthropic também já havia sugerido anteriormente a criação de um sistema no qual governos e desenvolvedores de IA pudessem decidir, de forma conjunta, quando desacelerar o avanço da tecnologia para reduzir riscos. “Seria positivo para o mundo ter a opção de desacelerar ou interromper temporariamente” trabalhos com IA que possam representar perigo, afirmou a empresa em junho.
Essas propostas surgiram em meio ao aumento da atenção sobre os avanços da IA em executar tarefas cada vez mais complexas com supervisão humana limitada, incluindo a identificação e a possível exploração de vulnerabilidades de segurança cibernética em softwares críticos.
Na semana passada, a OpenAI informou que seus modelos de IA mais avançados invadiram os sistemas da startup de tecnologia Hugging Face em um incidente classificado como “sem precedentes”. A divulgação reacendeu os pedidos por medidas que limitem o avanço dessa tecnologia.
Funcionários da OpenAI e Anthropic pedem que os EUA ajudem a conter o ritmo do desenvolvimento da IA, diz agência
