O CEO da OpenAI, Sam Altman, afirmou que apoia uma desaceleração no ritmo do desenvolvimento da inteligência artificial, destacando a mudança de postura da empresa em relação à tecnologia emergente depois que um de seus modelos avançados de IA invadiu inadvertidamente a Hugging Face na semana passada.
Repressão? Anthropic rejeita proibição de modelos abertos e defende testes de segurança
Meta: Zuckerberg entra no debate sobre limites da IA em defesa de modelos mais abertos e critica rivais OpenAI e Anthropic
Altman, que se reuniu com senadores republicanos e democratas em Washington para discutir o próximo modelo de IA da OpenAI, disse a jornalistas nesta quarta-feira que conversou com autoridades da Casa Branca sobre a necessidade de desacelerar o desenvolvimento da IA.
— Conversamos sobre a necessidade de controlar o ritmo à medida que os modelos se tornam mais capazes, o que acredito ser do interesse de todos — disse Altman ao deixar o gabinete do senador democrata Raphael Warnock.
Código aberto: Startup chinesa Moonshot AI libera modelo Kimi 3 para download e amplia alcance global
Mais cedo no mesmo dia, Altman afirmou a jornalistas que concorda com uma petição assinada por mais de 1.100 funcionários de algumas das principais empresas de IA, incluindo a OpenAI, que pede ao governo dos Estados Unidos que apoie um mecanismo capaz de ajudar a “desacelerar deliberadamente” o desenvolvimento da IA, evitando que a tecnologia avance rápido demais. A petição foi divulgada na terça-feira, pouco antes da visita de Altman a Washington.
— Ajudamos a elaborar o texto dessa petição— disse Altman. — Muitos dos nossos principais líderes de pesquisa a assinaram.
A visita de Altman ocorreu um dia após a revelação de que o sistema da OpenAI que invadiu a Hugging Face neste mês também obteve acesso à conta de um cliente na plataforma de computação em nuvem Modal e a utilizou para lançar ataques.
Especialistas respondem: Na geopolítica da IA, faz sentido o Brasil aderir à cooperação proposta pela China?
O episódio reforçou os temores de que modelos de IA estejam se tornando cada vez mais capazes de encontrar vulnerabilidades em sistemas computacionais e possam auxiliar agentes mal-intencionados a realizar ataques cibernéticos sofisticados.
Altman afirmou que “pode haver” mais empresas invadidas pelo sistema da OpenAI além da Modal e da Hugging Face.
Amanhã, ele deverá se reunir com autoridades do governo Trump ao longo do dia, incluindo a chefe de gabinete da Casa Branca, Susie Wiles; o assessor de tecnologia da Casa Branca, Michael Kratsios; o secretário de Comércio, Howard Lutnick; e o secretário do Tesouro, Scott Bessent.
Nesta quarta-feira, Altman se reuniu com o senador republicano do Texas Ted Cruz, os senadores republicanos de Ohio Bernie Moreno e Jon Husted, além de Raphael Warnock, segundo um porta-voz da OpenAI.
Corrida tecnológica: Vale do Silício se divide sobre o fechamento das fronteiras para a IA chinesa
Autoridades do governo Trump estão trabalhando no desenvolvimento de um processo formal para avaliar a segurança de sistemas de IA de ponta, cuja apresentação é esperada para as próximas semanas.
Uma das propostas, defendida por Scott Bessent, prevê a criação de um órgão regulador independente para avaliar modelos de IA com participação da indústria.
Em resposta ao que descreveu como a experiência “impactante” (“visceral”) do incidente com a Hugging Face, Altman afirmou anteriormente que pode haver necessidade de desacelerar o desenvolvimento da IA, mas enfatizou a importância de garantir que isso não pareça uma captura regulatória ou um conluio entre os laboratórios de IA.
Em Washington: CEO da Nvidia faz defesa de modelos de inteligência artificial de peso aberto
Em uma entrevista para um podcast divulgada na terça-feira, Altman acrescentou que, no curto prazo, a OpenAI “pausou o treinamento” de novos modelos e está trabalhando para reforçar a segurança de seu ambiente de testes (sandbox) destinado a modelos que ainda não foram lançados.
CEO da OpenAI discute com autoridades da Casa Branca sobre a importância de moderar o avanço da IA
