A pioneira em inteligência artificial Fei-Fei Li defendeu uma maior supervisão da tecnologia por entidades independentes e do setor público, argumentando que as avaliações de segurança de sistemas de IA cada vez mais capazes não deveriam ficar exclusivamente a cargo das empresas que os desenvolvem.
Li, professora da Universidade Stanford e cofundadora da World Labs, afirmou nesta terça-feira que, embora pesquisadores dentro das empresas de IA possam medir o poder e os atributos de segurança de modelos individuais, isso não substitui padrões mais amplos desenvolvidos por governos, pelo setor privado e por instituições acadêmicas.
“Continuo acreditando na importância de referências e avaliações desenvolvidas por órgãos independentes e entidades do setor público, como a academia, assim como na responsabilidade compartilhada entre a indústria e o governo”, disse Li em entrevista à Bloomberg Television.
A preocupação com os possíveis riscos representados por sistemas de IA cada vez mais poderosos aumentou após alertas de líderes do Vale do Silício de que a tecnologia está avançando tão rapidamente que pode ultrapassar a capacidade de controle humano.
Nas últimas semanas, Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, defenderam um ritmo mais lento de desenvolvimento dos modelos mais avançados. Os dois devem discutir a segurança da IA no Conselho de Segurança das Nações Unidas na quarta-feira.
Li afirmou que os potenciais riscos existenciais da IA dependem, em última instância, de como as pessoas escolhem desenvolver, regulamentar e utilizar a tecnologia. Segundo ela, esse princípio se aplica também a outras tecnologias, argumentando que inovações que vão da eletricidade e das máquinas a vapor aos meios de transporte modernos igualmente exigiram que a sociedade equilibrasse os possíveis benefícios com a segurança das pessoas.
Os seres humanos “detêm o poder da tecnologia”, disse Li. “Precisamos estar no controle”, afirmou. “A IA não diz respeito à IA, diz respeito aos seres humanos. Diz respeito à nossa dignidade e autonomia, tanto coletivas quanto individuais, assim como à nossa responsabilidade.”
Os comentários de Li se somam ao debate cada vez mais intenso entre formuladores de políticas públicas e líderes do setor de IA sobre o grau de seriedade que deve ser atribuído aos alertas sobre os riscos mais extremos da tecnologia.
Mais cedo, o presidente dos EUA, Donald Trump, rejeitou as preocupações com uma ameaça existencial representada pela IA, classificando-as como “uma farsa” durante um discurso na Assembleia Geral da ONU, em Nova York, e enfatizando, em vez disso, a necessidade de continuar desenvolvendo a tecnologia em ritmo acelerado.
As discussões sobre o comportamento dos sistemas de IA estão se estendendo para além dos chamados modelos de fronteira, que impulsionam o atual boom da tecnologia, disse Li. Sua empresa, a World Labs, está desenvolvendo os chamados modelos de mundo (world models), capazes de gerar e reconstruir ambientes tridimensionais. Segundo ela, essa tecnologia pode ser usada para treinar e avaliar robôs, além de viabilizar aplicações em design, saúde e outros setores.
À medida que esses sistemas avançam rumo a aplicações no mundo real, Li disse que o setor se depara com a mesma questão fundamental: como avaliar sistemas de IA cada vez mais capazes e determinar se eles estão se comportando conforme o esperado.
Pioneira da inteligência artificial faz apelo por supervisão independente para a tecnologia
