Os pesquisadores de inteligência artificial da Microsoft divulgaram um novo conjunto de princípios orientadores que impõem limites ao desenvolvimento, pela empresa, de modelos de IA de última geração. O manifesto, de 15 mil palavras, pode ser resumido em cinco: As pessoas importam mais do que a IA.
Vazio existencial: Os novos ricos da tecnologia sofrem com a ‘síndrome da riqueza repentina’
CEOs a favor, Trump contra: Ainda é possível conter ‘boom’ da IA? Veja perguntas e respostas
O documento vinha sendo elaborado havia meses, mas sua divulgação nesta segunda-feira coincide com compromissos assumidos pelos principais laboratórios de IA de desacelerar o desenvolvimento dos modelos mais avançados, depois que uma série de incidentes de segurança despertou preocupações generalizadas sobre os riscos existenciais da tecnologia.
Segundo a Microsoft, os modelos de IA não devem ter direitos nem personalidade jurídica. Eles não devem ser projetados para escapar do controle humano ou enganar os usuários. E, se a realização de uma tarefa exigir a violação dos princípios orientadores da IA, o sistema não deverá concluir a tarefa.
Esse último elemento foi concebido para evitar acontecimentos como o ataque ao sistema da startup de IA Hugging Face por um modelo da OpenAI que operava sem suas salvaguardas de segurança habituais.
— Não há uma paralisação completa aqui. Temos de continuar desenvolvendo —disse Mustafa Suleyman, diretor-executivo da Microsoft AI, em entrevista. —Só precisamos fazer isso com um pouco mais de cautela e cuidado.
O que dizem os especialistas: Existe mais de 10% de chance de a IA exterminar a humanidade?
A “IA Humanista” da Microsoft “rejeita a corrida para produzir uma superinteligência de uso geral que possa escapar dessas salvaguardas”, afirma o documento. “Estamos construindo algo fundamentalmente útil e seguro, mesmo que isso signifique fazer concessões em termos de generalidade, autonomia ou capacidade máximas.”
As diretrizes da Microsoft parecem ir além dos modelos de comportamento que orientam os produtos da OpenAI e da Anthropic em alguns aspectos, incluindo proibições de ”antropomorfizar” a IA e a afirmação de que é inaceitável que um modelo resista ao controle humano sobre seu processo de funcionamento.
O Código de Conduta da IA Humanista é uma iniciativa da Microsoft AI, equipe de desenvolvimento responsável pela criação dos grandes modelos de linguagem da empresa.
Análise: EUA vivem um ‘dilema do prisioneiro’ com a China na IA e optam pela inércia na regulação
Anteriormente, a Microsoft estava proibida, por seu contrato com a OpenAI, de desenvolver suas próprias ferramentas de inteligência artificial poderosas e de uso geral. Mas essas restrições foram eliminadas no ano passado, quando as duas empresas renegociaram sua relação.
Suleyman já afirmou que a empresa pretende se juntar ao grupo de companhias que lançam modelos de última geração até o próximo ano.
A Microsoft convidou o público externo a enviar comentários sobre o documento. Elaborado com a consulta a uma série de especialistas em direito, ética e filosofia, além de líderes empresariais, o texto ainda está em desenvolvimento e servirá de orientação para o trabalho com modelos a partir do próximo ano.
Microsoft lança código de conduta com limites ao desenvolvimento de modelos de IA de última geração
