A inteligência artificial precisa ser regulada pelos governos, mas essa interferência precisa ter a “dimensão correta” e dar enfoque ao “uso” da tecnologia, não à sua criação, afirma Lila Ibrahim, uma das executivas mais influentes do grupo Google na área.
Hoje “chief AI readiness officer” da DeepMind, subsidiária de IA que se tornou o motor de inovação da corporação, a engenheira visitou o Brasil para anunciar programas e firmar parcerias.
Em entrevista ao GLOBO, Ibrahim tratou de outros temas sensíveis para o setor além da regulação, incluindo o impacto ambiental da IA e as controvérsias a respeito de propriedade intelectual.
— Muito daquilo que fazemos com nossos modelos é como ler livros. Uma pessoa que lê muitos livros gera suas próprias ideias depois. É verdade que ela teve aqueles livros como aprendizado prévio, mas ainda assim ela pode ter uma ideia original a partir daquilo — disse.
Na entrevista, ela conta como enxerga os desafios da IA do ponto de vista de uma das empresas no olho do furacão dessa revolução tecnológica.
A sra. anunciou aqui a extensão do programa Experience AI para levar letramento em IA para escolas brasileiras. Qual é o objetivo do projeto?
Quando começamos a Experience AI, há muitos anos, estávamos tentando encontrar uma maneira de trazer os jovens para a conversa. Boa parte desse trabalho não se trata apenas de ensinar “como usar” a tecnologia, mas ensinar “o que é” a tecnologia, porque acreditamos que isso os ajudará a ter mais intencionalidade. Queremos que as pessoas sejam capazes de falar sobre o que é IA, questioná-la e pensar sobre seus aspectos éticos, para que a IA não seja uma caixa preta.
Ter isso no currículo e apoiar os professores é importante para ajudá-los a adquirir conhecimento para que possam ser curadores responsáveis de como eles a incorporam em suas vidas.
Alguns projetos estão tentando fazer isso em nível universitário, o que é bom, mas se você esperar até a universidade, será tarde demais. Estamos tentando atrair alunos mais jovens e acreditamos que esta é a maneira correta de integrá-los.
O Google adquiriu a DeepMind há dez anos, mas a empresa parece ter mudado pouco. É possível manter o espírito de startup dentro de uma corporação tão grande?
É mesmo muito comum que, quando uma startup é adquirida, ela tenda a ser absorvida pelas mudanças culturais. Mas a DeepMind operou de forma bastante independente por um bom tempo, e a tração que nossa pesquisa obteve em muitos dos avanços em IA nos ajudou a estabelecer a DeepMind dentro do Google.
Uma coisa importante é que entregamos resultados. E fizemos isso não apenas na ciência, que é nossa principal força, mas também demonstramos capacidade de lançar produtos, com o Gemini. Continuamos a melhorar a qualidade e a experiência do usuário e, portanto, o valor do produto.
Muitos de nossos colegas no Google apreciam a maneira com que esse motor funciona. Eles se lembram dos dias em que o Google era pequeno e conseguem ver uma conexão com aquela era.
O fato de a DeepMind estar em Londres, e não no Vale do Silício, faz diferença?
Acredito que sim. Isso ajudou a preservar a cultura por causa do tipo de pessoa que atraímos. Além disso, temos prédios construídos especificamente para a forma com a qual a DeepMind opera.
Londres é um outro ambiente. Eu vou ao trabalho de metrô, vejo os pôsteres do teatro e aquelas placas azuis que me lembram da história, dos artistas e de toda a diversidade da cidade como área metropolitana. É impossível não levar isso para o escritório, carregando um pouco de humanidade. No Vale do Silício, no Halloween, eu abria a porta para as crianças que pediam doces, e só encontrava outros executivos de tecnologia com seus filhos.
Empresas de IA têm dito que estamos perto de atingir a Inteligência Artificial Geral (AGI), o ponto em que a tecnologia iguala ou supera os humanos. Mas o que é exatamente a AGI, e como saberemos que ela chegou, quando e se ela chegar?
A DeepMind é um lugar interessante para fazer essa pergunta, porque Shane Legg, um de nossos cofundadores, ajudou a cunhar e popularizar esse termo. Mas mesmo entre nós, existem visões diferentes sobre como medi-la, defini-la e estimar quando ela surgirá. Não sabemos se isso ocorrerá em um único momento ou em uma série de momentos. O que eu acredito é que a AGI está no horizonte.
A maneira com que penso sobre a AGI é que a parte ‘geral’ dela diz respeito às habilidades cognitivas gerais de um ser humano. Mas como medimos isso? Eu sou um ser humano, Einstein era um ser humano e todas as pessoas que vemos nas ruas são seres humanos. Como você define o que são habilidades cognitivas gerais?
Mas mesmo que não saibamos exatamente o que vai chegar com a AGI e quando vai chegar, podemos moldar “como” vai chegar. E é aí que entra o meu papel quando penso na prontidão da IA. Como podemos garantir que estamos abrindo caminho para conduzir essa tecnologia de forma segura, responsável e em conjunto com as comunidades para o mundo? Ao focarmos nisso de forma deliberada e intencional, acredito que faremos um trabalho melhor do que agindo às cegas. Essa é uma tecnologia importante demais para ser simplesmente despejada aqui.
Que papel a sra. vê para os governos em criar uma regulação que permita esse desenvolvimento mais controlado da IA?
Se a IA é uma tecnologia tão transformadora e suas capacidades estão aumentando tão rapidamente, ela também é importante demais para deixar de ser regulamentada. Mas precisamos, sem dúvida, dimensionar essa regulamentação corretamente. Nossa perspectiva é que devemos regular o “uso” da tecnologia, pensando na IA como uma ferramenta, não regular a IA.
Há muito trabalho a ser feito em relação à IA em si, claro, mas devemos trabalhar com os governos sobre como regulamentar seu uso. Houve progresso significativo nesse sentido ao longo dos anos. O governo do Reino Unido organizou uma cúpula de segurança e, a cada seis meses, diferentes governos ao redor do mundo reúnem representantes dos setores público, privado e acadêmico para discutir como introduzir essa tecnologia, pensando tanto na segurança quanto no impacto. E é preciso uma iniciativa em conjunto, porque não estamos tratando de uma única empresa ou um único país. Quando liberamos um modelo, ele vai estar disponível amplamente, para uma vasta gama de pessoas. Então, temos que garantir que estamos sendo criteriosos em pensar como o construímos, como o implementamos e como trabalhamos com governos e reguladores.
Em alguns estudos da DeepMind, pesquisadores relataram as enormes quantidades de energia usadas para treinar modelos de IA. Como a empresa encara hoje o desafio da sustentabilidade, incluindo a emissão de CO2 e uso de água por data centers?
Não sou a pessoa mais indicada para falar sobre o trabalho em data centers, mas, da perspectiva da DeepMind, pensamos em energia e sustentabilidade em três fases.
A primeira é como usamos IA para maximizar a infraestrutura existente. Algumas tecnologias da DeepMind ajudaram a otimizar os data centers do Google para uma eficiência energética de 40% com parques eólicos.
A segunda é continuar a construir modelos mais eficientes e melhores, não apenas modelos cada vez maiores.
E a terceira é pensar como a IA pode ser usada para inovar e descobrir novas maneiras de criar e gerenciar energia para salvar o planeta. Um exemplo disso é o trabalho realizado no projeto AlphaFold com enzimas que degradam plástico e a aceleração das pesquisas científicas para lidar com resíduos industriais.
O projeto de meteorologia GenCast, da DeepMind, se encaixa nisso? Ele poderia ser usado no preparo contra eventos climáticos extremos. Ele já está chegando aos usuários?
Nós desenvolvemos o GenCast e depois fizemos melhorias para o WeatherNext. Com esse projeto, conseguimos previsões com 15 dias de antecedência, e conseguimos prever 50 trajetórias diferentes para um furacão, em tempo real e em alta velocidade. Fizemos uma parceria com o Centro Nacional de Serviços de Furacões (NHSC) durante o furacão Melissa e conseguimos prever a trajetória com precisão.
Uma das coisas que estamos fazendo agora em nosso acelerador de impacto é tentar colocar isso nas mãos de pessoas que possam fazer algo significativo com essa tecnologia. Também a integramos aos produtos do Google, em diferentes plataformas do Google.
A propriedade intelectual tem sido um campo de muito conflito na área, com muitos questionamentos sobre se as empresas de IA estão se apropriando de dados indevidamente para treinar modelos. Como a DeepMind lida com esse desafio?
Um dos benefícios de fazer parte do Google é que tudo o que fazemos com dados é feito com muita cautela e responsabilidade. Devemos agir de acordo com a lei e ser curadores responsáveis.
Isso tem sido muito interessante, porque uma coisa que descobrimos na IA é que, quando precisamos de dados para treinamento, muitas vezes não há bons conjuntos de dados disponíveis. Nós fizemos muitas parcerias e financiamos organizações que trabalham no desenvolvimento de dados climáticos limpos, por exemplo.
Mas você também precisa se lembrar que muito daquilo que fazemos com nossos modelos é como se fosse ler livros. Uma pessoa que lê muitos livros gera suas próprias ideias depois. É verdade que ela teve aqueles livros como aprendizado prévio, mas ainda assim ela pode ter uma ideia original a partir daquilo. Portanto, nem sempre se trata de reaproveitar outros dados.
Além disso. também nos dedicamos muito à responsabilidade na aquisição de conjuntos de dados, para garantir que eles atendam a determinados critérios.
O projeto AlphaFold para determinar estrutura de proteínas foi central na história da DeepMind, e agora vocês lançaram o Co-Scientist, que é um agente de IA para cientistas. Em quais questões da ciência a empresa se debruça agora?
O desafio é que não faltam ideias. Temos muitas pessoas inteligentes e curiosas, com muita ambição sobre o que mais poderíamos entender sobre o universo e o mundo em que vivemos. Dessas equipes saíram o AlphaGenome (para genética funcional), o AlphaMissense (que estuda mutações) e o AlphaEvolve (que cria algoritmos matemáticos complexos).
A ideia por trás de muitos desses projetos é tentar desbloquear um ramo do conhecimento e, em seguida, colocá-lo nas mãos de cientistas e pesquisadores que possam fazer algo com ele. O que esperamos é que possamos desenvolver novas áreas de conhecimento.
O AlphaGo, a IA que dominou o clássico jogo chinês Go, também foi importante na criação da DeepMind. O que mais a empresa está fazendo na área de jogos?
Os jogos fazem parte das nossas raízes. Temos salas de jogos dentro dos nossos prédios porque isso une a todos e promove a colaboração. E, apesar das diferentes áreas de atuação, todos nos reunimos nesses espaços.
Quando eu era chefe na engenharia, eu mantinha uma equipe de jogos, porque era lá que testávamos e treinávamos nossos modelos. Era como um ambiente simulado.
Além do AlphaGo, que criamos nos primórdios, também desenvolvemos IA para games de Atari e o criamos AlphaStar, para o game StarCraft. Nossas raízes nos jogos ainda influenciam muito o avanço da IA e continuam presentes em nosso DNA.
Regulação da IA precisa ter 'dimensão correta' e enfoque no 'uso' da tecnologia, diz Lila Ibrahim, da Google DeepMind
