A Anthropic alertou formalmente seus investidores de que sua tecnologia pode representar “riscos existenciais para a humanidade”, segundo um prospecto de oferta pública inicial de ações (IPO) que começou a ser compartilhado nos últimos dias com um grupo restrito de parceiros, aponta reportagem do Financial Times.
A startup de inteligência artificial, avaliada em quase US$ 1 trilhão e comandada por Dario Amodei, dedicou quase um terço de seu extenso documento S-1 à descrição dos chamados “fatores de risco”. Entre eles estão a possibilidade de que modelos de IA cada vez mais avançados sejam capazes de manipular pessoas, praticar chantagem e apresentar outros comportamentos imprevisíveis.
O FT destaca que a empresa também destacou riscos mais convencionais, como a forte concentração de sua carteira de clientes. De acordo com pessoas que tiveram acesso ao documento, quase um quarto da receita da Anthropic no ano passado veio de apenas dois clientes.
As advertências incluídas na seção de riscos aumentam a complexidade do desafio que os investidores do mercado acionário terão pela frente para avaliar a principal empresa americana de IA quando ela lançar suas ações. A operação é esperada para se tornar o IPO de maior valor da história.
Segundo o jornal britânico, a fabricante do Claude também ofereceu aos investidores uma visão mais clara dos desafios econômicos envolvidos na criação de modelos de inteligência artificial de ponta, às vésperas de sua abertura de capital, prevista para ocorrer na Nasdaq em outubro, no outono no Hemisfério Norte.
A Anthropic informou que planeja investir US$ 518 bilhões em obrigações relacionados a serviços de nuvem, capacidade computacional e infraestrutura nos próximos anos, como parte de seus planos para sustentar o rápido crescimento da companhia.
Os investidores que apoiam o laboratório de IA estão confiantes de que a Anthropic poderá chegar à bolsa com uma avaliação superior a US$ 2 trilhões — mais que o dobro do valor alcançado na última rodada de captação, em maio, e acima dos US$ 1,78 trilhão atribuídos à SpaceX, de Elon Musk, em junho. O forte ritmo de expansão da empresa é apontado como principal justificativa para esse otimismo, ressalta o FT.
No entanto, aponta o jornal, as preocupações com os riscos associados à inteligência artificial ameaçam agora enfraquecer essa confiança. Funcionários atuais e ex-funcionários da Anthropic fizeram alertas públicos de que uma IA fora de controle poderia levar à extinção da humanidade em uma década.
O Financial Times lembra que, na semana passada, Amodei afirmou ao Conselho de Segurança das Nações Unidas que a inteligência artificial pode representar uma ameaça à humanidade e classificou o tema como “a questão de segurança global mais importante enfrentada pelo mundo atualmente”.
E mais: neste mês, o executivo da Anthropic passou a defender publicamente a necessidade de “dosar o ritmo da fronteira” do desenvolvimento da IA. Seu principal rival na indústria, Sam Altman, da OpenAI, e Musk apoiaram as propostas de Amodei para que o setor trabalhe de forma coordenada na desaceleração do desenvolvimento e no reforço das medidas de segurança — uma rara demonstração de convergência entre os líderes.
As preocupações com a segurança aumentaram após uma série de incidentes de grande repercussão envolvendo cibersegurança, nos quais “agentes” de inteligência artificial conseguiram invadir sistemas externos. Na semana passada, a OpenAI revelou que suas ferramentas haviam invadido “dezenas” de sites externos, incluindo sistemas ligados a governos.
Anthropic alerta sobre 'risco existencial' à humanidade com IA em prospecto para ser listada em Bolsa, revela FT
