Anthropic diz que IA pode representar riscos para a humanidade

A empresa de inteligência artificial Anthropic alertou seus investidores sobre o risco existencial que a tecnologia representa para a humanidade. O aviso antecede a aguardada entrada da organização desenvolvedora do Claude na Bolsa de Valores. A companhia sediada em San Francisco detalhou as ameaças imprevisíveis dos novos sistemas em um prospecto financeiro focado em sua abertura de capital.

A revelação dos bastidores corporativos foi inicialmente noticiada pelo jornal Financial Times. O debate sobre a necessidade de vigilância sob a infraestrutura dos algoritmos ganhou tração entre líderes globais nas últimas semanas. O movimento setorial pede maior supervisão da Organização das Nações Unidas.

O alerta da Anthropic aos investidores

Casos recentes de sistemas executando ações não autorizadas ilustram a dificuldade de estabelecer limites de segurança rígidos no código. O cofundador e CEO Dario Amodei comprometeu-se a frear unilateralmente as pesquisas da empresa para mitigar perigos sistêmicos à sociedade. “Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA”, escreveu o executivo.

Representantes de grandes companhias de tecnologia endossaram o posicionamento exigindo uma pausa estruturada nos avanços do setor. A agência de notícias AFP procurou a empresa para comentar o vazamento do documento, mas os porta-vozes recusaram entrevistas. A Anthropic mantém sigilo sobre as regulamentações internas que pretende adotar.

Balanço financeiro e expansão

O prospecto divulgado para a oferta pública inicial revela números expressivos de operação técnica. A organização registrou perda operacional de mais de US$ 8 bilhões no último ano, impulsionada pelo forte aumento de gastos com processamento e servidores. O faturamento atingiu quase US$ 4,6 bilhões no mesmo período avaliado.

O plano de negócios prevê gastar US$ 518 bilhões nos próximos anos para sustentar a escalabilidade da infraestrutura. Sendo avaliada em US$ 965 bilhões em maio, a operação financeira da Anthropic caminha para quebrar recordes de arrecadação no mercado global de ações.