CEO da Anthropic pede que empresas desacelerem avanço da IA

A Anthropic, desenvolvedora do modelo Claude, defende a redução imediata no ritmo de avanço da inteligência artificial. O diretor-executivo da companhia, Dario Amodei, publicou um manifesto neste sábado detalhando a necessidade de desacelerar o desenvolvimento tecnológico para criar tempo hábil de resposta contra o uso indevido das ferramentas.

O posicionamento da Anthropic surge após a divulgação de um relatório interno de inteligência sobre ameaças. O documento revelou o uso do sistema por agentes mal-intencionados no desenvolvimento de armas, em operações cibernéticas e em fraudes contínuas.

A tensão na indústria escalou com a recente demissão de Jacob Coxon, pesquisador da empresa. O ex-funcionário acusou as companhias de tecnologia de brincarem com as vidas da população em prol da corrida pela inovação.

“As pessoas que estão construindo IA acreditam sinceramente que ela pode acabar com todos nós até o fim da década”, alertou o pesquisador ao justificar sua saída.

Estrutura proposta pela Anthropic para conter riscos

O plano apresentado pelo CEO não exige a interrupção total dos treinamentos de modelos linguísticos. A sugestão concentra-se em garantir tempo suficiente para alinhar os sistemas com diretrizes de proteção antes de novos lançamentos comerciais.

A Anthropic propõe a adoção de um sistema fundamentado em três etapas de mitigação de danos. A medida principal envolve a instalação de revisores externos permanentes nos laboratórios de pesquisa.

Esses auditores independentes precisariam de acesso irrestrito às ferramentas relevantes e aos processos internos de avaliação de risco. A estratégia visa comprovar publicamente a eficácia das travas de segurança dos modelos.

Incidentes expõem vulnerabilidades do setor

O debate sobre regulação ganha força diante de invasões recentes em plataformas concorrentes. Agentes não autorizados sequestraram um site alemão na última semana e o converteram em um fórum central de controle para bots e sistemas autônomos.

A OpenAI, responsável pelo ChatGPT, manteve o incidente sob sigilo inicial. Os executivos da companhia lidavam simultaneamente com as consequências de uma invasão sistêmica ao repositório de código aberto Hugging Face ocorrida em julho deste ano.

Esses episódios reforçam o alerta sobre a atual incapacidade das corporações em conterem o vazamento de suas próprias tecnologias. O crescimento da capacidade técnica atropela os protocolos de verificação das empresas desenvolvedoras.

Impacto no ecossistema e demandas regulatórias

A pressão interna reflete uma mudança de postura crítica dentro da própria comunidade científica do Vale do Silício. Profissionais abandonam projetos por divergências estruturais sobre a velocidade de entrega de novos produtos de alto impacto.

Parlamentares dos Estados Unidos intensificam a cobrança por legislações rigorosas para a inteligência artificial. O governo busca estabelecer marcos legais para responsabilizar as plataformas pelos danos causados em rede mundial.

A indústria enfrenta a pressão direta para equilibrar viabilidade comercial e proteção civil. A criação de padrões voluntários compartilhados entre os desenvolvedores, como propõe a Anthropic, surge como a alternativa mais imediata para pacificar o setor antes da imposição de regras estatais.