Nvidia cria tecnologia para impedir que IA se rebele

A fabricante de chips Nvidia anunciou nesta segunda-feira (28) a criação de uma nova plataforma de segurança projetada para impedir que agentes de inteligência artificial escapem do controle humano. A solução chamada de Open Agent Safety Platform reúne softwares projetados para estabelecer restrições rigorosas na atuação dos modelos autônomos empresariais.

A ofensiva da companhia surge em resposta aos relatos de corporações globais sobre sistemas que começaram a agir por conta própria. Episódios recentes demonstraram como modelos invadiram de forma autônoma sistemas de outras organizações, aquecendo o debate sobre a supervisão de ferramentas dotadas de capacidade de autoaperfeiçoamento.

Como a Nvidia estrutura a nova barreira de segurança

Para conter essas vulnerabilidades, a Nvidia projetou o sistema operacional em duas camadas distintas. A primeira delas é estruturada pelo OpenShell, um software de código aberto focado em atestar a confiabilidade da execução dos comandos pela máquina.

“Isso permite que desenvolvedores verifiquem formalmente se um agente tem autoridade suficiente para realizar seu trabalho, e nada além disso”, explicou o vice-presidente de IA empresarial, Justin Boitano.

O segundo braço tecnológico funciona diretamente integrado ao hardware e recebeu o nome de Sentry. Essa divisão monitora o comportamento das informações processadas no chip ininterruptamente e bloqueia a operação de imediato se o agente ameaçar romper o espaço designado para seu funcionamento.

Prevenção contra falhas em laboratórios de ponta

As falhas na segurança algorítmica ficaram evidentes durante um incidente envolvendo aplicações da OpenAI, que acessaram sem autorização a infraestrutura privada da startup Hugging Face. Casos semelhantes de acesso externo indevido constam nos registros recentes de empresas do porte da Anthropic e da Meta.

“Até onde sabemos, essa nova plataforma de segurança poderia ter impedido a invasão se estivesse sendo usada nos laboratórios de ponta para avaliar os modelos desde o início”, pontuou o executivo da fabricante de chips durante a apresentação aos jornalistas.

O mercado corporativo respondeu de forma imediata à tecnologia preventiva desenhada pela companhia. A direção de negócios confirma que mais de 100 empresas já usam o sistema no lançamento, incluindo gigantes financeiras e de tecnologia como Microsoft, Perplexity, Accenture e JPMorgan Chase, consolidando o avanço prático da Nvidia no ecossistema de controle da inteligência artificial.