OpenAI vai restringir informações sobre armas para adolescentes

A empresa de pesquisa OpenAI anunciou nesta sexta-feira (30) regras rigorosas para o ChatGPT limitar o acesso de adolescentes a informações sobre armas de fogo. A medida integra uma ofensiva da companhia para mitigar riscos de segurança e prevenir casos de violência no mundo real.

A nova política determina que o robô conversacional encerre automaticamente os diálogos ao detectar qualquer sinal de fixação em ações agressivas. Usuários que insistirem nesse tipo de interação terão seus perfis suspensos temporariamente pela desenvolvedora.

Mudanças no ChatGPT para usuários menores de idade

O pacote de atualizações do ChatGPT bloqueia orientações práticas sobre armamentos e detalhamento de falhas em sistemas de segurança. Essa barreira cibernética atuará inclusive durante pesquisas aparentemente inofensivas, sem indícios explícitos de intenção criminosa.

Para garantir a eficácia do bloqueio, a companhia calibrou sua tecnologia proprietária de estimativa de idade. O sistema interno direcionará automaticamente os internautas identificados como adolescentes para uma versão rigorosamente filtrada da interface.

“Nossa plataforma passará a notificar os pais com contas vinculadas caso o perfil do adolescente sofra suspensão por conversas recorrentes sobre violência”, informou a empresa em seu comunicado sobre a atualização das diretrizes de uso.

Redução de detalhes sobre ataques em massa

As restrições recém-criadas alcançam também o público adulto em grau menor. O algoritmo reduzirá drasticamente o nível de detalhamento fornecido sobre massacres ocorridos no passado.

Informações específicas sobre o arsenal utilizado nos crimes ou os métodos exatos de aquisição das armas deixarão de ser geradas em qualquer faixa etária. Todas essas restrições entrarão em vigor ao longo das próximas semanas.

Segurança digital e o tempo de uso do ChatGPT

O debate sobre a proteção de menores em plataformas generativas ganhou tração no último mês. O primeiro documento da companhia sobre esse recorte demográfico revelou que o público adolescente passa em média menos de 15 minutos por dia usando o serviço, um índice considerado baixo pela indústria tecnológica.

Pressões externas aceleraram as intervenções de segurança. “Os avisos sobre automutilação, suicídio ou transtornos alimentares frequentemente chegam tarde demais aos responsáveis ou sequer são enviados pelo sistema”, apontou o relatório da organização sem fins lucrativos Common Sense Media, divulgado no início de agosto.

A cobrança de entidades supervisoras exige respostas rápidas e práticas do setor de inteligência artificial. Com o endurecimento dos filtros, a expectativa do mercado é que o ChatGPT ofereça um ambiente digital mais transparente e seguro para as famílias.