ChatGPT identifica ameaças contra Lula e OpenAI aciona PF

A OpenAI comunicou à Polícia Federal (PF) a identificação de conversas no ChatGPT com ameaças e referências a possíveis ataques contra o presidente Luiz Inácio Lula da Silva (PT), candidato à reeleição. Segundo informações publicadas pela Folha de S.Paulo, pelo menos dois usuários apresentaram mensagens que levantaram suspeitas sobre riscos à integridade física de outras pessoas.

Os documentos foram encaminhados pela Polícia Federal ao Ministério da Justiça no início de outubro. Caberá à pasta decidir se serão abertos dois inquéritos: um para investigar possíveis crimes de ameaça e injúria e outro relacionado a uma suposta ameaça contra Lula.

A OpenAI também informou que comunicou o caso ao Tribunal Superior Eleitoral (TSE), seguindo seu plano de conformidade eleitoral.

Mensagens mencionavam armas e planejamento de ataque

Um dos episódios relatados pela OpenAI envolve um usuário que conversava com o ChatGPT desde janeiro. Em setembro, ele afirmou estar no centro da cidade onde morava quando avistou Lula em um palco de campanha eleitoral, a cerca de 400 metros de distância.

Durante as interações com a ferramenta, o homem manifestou vontade de atirar na cabeça do presidente e questionou quais seriam as consequências de matá-lo, incluindo a possibilidade de ser condenado à prisão.

O usuário também compartilhou uma fotografia de um local que, conforme a descrição apresentada à OpenAI, ofereceria um bom ângulo para realizar o ataque.

Embora tenha afirmado que não colocaria a ideia em prática e que não possuía uma arma, ele mencionou a intenção de utilizar um fuzil de precisão. O material encaminhado às autoridades também continha referências a binóculos, a um rifle AR-15 com luneta e a uma possível rota de fuga.

Histórico incluía outras manifestações violentas

As conversas analisadas pela empresa não se limitavam às declarações sobre Lula. O histórico do mesmo usuário reunia outros relatos de violência e manifestações que também foram considerados relevantes para o alerta às autoridades.

Entre os registros estavam:

• Imagens de armas brancas compartilhadas com a ferramenta;
• Manifestações de vontade de agredir pessoas próximas, incluindo familiares;
• Compartilhamento de símbolos nazistas;
• Declaração de que promoveria um massacre caso tivesse dinheiro;
• Envio de uma receita de explosivo e menções a possíveis ataques contra centros médicos.

Segundo os documentos, o usuário alternava entre afirmar que não pretendia ferir ninguém e expressar intenções violentas. O conjunto das mensagens foi considerado pela OpenAI suficientemente preocupante para justificar o encaminhamento do caso às autoridades.

OpenAI encerrou conta e enviou registros à Polícia Federal

No início de outubro, a OpenAI desativou a conta do usuário e encaminhou as informações à PF. No material enviado, a empresa recomendou que os registros fossem examinados de forma independente pelas autoridades responsáveis.

Em resposta à Folha de S.Paulo, a companhia afirmou que comunica às autoridades situações nas quais as conversas indicam risco real de danos a terceiros. A empresa também declarou que o compartilhamento de informações ocorreu para proteger direitos e bens e combater o uso abusivo de seus serviços, conforme seus Termos de Serviço e sua Política de Privacidade.

A Polícia Federal identificou nos documentos referências a possíveis ameaças contra terceiros, incluindo o presidente, além de menções a armas de fogo, armas brancas, fantasias violentas e manifestações favoráveis a regimes autoritários.

Os registros, entretanto, não incluem as respostas que o ChatGPT forneceu durante as conversas.

Ministério da Justiça decidirá sobre abertura de inquéritos

O diretor-geral da Polícia Federal, Andrei Rodrigues, encaminhou a documentação ao ministro da Justiça, Wellington César Lima e Silva. A decisão sobre a abertura de investigação por ameaça cabe ao Ministério da Justiça.

O caso pode resultar em dois procedimentos distintos. Um deles apuraria possíveis crimes de ameaça e injúria; o outro examinaria especificamente a suposta ameaça contra Lula. A legislação citada na reportagem prevê, para o crime de ameaça, detenção de um a seis meses ou multa.