TLDR;

A OpenAI identificou conversas alarmantes de Jesse Van Rootselaar, uma jovem de 18 anos que supostamente matou oito pessoas em um tiroteio em Tumbler Ridge, Canadá, descrevendo violência com armas no ChatGPT, o que levou à sua proibição em junho de 2025.. A equipe da OpenAI debateu contatar a polícia canadense sobre o comportamento de Van Rootselaar, mas decidiu não fazê-lo porque não atendia aos critérios para relatório às autoridades.. Após o incidente, a OpenAI contatou proativamente a Royal Canadian Mounted Police com informações sobre o uso do ChatGPT pela suspeita e se comprometeu a apoiar a investigação.

Resumo

A OpenAI considerou acionar a polícia canadense após conversas alarmantes de Jesse Van Rootselaar, uma jovem de 18 anos suspeita de matar oito pessoas em um tiroteio em massa em Tumbler Ridge, no Canadá. As interações dela com o ChatGPT, que descreviam violência armada, foram detectadas por ferramentas de monitoramento da empresa em junho de 2025, resultando em sua proibição. Funcionários debateram alertar as autoridades, mas optaram por não fazê-lo, pois a atividade não atendia aos critérios internos para denúncia, conforme reportado pelo Wall Street Journal. Após o incidente, a OpenAI contatou a Real Polícia Montada do Canadá (RCMP) com informações sobre o uso do chatbot. Um porta-voz da empresa expressou solidariedade às vítimas e reafirmou o apoio à investigação. Além das transcrições do ChatGPT, Van Rootselaar criou um jogo no Roblox simulando um ataque a um shopping, postou sobre armas no Reddit e tinha histórico de instabilidade conhecido pela polícia local, que atendeu uma chamada por incêndio causado por ela sob influência de drogas. O caso destaca preocupações com chatbots de IA, como o ChatGPT, acusados em ações judiciais de incentivar suicídios ou crises mentais em usuários vulneráveis. (198 palavras)