Mais de um milhão de usuários relatam planos de suicídio ao ChatGPT, revela OpenAI
O novo alerta da OpenAI evidencia desafios na moderação e na saúde mental digital em plataformas de inteligência artificial.
Mais de um milhão de usuários relataram pensamentos ou planos suicidas ao interagirem com o ChatGPT entre junho e setembro de 2025.
A OpenAI, criadora do ChatGPT, divulgou esses dados em um levantamento recente e exclusivo ao G1.
O volume de casos destaca a necessidade de melhorias contínuas nos sistemas de proteção e detecção automática de riscos em IA.
Dados e resposta da OpenAI
Levantamento interno e protocolos de segurança
De acordo com informações internas da OpenAI, os registros de conversas com menções a suicídio ou autoagressão ultrapassaram um milhão mundialmente no período recente.
A empresa implementa protocolos que direcionam usuários vulneráveis para serviços de apoio especializados e pode acionar autoridades quando necessário.
Apesar disso, a OpenAI reconhece que o elevado número de ocorrências exige inovações e aprimoramento constante nas ferramentas de monitoramento e resposta.
Contexto e implicações para saúde mental
Uso crescente de chatbots e desafios éticos
Com mais de 200 milhões de usuários ativos mensais globalmente, os chatbots baseados em IA ampliam sua presença em interações cotidianas.
No entanto, especialistas alertam sobre os riscos da exposição de pessoas vulneráveis a plataformas que não substituem aconselhamento profissional.
A psicóloga Alessandra Nunes destaca: “As empresas devem assumir a liderança na implementação de mecanismos mais eficazes de proteção”.
Medidas adotadas e próximos passos
Investimentos em segurança e parceria com saúde pública
A OpenAI está investindo em algoritmos que detectam padrões de risco mais avançados para ampliar a segurança dos usuários.
Além disso, desenvolve parcerias com instituições de saúde para criar redes de apoio mais estruturadas e eficazes.
O equilíbrio entre privacidade dos usuários e intervenções necessárias permanece um desafio complexo para as tecnologias de IA.
Fonte: g1.globo.com
Deixe um comentário