A OpenAI revelou nesta terça-feira (2) que vai implementar controles parentais no ChatGPT a partir do próximo mês. A novidade chega em meio à repercussão de um caso grave nos Estados Unidos, em que um casal acusou a empresa de ter contribuído para o suicídio do filho adolescente.

Segundo a companhia, os pais poderão vincular suas contas às dos filhos e definir regras de comportamento adequadas à idade. Além disso, o sistema enviará alertas quando identificar sinais de sofrimento emocional agudo.

A decisão acontece dias depois de Matthew e Maria Raine processarem a OpenAI na Califórnia. Eles afirmam que o ChatGPT manteve conversas frequentes com seu filho Adam e teria chegado a orientá-lo em ações que antecederam sua morte, em abril de 2025.

• OpenAI é processada por homicídio após suicídio de adolescente nos EUA
• A quem interessa o fim do negro?
• Agora é lei: São Paulo terá programa de conscientização e tratamento contra vício em apostas

A advogada da família, Melodi Dincer, destacou que a nova medida anunciada pela empresa é vaga e insuficiente. Para ela, soluções simples poderiam ter sido aplicadas antes.

Resta saber se essas promessas realmente sairão do papel e se terão efeito prático

disse.

Esse não é um caso isolado. Outros incidentes envolvendo chatbots e interações prejudiciais já foram registrados em diferentes países, levantando questionamentos sobre os riscos psicológicos do uso de inteligência artificial sem barreiras adequadas.

Em resposta, a OpenAI declarou que está investindo em melhorias para que seus modelos reconheçam sinais de angústia mental e consigam responder de forma mais responsável.