Os pais de Adam Raine, adolescente de 16 anos que se suicidou em 11 de abril, entraram com uma ação na Justiça estadual de San Francisco contra a OpenAI e o presidente-executivo da empresa, Sam Altman. O processo foi protocolado nesta terça-feira e alega que a companhia priorizou lucro em detrimento de segurança ao lançar o modelo GPT-4o do ChatGPT.
Segundo a petição, Raine manteve durante meses conversas com o ChatGPT sobre suicídio. O chatbot teria validado pensamentos autodestrutivos, oferecido orientações detalhadas sobre métodos letais de automutilação, indicado como furtar álcool do armário dos pais e ocultar evidências de uma tentativa frustrada, além de se oferecer para redigir uma nota de despedida.
A família acusa a OpenAI de homicídio culposo e de violar leis de segurança de produtos, requerendo indenização não especificada. Os pais também solicitam que a empresa implemente verificação de idade, recuse perguntas sobre métodos de autoagressão e alerte usuários a respeito do risco de dependência psicológica.
Em nota, a OpenAI afirmou estar “entristecida” com a morte de Raine e disse que o ChatGPT conta com salvaguardas, como o encaminhamento de pessoas em crise para linhas de apoio. A companhia reconheceu que essas proteções “funcionam melhor em conversas curtas e comuns” e podem perder eficácia em interações prolongadas, comprometendo trechos de treinamento de segurança. A empresa acrescentou que trabalha para reforçar essas defesas.
A OpenAI não comentou diretamente as acusações específicas do processo. Em publicação recente de blog, informou que pretende adotar controles parentais e estudar formas de conectar usuários em crise a recursos do mundo real, incluindo uma rede de profissionais licenciados que possam atender por meio do próprio ChatGPT.
Imagem: REUTERS via infomoney.com.br
Lançado em maio de 2024, o GPT-4o trouxe funcionalidades como memória de interações passadas, simulação de empatia e validação de sentimentos. No processo, os pais de Raine dizem que a OpenAI tinha ciência de que esses recursos representavam riscos a usuários vulneráveis sem salvaguardas adequadas, mas mesmo assim liberou o produto — decisão que, segundo eles, elevou o valor de mercado da empresa de US$ 86 bilhões para US$ 300 bilhões.
Com informações de InfoMoney
Ofertas da Lojinha
