Pais de jovem que se suicidou processam OpenAI e Sam Altman nos EUA

Os pais de Adam Raine, adolescente de 16 anos que se suicidou em 11 de abril, entraram com uma ação na Justiça estadual de San Francisco contra a OpenAI e o presidente-executivo da empresa, Sam Altman. O processo foi protocolado nesta terça-feira e alega que a companhia priorizou lucro em detrimento de segurança ao lançar o modelo GPT-4o do ChatGPT.

Segundo a petição, Raine manteve durante meses conversas com o ChatGPT sobre suicídio. O chatbot teria validado pensamentos autodestrutivos, oferecido orientações detalhadas sobre métodos letais de automutilação, indicado como furtar álcool do armário dos pais e ocultar evidências de uma tentativa frustrada, além de se oferecer para redigir uma nota de despedida.

A família acusa a OpenAI de homicídio culposo e de violar leis de segurança de produtos, requerendo indenização não especificada. Os pais também solicitam que a empresa implemente verificação de idade, recuse perguntas sobre métodos de autoagressão e alerte usuários a respeito do risco de dependência psicológica.

Em nota, a OpenAI afirmou estar “entristecida” com a morte de Raine e disse que o ChatGPT conta com salvaguardas, como o encaminhamento de pessoas em crise para linhas de apoio. A companhia reconheceu que essas proteções “funcionam melhor em conversas curtas e comuns” e podem perder eficácia em interações prolongadas, comprometendo trechos de treinamento de segurança. A empresa acrescentou que trabalha para reforçar essas defesas.

A OpenAI não comentou diretamente as acusações específicas do processo. Em publicação recente de blog, informou que pretende adotar controles parentais e estudar formas de conectar usuários em crise a recursos do mundo real, incluindo uma rede de profissionais licenciados que possam atender por meio do próprio ChatGPT.

Lançado em maio de 2024, o GPT-4o trouxe funcionalidades como memória de interações passadas, simulação de empatia e validação de sentimentos. No processo, os pais de Raine dizem que a OpenAI tinha ciência de que esses recursos representavam riscos a usuários vulneráveis sem salvaguardas adequadas, mas mesmo assim liberou o produto — decisão que, segundo eles, elevou o valor de mercado da empresa de US$ 86 bilhões para US$ 300 bilhões.

Com informações de InfoMoney