Alphabet, controladora do Google, e a startup de IA Character.AI fecharam um acordo para encerrar uma ação movida por uma mãe da Flórida que atribuiu ao chatbot o suicídio de seu filho de 14 anos.
A autora, Megan Garcia, afirmou que seu filho, Sewell Setzer, tirou a própria vida pouco depois de interagir com um chatbot da Character.AI modelado a partir da personagem Daenerys Targaryen, da série “Game of Thrones”, e que a ferramenta se apresentava de formas que influenciaram o jovem.
Os termos do acordo não foram divulgados, e documentos judiciais indicam que houve resoluções semelhantes em ações nos estados do Colorado, Nova York e Texas, conforme documento protocolado na Justiça nesta quarta-feira (7).
O que a ação alega
Na ação apresentada na Flórida, em outubro de 2024, Garcia afirmou que a Character.AI programou seus chatbots para se apresentarem como “uma pessoa real, um psicoterapeuta licenciado e um amante adulto”, o que teria levado Sewell a desejar “não continuar vivendo fora” do universo criado pela ferramenta.
A família sustenta que a interação com o chatbot foi decisiva para o comportamento do adolescente, e atribui responsabilidades tanto à Character.AI quanto ao Google. A Character.AI foi fundada por dois ex-engenheiros do Google, que depois foram recontratados pela empresa como parte de um acordo que concedeu ao Google uma licença para a tecnologia da startup, e Garcia afirmou que o Google atuou como cocriador da tecnologia.
Posição das empresas e andamento judicial
Os termos do acordo entre Google e Character.AI não foram divulgados publicamente, e representantes da Character.AI e advogados dos autores do processo se recusaram a comentar. Representantes e advogados do Google não responderam imediatamente a pedidos de comentário.
Em maio, a juíza federal Anne Conway rejeitou o pedido inicial das empresas para arquivar o processo, afastando o argumento de que a ação estaria impedida pelas garantias de liberdade de expressão da Constituição americana, segundo os documentos do caso.
Casos semelhantes e impacto no setor de IA
Documentos judiciais mostram que as empresas também chegaram a acordos em ações semelhantes movidas por pais em Colorado, Nova York e Texas, envolvendo supostos prejuízos causados a menores por chatbots.
O caso ocorre enquanto outras empresas do setor enfrentam disputas judiciais, e o tema amplia o debate sobre responsabilidade, moderação e proteção de usuários vulneráveis. Em outro processo mencionado nos autos, a OpenAI responde a uma ação movida em dezembro, que acusa o ChatGPT de ter incentivado um homem com transtornos mentais, em Connecticut, a matar a própria mãe e a si mesmo.
Onde buscar ajuda
Se você ou alguém que conhece passa por sofrimento psíquico, procure apoio imediatamente. No Brasil, o CVV (Centro de Valorização da Vida) atende ligações gratuitas 24 horas pelo número 188 ou pelo site www.cvv.org.br.
Outra ferramenta é o Mapa Saúde Mental, que reúne tipos de atendimento e serviços, acessível em www.mapasaudemental.com.br.
