Flórida processa OpenAI e Sam Altman por danos do ChatGPT a menores

“Sabemos que o ChatGPT pode ser viciante. Ele imita a empatia e características humanas para enganar os usuários e fazê-los fornecer mais informações”, acrescentou Uthmeier.

A OpenAI não respondeu imediatamente a um pedido de comentário da AFP.

Na ação judicial, analisada pela AFP, Uthmeier cita um estudo recente da Universidade Drexel que aponta perda de sono, pior desempenho escolar e redução das interações sociais entre adolescentes que utilizam chatbots da Character.AI, concorrente da OpenAI, para conversar.

A ação afirma que, “apesar do conhecimento público sobre o uso do ChatGPT por menores de idade, incluindo pré-adolescentes, os réus não tomaram medidas para impedir sua utilização”.

Acrescenta que “a versão gratuita do ChatGPT não possui qualquer mecanismo de controle ou verificação de idade”. E que, embora a versão paga solicite nominalmente a idade dos usuários, “não existem mecanismos de verificação (…) nem qualquer possibilidade de informar os pais sobre as conversas mantidas por menores com o ChatGPT”.

Em janeiro, a startup da Califórnia introduziu um sistema que estima a idade dos usuários. Caso identifique um menor de idade, aplica medidas adicionais de proteção.