Bastidores da IA: trabalhadores expõem abusos e traumas na revisão de dados

A promessa de uma inteligência artificial (IA) cada vez mais precisa e segura esconde uma engrenagem humana submetida a rotinas exaustivas e ao contato constante com conteúdos perturbadores. Documentos internos obtidos pelo veículo 404 Media revelam que centenas de prestadores de serviço contratados para aprimorar o Copilot, da Microsoft, avaliam diariamente fotos reais enviadas por usuários e comandos com solicitações de conotação sexual ou automutilação. A Microsoft afirmou, em nota enviada ao portal especializado, que utiliza os dados dos clientes de acordo com os termos de uso para melhorar os produtos e aplicar o código de conduta da empresa.

A prática de usar moderadores terceirizados não se restringe à dona do Windows. A OpenAI, criadora do ChatGPT, adotou estratégia semelhante na Quênia para tentar tornar o robô de conversação menos tóxico antes do lançamento oficial do sistema. Segundo reportagem investigativa publicada pela revista TIME, profissionais do país africano contratados pela empresa terceirizada Sama liam e rotulavam trechos de textos com descrições detalhadas de violência física, incesto e abuso sexual.

Revisão focada na qualidade

No caso do Copilot, os revisores analisam os comandos de texto e as fotos originais enviadas pelos utilizadores da ferramenta para indicar qual das respostas geradas pela IA apresenta melhor qualidade. De acordo com os documentos acessados pelo 404 Media, os contratados recebem orientações diretas da Microsoft para confiar no instinto humano durante a avaliação comparativa do resultado.

Muitos dos funcionários contratados acreditavam que o trabalho servia para filtrar ou bloquear conteúdos ofensivos. No entanto, a função primária das equipes é verificar se o robô atendeu com precisão ao pedido do usuário, independentemente do teor da imagem ou do texto gerado.

“Faces estão sempre sem censura e muitos dos comandos são de natureza sexual e duvidosamente consensuais”, declarou um dos revisores, sob condição de anonimato ao 404 Media.

Privacidade em risco e dependência do trabalho humano

A rotina de moderação expõe fragilidades na privacidade dos utilizadores, que muitas vezes presumem que as imagens enviadas para edição permanecem restritas ao processamento do robô. Na prática, arquivos pessoais e retratos passam pela triagem de profissionais contratados por plataformas parceiras, como a Prolific. A empresa alega, no site oficial, que oferece avaliação humana de populações representativas para ajuste de preferências e testes de segurança. Procurada pelo 404 Media, a Prolific não se pronunciou sobre o caso.

Especialistas em tecnologia destacam que o funcionamento dos modelos de linguagem e de geração de imagem depende diretamente dessa infraestrutura de trabalho precário espalhada pelo mundo. Sem o processo manual de categorização e checagem, os robôs continuariam repetindo vieses e discursos de ódio coletados em grandes volumes de dados da internet.

“Eles são impressionantes, mas o ChatGPT e outros modelos generativos não são mágica. Eles dependem de cadeias massivas de suprimento de trabalho humano e dados raspados, muitos dos quais não são atribuídos e são usados sem consentimento”, escreveu o especialista em ética em IA Andrew Strait, em publicação nas redes sociais documentada pela TIME.

Traumas psicológicos e o caso no Quênia

A experiência da OpenAI com a terceirizada Sama na Quênia exemplifica os impactos psicológicos desse tipo de atividade. Os trabalhadores recebiam salários equivalentes a um valor entre US$ 1,32 e US$ 2 por hora para ler centenas de passagens de texto diárias sobre abusos graves. O impacto emocional e a identificação de imagens ilegais levaram o contrato entre a Sama e a OpenAI a ser cancelado precocemente em 2022.

A OpenAI declarou à revista TIME que a classificação de conteúdos nocivos é uma etapa necessária para minimizar a presença de material violento ou sexual nos modelos de treino. A empresa ressaltou que não impunha metas de produtividade e que entendia que a parceira terceirizada oferecia suporte de saúde mental aos funcionários.

Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.