Detector da Meta falha ao identificar imagens de IA após recorte, mostra análise da Reuters

Em ⁠uma análise de 40 imagens geradas usando o ​Muse Image, a Reuters constatou que a ferramenta de detecção verificou todas as imagens originais geradas por IA. Porém, a ferramenta não conseguiu verificar 55% dessas mesmas ‌imagens depois que elas foram recortadas para ‌um terço a ​metade de seu tamanho original.

Em seu site, a Meta afirma que a ferramenta de detecção em pré-visualização pode identificar suas próprias imagens geradas por IA, mesmo que sejam recortadas, por meio ‌de um sistema de marca d’água invisível chamado Content Seal, que está incorporado em todas as imagens geradas pelo Muse Image. O mecanismo foi projetado para ajudar os usuários a verificar se as imagens foram criadas pelos modelos de IA da Meta.

Quando questionada sobre os resultados da análise da Reuters sobre a ferramenta de detecção, a Meta observou que ela era uma versão de pré-visualização. A empresa afirmou que a marca d’água foi projetada para permanecer intacta após edições comuns, mas ‌que o sinal pode ser perdido se uma imagem for fortemente recortada.

As empresas de tecnologia concorrentes Google e OpenAI alertaram que suas próprias ferramentas de detecção não ​são infalíveis contra técnicas de alteração de imagens.

Em março, o Conselho de Supervisão da Meta — um órgão de especialistas que toma decisões vinculativas ‌e emite recomendações sobre questões de conteúdo nas plataformas de mídia social — instou a empresa a se empenhar mais para combater a “proliferação de conteúdo enganoso gerado por IA”. O ‌conselho também defendeu investimento em ferramentas de ‌detecção mais robustas.

Siwei Lyu, professor de ciência da computação da Universidade Estadual de Nova York em Buffalo, que pesquisa análise forense ⁠de imagens com IA, disse que não havia avaliado a ferramenta da Meta, mas que os sistemas baseados em marca d’água têm limitações.