TSE proíbe deepfakes realistas e esquece que a realidade é surreal

O primeiro é técnico: deepfake é o conteúdo sintético, produzido ou manipulado por inteligência artificial ou tecnologia equivalente, que apresente grau de realismo ou verossimilhança e crie, reproduza ou altere imagem, voz ou manifestação de pessoa viva, falecida ou fictícia.

O segundo é contextual: o conteúdo precisa se qualificar como propaganda eleitoral. Fora dessa interseção, não há deepfake proibida pelas normas do TSE; há, no máximo, conteúdo sintético submetido ao regime geral do ordenamento jurídico.

O caso concreto era o vídeo de Jair Bolsonaro gerado por IA, exibido na convenção do PL em 25 de julho, declarando apoio ao filho. Por 4 a 3, a maioria não viu ilícito: a convenção é evento interno, e transmiti-la pela internet não transforma apoio político em pedido de voto. Mas o que importa para além do caso é a tese, e ela merece pelo menos três perguntas.

Primeiro, o que é uma deepfake?

Nos últimos dois anos, a palavra virou sinônimo de qualquer coisa que passou perto de um modelo de IA. Mudou o cenário do vídeo em que aparece uma pessoa com uma ferramenta de IA generativa? Usou um estilo de desenho animado para apresentar o candidato ou criticar outro? Tudo começou a ser tratado como deepfake.

O TSE fez bem em resistir a essa inflação. Na mesma direção, a ANPD, na sua publicação Radar Tecnológico, delimita o conceito. Deepfake, diz a ANPD, é uma subcategoria de mídia sintética, e o que a distingue das demais é o resultado: uma simulação hiper-realista da identidade e da ação humana. Correção de cor, cortes de áudio, remoção de ruído e filtros de iluminação estão fora, porque não alteram a semântica, o contexto ou o sentido da mensagem.