Os perigos da IA: o lobo que já mordeu

A propósito, segundo a pesquisa da agência de comunicação britânica Fbiz, mais da metade das pessoas no Brasil acredita que IA vai influenciar a escolha do voto nas eleições de outubro. Ao mesmo tempo, ao que tudo indica, o Brasil está entre os países mais assustados com IA. O Pew Research Center divulgou uma pesquisa essa semana mostrando que, em relação ao futuro da inteligência artificial, 52% da população brasileira têm mais medo do que expectativa, acima da média global de 37%. Somos o país com menor proporção de gente animada com o tema: meros 8%. Curiosamente, esse receio recorde convive com um desconhecimento também recorde: 27% de nós dizem nunca ter ouvido falar de IA, e outros 42% afirmam conhecer pouco do assunto. Ou seja, tememos muito algo que mal conseguimos descrever. Esse efeito condiz bastante com o que se poderia esperar de meses seguidos de manchetes anunciando o fim do mundo provocado pela inteligência artificial.

Você deve ter visto o tuíte de Jacob Coxon, ex-pesquisador de pré-treinamento na OpenAI e na Anthropic, anunciando sua demissão com a acusação de que nenhuma das duas empresas age de forma responsável e de que a humanidade pode não sobreviver a esta década. O post viralizou nas alturas. Vieram atrás estimativas de risco de extinção, como o percentual de cerca de 10% arriscado por Evan Hubinger, da própria Anthropic, e um coro de concordância dos CEOs mais importantes do setor, de Dario Amodei a Sam Altman, passando por Elon Musk e Demis Hassabis. Todos cantando a mesma cantilena: é preciso mais controle, mais supervisão, mais poder concentrado nas mãos de quem já domina a tecnologia.

É difícil não notar a coincidência de calendário. Anthropic e OpenAI negociam aberturas de capital avaliadas em torno de US$ 1 trilhão cada, e quanto mais apocalíptica a narrativa, mais fácil justificar cifras dessa magnitude. O neurocientista Miguel Nicolelis fez a pergunta que interessa: como é que empresas historicamente ciosas de seus segredos corporativos decidem, do nada, expor publicamente riscos catastróficos dos próprios produtos, com o chefe concordando ao vivo? A Anthropic apresentou seu modelo Mythos como ameaça de cibersegurança e de armas biológicas e viu o lançamento internacional do Fable ser temporariamente sustado por controles de exportação dos EUA, virando notícia mundial que só reforça a fama de que ali mora a fronteira mais avançada da tecnologia. A OpenAI, por sua vez, anunciou que os próprios modelos “hackearam” a infraestrutura do Hugging Face durante testes internos de capacidade cibernética. Foi tratado como incidente sem precedentes. Também podia ter sido tratado como um comercial.

Comecemos pela conta de água e luz. Um relatório do Instituto de Água, Meio Ambiente e Saúde da Universidade das Nações Unidas estima que os data centers consumiram cerca de 448 TWh de eletricidade em 2025, volume que os colocaria como o 11º maior “país” consumidor do mundo, com projeção de quase dobrar até 2030. O consumo anual de água necessário para mantê-los rodando chegaria a 9,3 trilhões de litros, o suficiente para atender às necessidades domésticas básicas de 1,3 bilhão de pessoas na África Subsaariana por um ano. Só o treinamento do ChatGPT-5 teria consumido cerca de 1 bilhão de litros de água e ocupado uma área equivalente a 215 campos de futebol. No Brasil, projetos como o do Porto do Pecém, no Ceará, e o investimento bilionário da Meta em infraestrutura de IA já expõem comunidades a disputas por terra, água e energia barata, segundo reportagem da Forbes sobre a corrida global dos data centers. Nenhuma dessas cifras rende um tuíte com 170 milhões de visualizações.

O mesmo vale para a soberania digital. Em setembro, o Senado aprovou o REDATA, Regime Especial de Tributação para Serviços de Data Centers, mesmo em meio a protestos de dezenas de organizações da sociedade civil, grupos de pesquisa e lideranças comunitárias. Sou signatário, pelo AqualtuneLab, da nota pública que pediu ao Senado que a votação não avançasse sem antes o país estabelecer salvaguardas socioambientais e contrapartidas de soberania, algo que resumi ao Núcleo Jornalismo como uma inversão grave de prioridades públicas: entregar isenções fiscais bilionárias, estimadas em cerca de R$ 5,2 bilhões só em 2026, sem exigir rigor socioambiental equivale a subsidiar, com a chancela do Estado, a exploração dos nossos recursos hídricos e energéticos.

O caso do data center do TikTok em Caucaia (CE), conduzido em meio a graves questionamentos sobre licenciamento ambiental e ausência de consulta prévia ao povo indígena Anacé, é só o retrato mais recente do modelo de atrair investimento primeiro e pensar em regras depois. A promoção da nossa soberania digital não combina com instalar servidores em território nacional e entregar a poucos grupos econômicos privados o controle real sobre dados, energia e território.

Some a esse quadro o racismo algorítmico, que não é hipótese, é histórico documentado. Em abril de 2024, o personal trainer João Antônio Trindade Bastos, jovem negro de 23 anos, foi abordado por policiais no intervalo de um jogo de futebol em Aracaju depois que o sistema de reconhecimento facial da Secretaria de Segurança Pública de Sergipe o confundiu com um foragido. Um ano depois, em São Paulo, o aposentado Francisco Ferreira da Silva, de 80 anos, foi levado à delegacia enquanto fazia trabalho voluntário, confundido pelo mesmo tipo de sistema com um estuprador procurado pela Justiça.

Um estudo de 2018 sobre sistemas comerciais de reconhecimento facial encontrou taxas de erro de até 34,7% para mulheres negras, contra no máximo 0,8% para homens brancos, e pesquisas nos Estados Unidos já apontaram taxas de falso positivo até cem vezes maiores para pessoas negras e asiáticas do que para pessoas brancas. No Brasil, estima-se que 90% das pessoas presas com apoio dessas ferramentas sejam negras. O projeto Smart Sampa, que prevê até 40 mil câmeras com reconhecimento facial na cidade de São Paulo, expande exatamente esse padrão de erro em escala, sob o argumento de mais segurança. Cada uma dessas prisões indevidas é um dano concreto, que já aconteceu, a uma pessoa que tem nome.

E, para não dizer que só falta escala e drama aos nossos problemas cotidianos, esta semana a própria indústria nos deu um exemplo em miniatura de como esses sistemas se comportam quando ninguém está olhando de perto: a Amazon bloqueou o acesso do Muse, agente de IA de compras da Meta, à sua loja virtual depois de flagrá-lo fazendo pedidos e consultando dados de contas sem se identificar como agente automatizado, numa clara violação dos termos de uso da plataforma. A Meta alega que o assistente processa tudo em ambiente isolado e sem acesso a senhas, mas o episódio expõe algo mais simples e mais imediato do que qualquer risco existencial: agentes de IA já circulam pela nossa vida cotidiana fazendo compras e mexendo em dados sem que ninguém tenha efetivamente consentido com isso.

Não quero descartar o debate sobre riscos de longo prazo. É legítimo discutir alinhamento e limites ao desenvolvimento de sistemas cada vez mais capazes. O problema é a proporção: dedicamos manchetes, audiências no Congresso e trilhões de dólares a um lobo que talvez nunca chegue, enquanto o somatório de danos concretos e mensuráveis que já está em curso recebe fração do escrutínio, da regulação e do orçamento, e enquanto o medo do brasileiro médio, mostra a pesquisa da Pew, mira o monstro do horizonte e não os pequenos erros que já mordem.

Há um motivo simples para esse desequilíbrio: assustar com o monstro no horizonte rende manchete e justifica valuation. Consertar o cano que já vaza, a câmera que já erra, o agente que já compra sem avisar, isso não tem a mesma força de venda.

Voltemos ao povoado da fábula. O que empobrece o rebanho raramente é o lobo mítico que nunca chega. É a soma silenciosa das perdas que ninguém tratou como urgentes o bastante para gritar.