IA sem Aperreio

Alterar apenas seis 'neurônios da IA' pode abrir uma porta para invasões

admin 5 horas atrás

0 4 2 minutos de leitura

<!–>

–><!–>–>Tilt

<!–>

Alterar apenas seis ‘neurônios da IA’ pode abrir uma porta para invasões

–>

Neurônio de IA é unidade matemática que processa dados e orienta as decisões de um modelo de inteligência artificial Imagem: Pexels/Tara Winstead

<!–>

–>

<!–>

Ouvir

–>

<!–>

–>

<!–>

Pesquisadores de segurança da Microsoft demonstraram que é possível criar uma “porta dos fundos” (backdoor) secreta em sistemas de inteligência artificial alterando menos de dez neurônios do modelo, segundo dados divulgados pelo portal The Hacker News.

–>

O que é um ‘neurônio de IA’

<!–>

Um neurônio de IA é uma unidade matemática de processamento. Em redes neurais artificiais, ele funciona como um pequeno componente digital encarregado de receber dados, calcular pesos numéricos e definir qual informação deve ser repassada para a etapa seguinte do sistema.

–>

Eles funcionam de forma parecida com o cérebro humano. Em grandes modelos de linguagem, existem bilhões desses componentes interconectados trabalhando simultaneamente para compreender perguntas, traduzir idiomas e gerar respostas.

<!–>

–>

<!–>

–>

<!–>

Como funciona o ataque Lazarus

–>

A técnica foi batizada de Lazarus pelos pesquisadores. O método altera os chamados “pesos” do modelo — os valores numéricos que orientam as decisões da IA —, focando em neurônios pouco utilizados na última camada de processamento do sistema.

<!–>

–>

O ataque é acionado por um gatilho de texto. Quando o usuário digita uma expressão específica ou quando o sistema lê essa palavra-chave em uma ferramenta externa, o modelo passa a executar comandos ocultos enviados pelo invasor com privilégios de administrador.

<!–>

A brecha foi testada em modelos populares de código aberto. A equipe modificou de seis a sete neurônios em sistemas como Nemotron-Terminal-8B, Qwen3.6-27B e Gemma-4-31B-IT. Em até 99,5% dos testes com o gatilho, a IA forneceu o comando do hacker, mantendo o comportamento normal quando o gatilho não estava presente.

–>

Qual é o risco real e como detectar

<!–>

A Microsoft afirma que não detectou o uso da técnica por criminosos. Para instalar a porta dos fundos, o invasor precisaria ter acesso direto ao arquivo original de pesos do modelo antes que ele fosse disponibilizado para download ou uso em produção.

–><!–>

–>

Continua após a publicidade

A detecção exige comparar o sistema com o arquivo original. Testes com ferramentas automáticas de detecção conseguiram identificar 91,4% dos arquivos modificados, mas ainda apresentaram 9,7% de alames falsos em modelos não alterados.