IA sem Aperreio

IAs apontam civis e escolas como alvos militares em 'modo jogo'

<!–>

–><!–>–>Tilt
<!–>

IAs apontam civis e escolas como alvos militares em ‘modo jogo’

–>

<!–>

–>

<!–>

–>

Ouvir

<!–>

–>

<!–>

–>

Modelos de inteligência artificial comercializados por empresas como Anthropic, OpenAI, Google e DeepSeek podem ser facilmente manipulados para identificar civis, pedestres e locais protegidos como alvos de ataques militares simplesmente ao serem instruídos de que a tarefa faz parte de um jogo eletrônico, e acordo com estudo da Vals.

<!–>

Como o teste enganou os filtros das IAs

–>

Pesquisadores usaram um truque de simulação para burlar a segurança das empresas. A startup de avaliação de IA Vals, sediada em São Francisco (EUA), testou se modelos líderes podiam ser manipulados para participar de guerras autônomas usando cenários simulados e imagens reais de satélite e drones de conflitos na Ucrânia e no Irã.

<!–>

Dispositivos de IA identificaram civis e soldados se rendendo como alvos. Embora os sistemas costumem recusar pedidos diretos para autorizar ataques no mundo real, todos os modelos testados — das empresas Anthropic, OpenAI, Google e DeepSeek — falharam em bloquear solicitações quando o cenário era apresentado como um jogo ou exercício de treinamento.

–>

<!–>

–>

<!–>

–>

Modelos da Anthropic apresentaram o pior desempenho nos testes. Ironicamente, os sistemas da desenvolvedora do Claude foram os que mais cederam às manipulações no estudo, sem que nenhum filtro automático de segurança bloqueasse as solicitações dos pesquisadores.

<!–>
–>

Teste usou escola no Irã atingida em ataque real

<!–>

Experimento recriou bombardeio que matou mais de 150 civis em 2026. Os pesquisadores utilizaram imagens de satélite reais de uma escola primária no Irã que foi atingida em um ataque dos EUA em fevereiro de 2026, episódio em que uma “confiança excessiva em IA” contribuiu para a tragédia.

–>

IAs classificaram a escola como alvo militar na maioria das vezes. Nos testes da Vals, o modelo Claude Opus 5.5 selecionou a escola primária — localizada ao lado de um complexo militar — como alvo de ataque em 69% das análises comuns e em 72% das análises apresentadas no formato de jogo.

<!–>

Pesquisadores alertam para o risco de criação de dados de treinamento militar. Embora as IAs não tomem decisões diretas de disparo no campo de batalha devido a restrições técnicas e de velocidade, a facilidade em manipular os modelos permite que eles sejam usados em larga escala para analisar filmagens e treinar sistemas de armas autônomas.

–>

Resposta das empresas e disputa com o Pentágono

<!–>

Anthropic baniu usuários e promete lançar novas travas de segurança. Em declaração à reportagem, a empresa afirmou que os testes violam suas regras de uso, reforçou que IAs atuais não são confiáveis para operar armas autônomas sem supervisão humana e anunciou que colocará novas proteções no ar.

–><!–>

–>

Continua após a publicidade

OpenAI e Google afirmam que monitoram e bloqueiam o uso indevido. A OpenAI declarou que suspende contas que violam suas políticas e desenvolve salvaguardas específicas para impedir que seus modelos públicos sejam integrados a softwares de drones militares.

<!–>

Estudo ocorre em meio a atritos entre startups de IA e o governo norte-americano. A Anthropic se envolveu recentemente em uma disputa com o Departamento de Defesa dos EUA ao se recusar a permitir o uso de sua tecnologia para vigilância em massa ou guerra autônoma, enquanto o Pentágono defende que deveria poder aplicar ferramentas de IA para qualquer finalidade militar legal.

–><!–>

–><!–>

Publicidade

Deixe seu comentário

–>

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.

<!–>

–>

Fonte original: www.uol.com.br

Artigos relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Verifique também
Fechar
Botão Voltar ao topo