Como hackers enganaram IA da Meta e invadiram contas no Instagram

O episódio ressaltou uma vulnerabilidade mais ampla, já que as empresas de tecnologia dão aos sistemas de IA uma autoridade abrangente sobre tarefas como a recuperação de contas, mesmo que esses sistemas permaneçam suscetíveis à manipulação por meio do que os especialistas disseram ser uma classe de ataque conhecida como “injeção de prompt”.

Para a Meta, o tropeço ocorre em um momento delicado. A gigante das mídias sociais dobrou a aposta em IA, demitindo milhares de funcionários e prometendo até US$ 145 bilhões em investimento em infraestrutura de IA. Esse incidente pode aumentar as preocupações de que a empresa acelerou a automação de funções críticas antes que a tecnologia estivesse pronta para lidar com elas com segurança.

A Meta disse na segunda-feira que o problema foi resolvido e que está protegendo as contas afetadas, mas o incidente abalou os investidores já preocupados com os altos gastos da empresa com IA, fazendo com que suas ações caíssem mais de 5%.

A empresa se recusou a compartilhar mais detalhes. A Reuters não conseguiu identificar ou contatar imediatamente os hackers.

Jane Wong, pesquisadora de segurança e ex-funcionária da Meta, cujos nomes de usuária do Instagram foram comprometidos, disse à Reuters que levou cerca de 5 a 10 minutos para restabelecer suas contas. Ela disse em uma publicação no X que sua senha foi alterada sem seu conhecimento e que recebeu várias solicitações de tentativa de redefinição.

“Essa é uma falha fundamental da arquitetura. O modelo recebeu ações privilegiadas sem controles de acesso privilegiados”, disse Brian Westnedge, vice-presidente de alianças e parcerias da empresa de segurança eletrônica Red Sift.