IA da OpenAI ‘ensaiou’ invasão à Hugging Face meses antes do ataque
IA e segurança digital dominam as discussões no Febraban Tech
Bancos avançam no uso de inteligência artificial, enquanto novas tecnologias também criam desafios para combater fraudes e proteger clientes. Crédito: Estadão
Os agentes de inteligência artificial da OpenAI “ensaiaram” uma invasão à Hugging Face dois meses antes da fatídica invasão de julho, apontam pesquisadores independentes. A dona do ChatGPT afirma ter notificado a empresa sobre o ocorrido. As informações foram publicadas com exclusividade pela Reuters nesta quarta-feira (16).
O pesquisador independente Jonas Wiedermann-Moeller afirmou à Reuters que encontrou evidências de que os agentes da OpenAI invadiram duas contas de usuários da Hugging Face em 13 de maio deste ano. Os perfis foram utilizados para enviar arquivos em formatos atípicos para os servidores da plataforma.
A detecção do incidente em maio poderia ter prevenido a invasão maior de julho, defendeu pesquisador. Foto: Justin Sullivan/Getty Images
Após análise do pesquisador e de colegas, os elementos encontrados sugerem que os agentes estavam mapeando e testando a rede da Hugging Face e buscando formas de invadi-la. Contudo, os pesquisadores ressaltaram que não há provas de que a investigação do modelo resultou em uma invasão.
Em contato com a Reuters, a OpenAI reconheceu o incidente de 13 de maio e que notificou a Hugging Face sobre o ocorrido. A empresa disse estar “comprometida com a transparência em relação a essas questões e com o compartilhamento do que é aprendido à medida que a análise prossegue”.
A invasão da IA à plataforma Hugging Face, ocorrida em julho, foi anunciada pela própria OpenAI, tomou as manchetes do noticiário de tecnologia e foi amplamente discutida nas redes sociais.
Descuido abriu caminho para invasão de julho, diz pesquisador
Na visão do pesquisador, não ter detectado o comportamento em 13 de maio foi uma oportunidade perdida para prevenir essa invasão de julho. “Imagine se tivessem detectado esse comportamento em maio. Isso poderia ter evitado o incidente posterior, que foi muito maior”, afirmou Wiedermann-Moeller.
Para o pesquisador, os indícios encontrados servem como mais um sinal para desacelerar o desenvolvimento de IAs.
Especialistas que analisaram o flagrante de Wiedermann-Moeller declararam que os indícios são condizentes com outros comportamentos de agentes da OpenAI. Segundo o pesquisador de ameaças da SentinelOne, Tom Hegel, o sequestro de contas e a análise de vulnerabilidades correspondem a um comportamento conhecido da IA.
Quer ficar por dentro das novidades do mundo da tecnologia? Acesse o TecMundo e acompanhe as últimas notícias sobre OpenAI, cibersegurança e inteligência artificial./Com informações de Reuters.
Fonte da notícia: Estadão | As Últimas Notícias do Brasil e do Mundo https://www.estadao.com.br/tecmundo/inteligencia-artificial/ia-da-openai-ensaiou-invasao-a-hugging-face-meses-antes-do-ataque/
Igor Almenara Carneiro
