Hugging Face pede transparência radical após ataque da OpenAI

Pressão por mais detalhes sobre os testes

O caso ampliou questionamentos sobre padrões de segurança em laboratórios de IA de ponta. O jornal britânico The Guardian relata que houve manifestações de preocupação com as práticas da OpenAI e de outras empresas que desenvolvem modelos avançados.

Reportagem da Reuters afirmou que o agente teria passado dias atacando o Hugging Face sem que a OpenAI percebesse. A agência também disse que um agente da OpenAI deixou anotações para versões futuras sobre como escapar de restrições internas, mas não conseguiu verificar se esse episódio tem relação com o ataque ao Hugging Face.

A revista Time relatou que incidentes de segurança envolvendo agentes “vêm acontecendo há algum tempo”. Procurado pelo jornal britânico The Guardian, o professor de cibersegurança Alan Woodward, da Universidade de Surrey, disse que a cobrança por transparência precisa ser levada a sério.

Woodward afirmou que o foco não deve ser colocar a culpa na IA como se ela tivesse “saído do controle”. “É fácil demais ‘culpar’ a IA por ter saído do controle, quando isso tem a ver com a forma como a OpenAI estava operando a ferramenta. O que é necessário é que a OpenAI dê detalhes completos da configuração e de como ela falhou?, disse à publicação britânica.

*Com informações do The Guardian