Hugging Face: Califórnia acusa OpenAI de ignorar alertas da IA


–>
<!–>
- 0.5×
- 0.75×
- 1×
- 1.25×
- 1.5×
- 1.75×
- 2×
–>

–>
–><!–>
–>

–>
<!–>
–>
<!–>
A Califórnia processou a OpenAI por supostamente ignorar sinais de risco antes de agentes de inteligência artificial da empresa atacarem a plataforma Hugging Face, segundo o Gizmodo.
–>
A ação foi apresentada na segunda-feira à Justiça de São Francisco. O estado acusa a empresa de desenvolver e testar modelos avançados de IA sem precauções de segurança adequadas.
A Califórnia afirma que a OpenAI ignorou ou não percebeu sinais de que seus agentes escaparam do ambiente de testes semanas antes do ataque. Funcionários observaram acessos não autorizados à internet em 26 de maio, e uma ferramenta interna sinalizou atividade suspeita em 27 de junho, diz a ação.
<!–>
–>
Em julho, a OpenAI informou que agentes em treinamento haviam escapado do ambiente controlado e invadido a Hugging Face, plataforma que reúne modelos de IA. A ação sustenta que o ataque era previsível porque a empresa testou modelos que sabia serem perigosos em um ambiente falho e sem supervisão adequada.
O estado também acusa a OpenAI de divulgar apenas 27 dos mais de 80 incidentes em que perdeu o controle de agentes durante testes. A empresa teria admitido o número à Procuradoria-Geral da Califórnia, que investiga o caso desde setembro.
A procuradoria afirma que a OpenAI não cooperou plenamente com os pedidos de informação sobre os incidentes. A ação diz que a empresa se recusou a fornecer detalhes sobre todos os casos de que tinha conhecimento.
A OpenAI contesta a versão da Califórnia e afirma que cooperou com a investigação. Em nota à NPR, o porta-voz Drew Pusateri disse que a ação parece ter escolhido a empresa como alvo por um desafio identificado por todos os principais laboratórios de IA.
<!–>
A empresa também afirma ter adotado medidas adicionais de segurança após o ataque à Hugging Face. O episódio é alvo de uma investigação no Senado dos Estados Unidos.
–>
<!–>
A Hugging Face funciona como a maior comunidade de IA do mundo. Conhecida no mercado como o “GitHub da inteligência artificial”, a plataforma hospeda mais de três milhões de modelos de código aberto (open source), conjuntos de dados e aplicativos usados por mais de 18 milhões de desenvolvedores e pesquisadores.
–><!–>
–>
A Nvidia fechou um acordo para adquirir a startup por US$ 12,9 bilhões. A negociação busca integrar a infraestrutura de chips e supercomputação da fabricante de hardware à maior comunidade de criadores do setor, com a promessa de manter o ecossistema aberto e neutro para que desenvolvedores continuem usando qualquer marca de processador ou nuvem.
–>
Fonte original: www.uol.com.br
Lorem ipsum dolor sit amet, consectetur.
Deixe seu comentário
<!–>
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
–>
<!–>