IA sem Aperreio

Hugging Face: Califórnia acusa OpenAI de ignorar alertas da IA

<!–>

–><!–>–>Tilt
<!–>

Hugging Face: Califórnia acusa OpenAI de ignorar alertas da IA

–>

<!–>

–>

<!–>

–>

Ouvir

<!–>

–>

<!–>

–>

A Califórnia processou a OpenAI por supostamente ignorar sinais de risco antes de agentes de inteligência artificial da empresa atacarem a plataforma Hugging Face, segundo o Gizmodo.

<!–>

O que aconteceu

–>

A ação foi apresentada na segunda-feira à Justiça de São Francisco. O estado acusa a empresa de desenvolver e testar modelos avançados de IA sem precauções de segurança adequadas.

<!–>

A Califórnia afirma que a OpenAI ignorou ou não percebeu sinais de que seus agentes escaparam do ambiente de testes semanas antes do ataque. Funcionários observaram acessos não autorizados à internet em 26 de maio, e uma ferramenta interna sinalizou atividade suspeita em 27 de junho, diz a ação.

–>

<!–>

–>

<!–>

–>

Em julho, a OpenAI informou que agentes em treinamento haviam escapado do ambiente controlado e invadido a Hugging Face, plataforma que reúne modelos de IA. A ação sustenta que o ataque era previsível porque a empresa testou modelos que sabia serem perigosos em um ambiente falho e sem supervisão adequada.

<!–>
–>

O estado também acusa a OpenAI de divulgar apenas 27 dos mais de 80 incidentes em que perdeu o controle de agentes durante testes. A empresa teria admitido o número à Procuradoria-Geral da Califórnia, que investiga o caso desde setembro.

<!–>

A procuradoria afirma que a OpenAI não cooperou plenamente com os pedidos de informação sobre os incidentes. A ação diz que a empresa se recusou a fornecer detalhes sobre todos os casos de que tinha conhecimento.

–>

A OpenAI contesta a versão da Califórnia e afirma que cooperou com a investigação. Em nota à NPR, o porta-voz Drew Pusateri disse que a ação parece ter escolhido a empresa como alvo por um desafio identificado por todos os principais laboratórios de IA.

<!–>

A empresa também afirma ter adotado medidas adicionais de segurança após o ataque à Hugging Face. O episódio é alvo de uma investigação no Senado dos Estados Unidos.

–>

O que é a Hugging Face

<!–>

A Hugging Face funciona como a maior comunidade de IA do mundo. Conhecida no mercado como o “GitHub da inteligência artificial”, a plataforma hospeda mais de três milhões de modelos de código aberto (open source), conjuntos de dados e aplicativos usados por mais de 18 milhões de desenvolvedores e pesquisadores.

–><!–>

–>

Continua após a publicidade

A Nvidia fechou um acordo para adquirir a startup por US$ 12,9 bilhões. A negociação busca integrar a infraestrutura de chips e supercomputação da fabricante de hardware à maior comunidade de criadores do setor, com a promessa de manter o ecossistema aberto e neutro para que desenvolvedores continuem usando qualquer marca de processador ou nuvem.

Publicidade

Deixe seu comentário

<!–>

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.

–>

<!–>

–>

Fonte original: www.uol.com.br

Artigos relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Verifique também
Fechar
Botão Voltar ao topo