IA sem Aperreio

Califórnia processa OpenAI por falha de segurança em modelos de IA

<!–>

–><!–>–>Tilt
<!–>

Califórnia processa OpenAI por falha de segurança em modelos de IA

–>

<!–>

–><!–>

–>

O procurador da Califórnia, Rob Bonta, iniciou um processo contra a OpenAI pelas falhas de segurança em seus modelos de inteligência artificial (IA), que provocaram o ataque hacker à plataforma Hugging Face em julho.

<!–>

O incidente em que modelos de IA da empresa criadora do ChatGPT saíram de um ambiente confinado, acessaram a internet e invadiram sistemas da biblioteca da plataforma de IA Hugging Face foi “completamente previsível”, afirmou o procurador em um comunicado.

–>

Ele também mencionou “a decisão da OpenAI de testar modelos que sabia que eram perigosos em um ambiente defeituoso e vulnerável, sem uma supervisão adequada”.

<!–>

–>

<!–>

–>

<!–>

Embora a Hugging Face tenha optado por não recorrer à Justiça, o procurador avaliou que a situação representou um “perigo para o público em geral”.

–>
<!–>

Ele denunciou uma “cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em detrimento da segurança e da confiabilidade”.

–>

Em resposta a um pedido de comentário da AFP, a OpenAI afirmou que, desde a sequência de eventos ocorrida em julho, iniciou uma investigação para “compreender e tratar o problema”.

<!–>

A empresa acrescentou que “reforçou as salvaguardas em todo seu ambiente de pesquisa” e melhorou os mecanismos de detecção de saídas de rota não previstas da IA.

–><!–>

–><!–>

Publicidade

Deixe seu comentário

–>

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.

<!–>

–>

Fonte original: www.uol.com.br

Artigos relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Verifique também
Fechar
Botão Voltar ao topo