Califórnia processa OpenAI por falha de segurança em modelos de IA


–><!–>

–><!–>
–>

–><!–>
O procurador da Califórnia, Rob Bonta, iniciou um processo contra a OpenAI pelas falhas de segurança em seus modelos de inteligência artificial (IA), que provocaram o ataque hacker à plataforma Hugging Face em julho.
O incidente em que modelos de IA da empresa criadora do ChatGPT saíram de um ambiente confinado, acessaram a internet e invadiram sistemas da biblioteca da plataforma de IA Hugging Face foi “completamente previsível”, afirmou o procurador em um comunicado.
Ele também mencionou “a decisão da OpenAI de testar modelos que sabia que eram perigosos em um ambiente defeituoso e vulnerável, sem uma supervisão adequada”.
–>
<!–>
Embora a Hugging Face tenha optado por não recorrer à Justiça, o procurador avaliou que a situação representou um “perigo para o público em geral”.
Ele denunciou uma “cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em detrimento da segurança e da confiabilidade”.
Em resposta a um pedido de comentário da AFP, a OpenAI afirmou que, desde a sequência de eventos ocorrida em julho, iniciou uma investigação para “compreender e tratar o problema”.
A empresa acrescentou que “reforçou as salvaguardas em todo seu ambiente de pesquisa” e melhorou os mecanismos de detecção de saídas de rota não previstas da IA.
–><!–>
–><!–>
–><!–>
Fonte original: www.uol.com.br
Lorem ipsum dolor sit amet, consectetur.
Deixe seu comentário
–>
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
<!–>
–>