IA sem Aperreio

ChatGPT terá suspensão temporária e banimento contra abuso infantil

<!–>

–><!–>–>Tilt
<!–>

ChatGPT terá suspensão temporária e banimento contra abuso infantil

–>

<!–>

–>

<!–>

–>

Ouvir

<!–>

–>

<!–>

–>

A OpenAI anunciou novas ferramentas de combate a material de abuso sexual infantil, incluindo a exibição de alertas e a suspensão temporária de contas no ChatGPT — assim como banimento.

<!–>

Suspensão temporária de contas

–>

Alerta e bloqueio de 24 horas. O ChatGPT passará a exibir um aviso a qualquer usuário que fizer pedidos de conteúdo que sexualize crianças. A conta será suspensa por 24 horas, período em que o usuário receberá orientações e canais de apoio especializado.

<!–>

Banimento por reincidência. Infrações repetidas podem levar ao cancelamento permanente da conta. O aplicativo já possui filtros para bloquear materiais de abuso sexual infantil e solicitações relacionadas a esse tipo de conteúdo.

–>

<!–>

–>

<!–>

–>

Detector de imagens e parceria

<!–>

Detecção de imagens geradas por IA. A empresa apresentou um novo classificador capaz de identificar sinais visuais de abuso em imagens — inclusive as geradas por inteligência artificial — e atribuir uma pontuação para orientar a análise de revisores humanos.

–>
<!–>

Redução de sinalizações incorretas. Nos testes iniciais com parceiros, a nova ferramenta sinalizou 48% menos imagens, mas manteve a mesma taxa de identificação de materiais abusivos — dobrando a chance de confirmação de abuso nas imagens registradas.

–>

Acesso gratuito via API. Empresas selecionadas terão acesso gratuito ao classificador por meio de uma interface de programação. A OpenAI informou que desenvolveu a tecnologia em parceria com o NCMEC (Centro Nacional para Crianças Desaparecidas e Exploradas), nos EUA.

<!–>

Recursos e orientações para investigadores

–>

Guias para desenvolvedores. A OpenAI publicou diretrizes para orientar desenvolvedores sobre como prevenir, identificar e denunciar ao NCMEC.

<!–>

Continua após a publicidade

Suporte a órgãos de segurança. Agências de investigação terão acesso a ferramentas de IA voltadas para a análise de dados complexos, acompanhadas de treinamento e guias práticos fornecidos pela empresa.

–>

Questionamentos e pressão sobre segurança

<!–>

Processos e alertas de entidades. A iniciativa ocorre em um momento em que a OpenAI enfrenta ações judiciais decorrentes de riscos atribuídos às suas tecnologias, especialmente para o público infantil. A organização Common Sense Media classificou as ferramentas da empresa como de risco inaceitável para adolescentes e crianças.

–><!–>

–><!–>

Publicidade

Deixe seu comentário

–>

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.

<!–>

–>

Fonte original: www.uol.com.br

Artigos relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Verifique também
Fechar
Botão Voltar ao topo