IA sem Aperreio

Estudantes processam empresa de tecnologia por erro em sistema de IA que confundiu pacote de salgadinho com arma


Captura de tela de um vídeo do departamento de polícia do condado de Baltimore mostrando a ação contra os estudantes.
Departamento de Polícia do Condado de Baltimore/Divulgação
Quatro estudantes e ex-alunos de uma escola de ensino médio de Maryland, nos Estados Unidos, acionaram a Justiça após serem abordados e detidos por policiais armados. O episódio ocorreu depois que um sistema de segurança baseado em inteligência artificial identificou erroneamente um pacote de Doritos como uma arma de fogo.
A ferramenta pertence à empresa Omnilert, uma das rés no processo. Também são alvos da ação a polícia do condado de Baltimore, o conselho de educação, agentes que participaram da abordagem e o diretor da escola.
Os estudantes, que integravam o time de futebol americano da instituição, afirmam que foram submetidos a uma detenção e a revistas ilegais por causa de uma combinação de falhas no sistema e na atuação dos responsáveis pela segurança.
“Esses estudantes foram prejudicados não apenas por uma tecnologia propensa a emitir alertas falsos, mas também pelos próprios adultos que deveriam mantê-los seguros quando os enviamos à escola”, disse ao The Guardian Damon Hewitt, presidente e diretor-executivo do Lawyers’ Committee for Civil Rights Under Law, organização que representa os jovens.
Agora no g1
Como foi a abordagem
O caso aconteceu em outubro do ano passado, depois de um treino de futebol americano. Conforme o relato apresentado pelos estudantes à Justiça, o técnico havia distribuído pacotes de Doritos aos integrantes da equipe.
Taki Allen, que cursava o segundo ano do ensino médio na época, pegou alguns pacotes e se reuniu com amigos em uma área próxima às mesas de piquenique. O grupo aguardava uma carona quando seis viaturas da polícia chegaram ao local com as luzes de emergência ligadas.
Os policiais sacaram suas armas e ordenaram que os adolescentes levantassem as mãos. Em seguida, os jovens foram obrigados a se ajoelhar, algemados e revistados.
Na ação, os estudantes afirmam que ficaram em choque e temeram pela própria vida durante a abordagem. Um dos policiais, segundo o relato, ainda fez um comentário ao deixar o local, dizendo que a situação poderia ter sido muito pior se os jovens tivessem tentado fugir.
Sistema apontou 90% de chance de haver arma
Segundo o processo, o software da Omnilert classificou o pacote de salgadinhos como uma arma de fogo com 90% de confiança. A tecnologia analisa imagens de câmeras de segurança para identificar possíveis armas.
A ação também questiona a eficácia da ferramenta. Embora a empresa apresente o sistema como confiável, o processo cita um levantamento do gabinete do inspetor-geral de educação de Maryland segundo o qual mais de 99% dos alertas emitidos pelo sistema nas escolas públicas do condado de Baltimore eram falsos positivos e não justificavam o envio de policiais.
A Omnilert, o diretor da escola, a polícia do condado de Baltimore e o conselho de educação não responderam imediatamente a um pedido de comentário do The Guardian.
Em declaração anterior, um porta-voz da empresa afirmou que a Omnilert estava analisando o processo e lamentava o medo provocado nos estudantes e em suas famílias. “Entendemos por que querem respostas”, disse.
Já um representante do condado de Baltimore afirmou ao The New York Times que o distrito não poderia comentar um processo judicial em andamento.
A ação também apresenta mensagens trocadas pelo diretor da escola com outros administradores. Segundo os estudantes, ele fez comentários em tom de deboche sobre o episódio, acompanhados de emojis de rostos chorando de rir. O processo afirma ainda que o diretor não pediu desculpas aos jovens.

Fonte original: g1.globo.com

Artigos relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Botão Voltar ao topo