EUA investigam OpenAI e Anthropic por riscos de agentes de IA
A inteligência artificial vai gerar bilhões em ganhos de eficiência. Para o bolso de quem?
O dinheiro poupado pela IA pode ir para consumidores, empresas ou sumir numa briga de algoritmos.
A Comissão Federal de Comércio dos Estados Unidos (FTC) vai realizar investigação em toda a indústria de inteligência artificial do país, conforme revelou um alto funcionário do órgão à Reuters nesta quarta-feira (30). A ideia é descobrir possíveis riscos reais da tecnologia.
Trata-se da primeira ação do tipo nos EUA contra os laboratórios de IA envolvendo uma entidade federal, surgindo como resposta ao aumento de relatos de incidentes de agentes autônomos escapando de ambientes de testes para realizar atividades maliciosas. OpenAI, Anthropic e outras grandes empresas do setor estão entre os alvos.
Procuradas pela agência de notícias, as desenvolvedoras dos bots ChatGPT e Claude, respectivamente, ainda não se pronunciaram.
Executivos devem ser convocados para depor
De acordo com a fonte da reportagem, a apuração liderada pela FTC vai se aprofundar nos agentes de IA rebeldes que ganharam o noticiário a partir de julho, quando começaram a surgir os casos de violações de sistemas de terceiros. Desde então, os relatos têm alimentado temores de que a tecnologia possa se voltar contra a humanidade em algum momento.
- Uma das etapas do trabalho deve envolver a convocação de executivos dos principais laboratórios de IA dos EUA;
- Com isso, é possível que CEOs como Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, tenham que depor perante uma comissão do órgão;
- A publicação também destaca a possibilidade da investigação envolver o Model Evaluation and Threat Research (METR), instituto de pesquisa sem fins lucrativos que avalia capacidades e riscos de sistemas inteligentes avançados;
- O grupo de pesquisa foi utilizado pelas duas companhias para investigações independentes sobre incidentes de segurança.
A lista completa de empresas de IA incluídas na investigação não foi divulgada. Foto: Lucas Agrela/Estadão
A fonte observa, ainda, que o presidente da FTC, Andrew Ferguson, já demonstrava preocupação com os bots autônomos antes que os casos de invasões de sistemas de terceiros começassem a ser divulgados. Ele defende, inclusive, que os desenvolvedores dessas IAs sejam responsabilizados pelos danos causados.
Vale destacar que o órgão possui autoridade para processar empresas por práticas enganosas ou desleais. Em outras ocasiões, a entidade sancionou investigados que deixaram de tomar medidas para a proteção de dados dos consumidores.
Trump alertou sobre uso da lei
Apesar de classificar os alertas sobre riscos da IA para a humanidade como “farsa” e de se manifestar contra a regulamentação, o presidente dos EUA, Donald Trump, comentou que o país está preparado para lidar com os problemas que a tecnologia possa causar. Ele falou sobre o tema durante a cúpula com Xi Jinping, presidente da China, na semana passada.
Na ocasião, o republicano avisou que o governo pode usar as leis contra as empresas cujos sistemas avançados causarem prejuízos. “Nossa proteção é o Departamento de Justiça”, escreveu o chefe da Casa Branca em seu perfil na plataforma Truth Social.
Já em reunião com executivos do setor, esta semana, Trump estabeleceu um acordo para lidar com novos incidentes. Saiba o que ficou definido no encontro./Com informações de Reuters, CNBC e FTC.
Fonte da notícia: Estadão | As Últimas Notícias do Brasil e do Mundo https://www.estadao.com.br/tecmundo/inteligencia-artificial/comissao-dos-eua-abre-investigacao-contra-gigantes-da-ia-para-verificar-riscos-da-tecnologia/
André Luiz Dias Gonçalves
