Startups e autoridades vão debater ‘IA sem controle’ na ONU
O debate sobre inteligência artificial ainda está tranquilo e racional
Esqueça o risco existencial; as discussões mais estranhas sobre IA ainda nem começaram. Crédito: Alexandre Chiavegatto Filho
Executivos de algumas das principais empresas de inteligência artificial dos Estados Unidos vão se reunir com o Conselho de Segurança da Organização das Nações Unidas (ONU) nesta quarta-feira (23), em Nova York. No encontro, eles devem tratar dos alertas mais recentes sobre os riscos da tecnologia escapar do controle humano, como relata a Reuters.
Presidida por Jean-Noël Barrot, Ministro das Relações Exteriores da França, a reunião deve contar com a participação de Sam Altman, CEO da OpenAI, Dario Amodei, CEO da Anthropic, e Clément Delangue, cofundador da Hugging Face. A conferência faz parte da 81ª Assembleia Geral da ONU, que começou ontem (22).
O que será discutido na reunião?
Em conversa com jornalistas, um executivo da OpenAI informou que Altman planeja pedir aos governos que adotem parâmetros de referência para medir as capacidades da IA. A proposta também envolve avaliar as medidas de segurança das empresas enquanto elas desenvolvem tecnologias cada vez mais avançadas.
- De modo geral, a ideia é elaborar critérios que possibilitem comparar o poder dos sistemas inteligentes com as salvaguardas utilizadas para limitar riscos;
- Um diplomata europeu, cujo nome não foi revelado, também disse que o encontro objetiva esclarecer os riscos de uma eventual perda de controle da IA na prática;
- Os participantes querem saber de que maneiras a segurança de cada Estado pode ser afetada, assim como a segurança global, de acordo com ele;
- “A questão fundamental é se um dia poderemos enfrentar uma situação em que algoritmos interagindo entre si desencadeiem uma guerra. Essa é realmente a essência da questão”, destacou o diplomata, como reportou a agência de notícias.
Em meio aos alertas recentes, a IA também está em alta na Assembleia Geral da ONU. (Imagem: tadamichi/Getty Images) Foto: tadamichi
A reunião marca o terceiro encontro para discutir os riscos da IA no Conselho de Segurança da ONU. Na primeira, em 2023, a China alertou sobre a necessidade de medidas para evitar o descontrole desses sistemas, enquanto os EUA disseram que a tecnologia não deveria ser usada para censura ou repressão.
Disputando a liderança do segmento, os dois países discutiram, no fim de semana, a criação de um sistema de alerta para incidentes relacionados à IA que possam colocar a segurança nacional em risco. Os presidentes Donald Trump e Xi Jinping também devem se reunir esta semana, tendo a tecnologia como um dos prováveis assuntos em pauta.
ONU defende governança global da IA
Destacando que os alertas sobre a tecnologia não devem ser ignorados, o secretário-geral da ONU, António Guterres, é um dos maiores defensores da governança global da IA. Há dois anos, ele criou um órgão consultivo com 39 membros, incluindo representantes de startups, big techs, autoridades governamentais e acadêmicos de vários países.
Já no ano passado, a Assembleia Geral da ONU criou o Painel Científico Internacional Independente sobre IA, composto por 40 cientistas e especialistas de diferentes nacionalidades. O grupo é responsável por análises rigorosas que ajudam a orientar governos e a subsidiar a formulação de políticas públicas globais.
Em seu discurso no primeiro dia do evento, Trump decidiu anunciar a troca de nome da IA nos EUA. Saiba qual foi a nomenclatura escolhida por ele.
Com informações de Reuters e Euronews.
Fonte da notícia: Estadão | As Últimas Notícias do Brasil e do Mundo https://www.estadao.com.br/tecmundo/inteligencia-artificial/openai-e-anthropic-debaterao-riscos-da-ia-com-o-conselho-de-seguranca-da-onu/
André Luiz Dias Gonçalves
