Relatório da ONU aponta enormes benefícios potenciais e grandes riscos decorrentes da IA

Os membros do painel foram selecionados em todas as regiões do mundo e cumprem um mandato de três anos, independentemente de qualquer governo, instituição ‌ou empresa.

A seguir, alguns detalhes do relatório ‌preliminar:

• Os formuladores ​de políticas precisam de evidências científicas para governar a IA, mas as capacidades da tecnologia estão superando o entendimento científico e a capacidade de adaptação dos governos, com ‌poucos métodos disponíveis para controlar sistemas de IA altamente autônomos.

• O copresidente do painel Yoshua Bengio observou evidências crescentes de comportamentos enganosos da IA e afirmou que a ciência não pode garantir que a IA não causará danos catastróficos “seja por conta própria, seja devido a usuários mal-intencionados”, à medida que suas capacidades aumentam.

• “Os benefícios potenciais da IA são enormes”, concluiu o relatório. “A implantação rápida e descontrolada da tecnologia em grande escala também apresenta riscos consideráveis, incluindo ‌danos à saúde mental dos usuários, uso potencial como ferramenta destrutiva, impactos nos sistemas sociais, econômicos e ambientais, e desafios associados ao controle da tecnologia.”

• A ​adoção da IA acelerou de forma ampla, mas desigual, entre países e setores. Globalmente, mais de um bilhão de pessoas agora ‌usam IA conversacional semanalmente, mas a adoção nos países em desenvolvimento está atrasada.