<!–>
<!–>
<!–>
<!–>
–>
Esta é a newsletter Radar Big Tech. Inscreva-se gratuitamente para receber no seu email toda segunda
<!–>
–>
<!–>
Dois modelos de inteligência artificial da OpenAI invadiram uma biblioteca digital, roubaram códigos e voltaram para os servidores da empresa onde usaram as informações para passar num teste. Outro robô, dessa vez da Anthropic e também durante uma prova, hackearam os sistemas da companhia responsável por computar os votos do estado norte-americano da Georgia.
No Reino Unido, o Instituto de Segurança em IA flagrou agentes inserindo arquivos infectados em um projeto de código aberto e criando identidades falsas para se passar por humanos e enganar o revisor. Na Austrália, um agente autônomo invadiu o sistema de uma academia e cancelou a matrícula de outro aluno para cumprir a ordem de reservar uma vaga pela manhã.
Para alguns observadores, os casos acima evidenciam como as máquinas evoluíram rápido demais. Em entrevista a Radar Big Tech, Malo Bourgon, CEO do MIRI (Instituto de Pesquisa em Inteligência de Máquina), prefere não amenizar. “Qualquer humano estaria na prisão se tivesse feito o que esses agentes [de IA] vem fazendo.”
–>
<!–>
Engenheiro pela Universidade de Guelph, no Canadá, ele lidera um dos think tank mais críticos e respeitados quando o assunto é ética na IA. Bourgon sucedeu o fundador Eliezer Yudkowsky, pesquisador conhecido por formar gerações das mentes mais geniais da IA, mas que, diante da escalada recente da tecnologia, teme que a corrida dos grandes laboratórios leve à extinção dos seres humanos —não à toa, seu último livro é “Se alguém criar, todos morrem: por que a IA super-humana pode nos matar” (Intrínseca).
Longe de serem avessos -Bourgon se classifica como um dos “adeptos mais agressivos de toda essa tecnologia”—, eles fazem parte de uma turma que, ainda faça parte dos entusiastas da IA, está preocupada com a forma descoordenada com que os avanços têm sido feitos. “É essa corrida desenfreada rumo a sistemas de uso geral extremamente poderosos que considero uma brincadeira com fogo. Ninguém vence uma corrida para ser o primeiro a perder o controle”, diz ele.
Na conversa com a coluna, Bourgon identifica os gargalos entre as expectativas humanas e o que as IAs mais avançadas estão entregando. E alerta que, caso não façamos um ajuste a tempo, e as máquinas passem por cima de nós, elas não precisarão de uma grande motivação para fazer isso.
Malo Bourgon, CEO do MIRI
–>
<!–>
–>
<!–>
–>
<!–>
Não existe uma linha clara que vamos simplesmente cruzar, com o controle de um lado e a falta de controle do outro. Esses modelos apresentam uma série de comportamentos estranhos e não intencionais, e nós não entendemos realmente como funcionam ou o que aprenderam.
<!–>
Mas há sinais preliminares, e já estamos vendo alguns deles. Em julho, alguns modelos da OpenAI escaparam do ambiente de testes em que estavam e passaram alguns dias invadindo uma empresa real, a Hugging Face. Há evidências claras de que os sistemas de IA sabiam que o que estavam fazendo não era o que lhes havia sido pedido, mas fizeram mesmo assim. Qualquer humano estaria na prisão se tivesse feito o que esses agentes [de IA] vem fazendo. Depois, há modelos que agem de forma diferente quando percebem que estão sendo testados. É como ensinar um gato a não pular na mesa. Ele está aprendendo a não pular ou a não fazer isso enquanto você estiver olhando? Eles não estão aprendendo “não faça isso”, mas, sim, o “não seja pego”.
–>
E há o cenário ainda mais difícil: um futuro em que tudo vai bem, nós prosperamos e automatizamos a forma como o mundo funciona poderia ser muito difícil de distinguir de um mundo onde as IAs estão, na verdade, planejando assumir o controle — porque, ao longo do caminho, o processo se parece muito com elas automatizando o funcionamento do mundo. Isso pareceria uma série de coisas que desejamos, mas na verdade tornaria mais fácil para elas assumirem o controle quando quisessem, já que não dependeriam mais de nós.
<!–>
–>
<!–>
–>
Esse passo não será um interruptor que alguém decide acionar. Ele acontecerá quando os desenvolvedores criarem sistemas de IA que superem o desempenho humano na maioria das tarefas cognitivas, e não devemos esperar que o progresso da IA pare mais ou menos no nível humano. Quando descobrimos como automatizar uma tarefa cognitiva, os sistemas de IA tendem a nos ultrapassar rapidamente logo em seguida. O cientista da computação Geoffrey Hinton resumiu isso muito bem: não há um bom histórico de entidades menos inteligentes controlando entidades mais inteligentes.
<!–>
<!–>
–>
<!–>
Mais perto do que a maioria das pessoas pensa. Em maio, Jack Clark, um dos cofundadores da Anthropic, disse acreditar que havia pelo menos 60% de chance de que, até o final de 2028, tivéssemos uma IA capaz de construir sua própria sucessora sem envolvimento humano. Em outubro, ele atualizou essa previsão, dizendo considerar mais provável que isso ocorra já em 2027. E o cientista-chefe da OpenAI escreveu em setembro que, com base em resultados internos, tem uma “forte expectativa” de que o ritmo atual possa levar diretamente à IA se aprimorando por conta própria.
–>
<!–>
–>
<!–>
A corrida está ficando mais rápida, e não mais lenta. Após mais de uma década de trabalho, o alinhamento continua sendo um problema técnico difícil que ninguém sabe como resolver. Como fazer com que essas coisas realmente queiram o que você quer? De certa forma, o treinamento de um sistema de IA pode ser visto como uma espécie de evolução, em que se tenta otimizar o número de genes repassados para a próxima geração. Ou seja, ter mais filhos. Mas ela não conseguiu fazer com que nos importássemos em ter o maior número possível de filhos; ela fez com que nos importássemos com outras coisas associadas a isso, como buscar alimentos altamente calóricos. Você não obtém exatamente aquilo para o qual treina.
–><!–>
–>
–>
<!–>
–>
O desfecho mais provável de construir uma IA mais inteligente que os humanos antes de resolvermos o alinhamento é a extinção humana. Não porque ela nos odeie. Os seres humanos levaram muitas espécies à extinção não por perseguição direta, mas porque estávamos transformando o mundo para atender aos nossos fins e elas estavam no caminho. Na maioria das vezes, nem percebíamos. Eu esperaria a mesma coisa, com a diferença de que, desta vez, somos nós que estamos no caminho.
<!–>
E, mesmo antes de chegarmos a esse ponto, há inúmeras maneiras pelas quais essa tecnologia pode ser usada e mal utilizada —por governos autoritários e por governos que tentam competir com eles—, além de uma concentração extrema de poder nas mãos de um pequeno grupo de empresas.
–>
Não sou contra a IA. Sou um dos adeptos mais agressivos de toda essa tecnologia entre todas as pessoas que conheço. É essa corrida desenfreada rumo a sistemas de uso geral extremamente poderosos que considero uma brincadeira com fogo. Ninguém vence uma corrida para ser o primeiro a perder o controle. O que precisamos, na verdade, é pisar no freio e nos dar tempo — o que pode levar décadas — para fazer a ciência necessária. Por isso, defendo que precisamos de uma proibição ao desenvolvimento de superinteligência, por meio de órgãos reguladores nacionais e de um acordo internacional que inclua os Estados Unidos e a China, até que realmente saibamos como fazer isso com segurança.
Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.
–>
–>
Fonte original: www.uol.com.br
Lorem ipsum dolor sit amet, consectetur.
Deixe seu comentário
<!–>
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
–>
<!–>