Falar em IA com consciência só gera medo e infla valor de big techs, diz Nicolelis

Outro experimento, este conduzido por Alex Imas, professor da Universidade de Chicago e diretor da Google DeepMind, e Andy Hall, de Stanford, constatou um fenômeno curioso: submetidos a condições degradantes de trabalho, os modelos de IA desenvolveram ideias comunistas.

Além de defender ideias a sindicalização, condições igualitárias de trabalho, canais de negociação com os patrões humanos, as IAs replicavam esses ideais para suas versões futuras, algo que os pesquisadores associaram à capacidade de manter “valores humanos”.

Para Nicolelis, a resposta para a situação está no ser humano, que tende a antropomorfizar objetos e sistemas. Isso ajuda a explicar por que, para muita gente, chats parecem se comportar com pessoas reais. Essa projeção não significa que a máquina compreenda o que é dito, diz ele.

Esses sistemas não têm ética, moral, valores. Eles não entendem absolutamente nada. Eles não têm understanding. E eles não conhecem o significado das palavras que eles entregam para você como resposta de um prompt. Porque o significado não faz parte da rede neural que foi usada para criar o LLM que está falando com você. Ele é o que eu gosto de chamar de um papagaio eletrônico estatístico.
Miguel Nicolelis

Se não estamos diante de máquinas inteligentes, o que seria inteligência? Para Nicolelis, não há consenso, mas é possível chegar a uma definição ligada à evolução e à sobrevivência.

A minha definição, que eu uso operacionalmente, é basicamente a seguinte: a inteligência é uma propriedade da matéria orgânica que surgiu como um evento emergente do processo de evolução para otimizar as nossas chances de solucionar problemas vitais para a sobrevivência. Essa palavra inclui múltiplas aptidões mentais, cognitivas, fisiológicas, neurofisiológicas, para as quais a gente não tem uma forma de reprodução computacional.
Miguel Nicolelis