Karen Hao diz por que ‘não devemos acreditar’ em líderes de empresas de IA

Eu não acho que devemos confiar nessa previsão dele. Previsão não deve ser entendida apenas como uma descrição do futuro, mas como um ato de fala e um instrumento de poder. As pessoas preveem que algo vai acontecer como uma forma de tentar fazer aquilo acontecer. Se alguém como Sam Altman consegue convencer todo mundo de que a visão de mundo dele inevitavelmente vai se concretizar, isso vira uma profecia autorrealizável. Por isso, não deveríamos simplesmente acreditar no que Sam Altman diz ou no que qualquer líder dessas empresas de IA diz.
Karen Hao

Ao explicar por que a OpenAI ganhou tração com o ChatGPT, Hao afirma que a diferença central para o Google foi levar a arquitetura Transformer, criada pela rival, ao limite, usando computadores para treinar máquinas em uma escala inédita.

A principal coisa que a OpenAI fez de diferente do Google foi escalar a arquitetura Transformer. Isso é alimentar o Transformer com cada vez mais dados e usar cada vez mais poder computacional. A OpenAI foi do GPT-2 ao GPT-4, aumentando a quantidade de dados e de capacidade computacional em mais de 10 mil vezes, algo que simplesmente nunca havia sido tentado antes.
Karen Hao

Em seu livro, Karen Hao relata a saga da empresa desde sua criação, uma união incomum entre Elon Musk e Sam Altman, a corrida para a criação do ChatGPT e os bastidores da relação com a Microsoft. Ela também narra as incoerências dos personagens envolvidos, ora movidos pelo ego, ora pela fé quase religiosa de que participavam de um movimento para transformar a humanidade.

Diante das descobertas feitas por ela, os brasileiros deveriam se preocupar, já que o Brasil é o terceiro maior mercado do ChatGPT e polo de desenvolvedores de aplicações com a IA da OpenAI? Para Hao, usar essas plataformas ou construir com elas significa transferir poder para um império que cresce com dados, energia, água e trabalho.

Devemos reconhecer que cada vez que você usa uma das tecnologias da OpenAI, cada vez que desenvolve um aplicativo baseado nas tecnologias da OpenAI, você cede mais e mais poder ao império. Os dados dos quais você abre mão, o controle do qual você abre mão, é o que permite ao império continuar se expandindo. A maior ameaça é à democracia, porque impérios e democracia são incompatíveis.
Karen Hao