Matemáticos se revoltam com OpenAI e dizem que IA pode 'quebrar a internet'

Matemáticos se revoltam com OpenAI e dizem que IA pode ‘quebrar a internet’
<!–>

<!–>
–>
- 0.5×
- 0.75×
- 1×
- 1.25×
- 1.5×
- 1.75×
- 2×
<!–>

<!–>
<!–>
<!–>

<!–>
–>
<!–>
–>
A OpenAI despejou centenas de resultados de matemática de uma vez e acendeu dois alarmes ao mesmo tempo: o de quem teme uma “avalanche” difícil de checar e o de quem vê risco real para a criptografia que protege a internet. Entre empolgação e revolta, a sensação é de que a IA pode acelerar descobertas num ritmo que a comunidade não consegue acompanhar – e isso mexe com ciência, segurança digital e dinheiro.
–>
*Após o anúncio em setembro de que sua IA resolveu um mistério de 90 anos da matemática, a OpenAI publicou ontem uma leva enorme de 372 novas descobertas matemáticas que não haviam sido resolvidas por humanos
–>
<!–>
*De acordo com a Scientific American, a OpenAI afirma que cada resultado resolve ou avança de forma relevante uma questão importante em matemática ou ciência da computação teórica – e que parte das provas já foi verificada no Lean, uma linguagem de programação usada para checar a lógica de demonstrações.
*A velocidade e a escala chamaram atenção a ponto de o cientista da computação Scott Aaronson batizar o momento de “Mathocalypse” e dizer que foi “um dos maiores dias da história da matemática”.
*Ao mesmo tempo, matemáticos e pesquisadores alertaram que ainda pode levar meses para a comunidade entender o que é realmente novo, o que é reaproveitamento de técnicas existentes e o que pode estar errado.
*A Association for Human Mathematics (AHM) criticou a publicação em massa e pediu que matemáticos deixem de trabalhar com a OpenAI, dizendo que a área “não pediu” por esse tipo de produção e que o modelo de publicação merece ceticismo.
–>
*Segundo o The Rundown, a OpenAI já retirou 3 dos artigos e revisou outros 14 após a publicação, e reconheceu que alguns resultados “não formalizados” podem ter problemas e seriam corrigidos.
<!–>
–>
*O debate saiu do mundo acadêmico e chegou a alertas de perigo: especialistas em criptografia e pesquisadores do criptomoeda Ethereum passaram a discutir se avanços matemáticos acelerados por IA poderiam enfraquecer os “cadeados” usados hoje na internet e em criptomoedas.
<!–>
*O professor Matthew Green, da Johns Hopkins, alertou ao The Independent que podemos “perder a criptografia de chave pública” – base de coisas como navegador, mensagens seguras como a do WhatsApp e banco online.
–>
*Pesquisadores do Ethereum, como Justin Drake, falaram em “modo bunker” e sugeriram que usuários migrem gradualmente fundos para endereços novos, onde a chave pública ainda não foi exposta por uma assinatura de transação.
<!–>
*Vitalik Buterin, cofundador do Ethereum, concordou com a necessidade de levar o risco a sério, mas disse que não recomenda correria imediata para mover fundos, lembrando que já perdeu mais dinheiro em migrações malfeitas do que em hacks.
–>
<!–>
Mesmo que uma parte dos resultados esteja certa (e o uso de ferramentas como o Lean ajude a checar a lógica), a comunidade ainda precisa entender o que aquilo significa – se as ideias são realmente novas e se os resultados se sustentam fora do ambiente controlado da empresa.
–>
É daí que nasce a revolta. A AHM chama a publicação em massa de “demonstração de poder” porque, na prática, ela empurra o resto do campo para uma posição reativa: em vez de escolher problemas, métodos e ritmo, matemáticos passam a “apagar incêndio” – verificando, replicando e tentando acompanhar.
<!–>
E a crítica fica mais sensível quando o modelo é fechado: sem acesso amplo ao sistema que gerou as provas, a ciência vira um pouco “confie em mim”, o que bate de frente com a cultura de replicação de resultados para confirmar uma descoberta.
<!–>
O segundo alarme é mais cotidiano: segurança digital. A criptografia que protege sua conversa no WhatsApp, seu login no banco e a transação no cartão depende de problemas matemáticos que, hoje, são difíceis demais para um atacante resolver a tempo.
–>
Se a IA acelerar a descoberta de novos atalhos matemáticos – novos “macetes” – alguns desses cadeados podem ficar frágeis. Não é que a internet “quebra” de um dia para o outro, mas o risco é ter de trocar fechaduras em massa, com pressa, e isso costuma dar errado.
<!–>
No fim, a “Mathocalypse” tem duas leituras que convivem. A otimista é a de que a IA pode acelerar respostas para perguntas antigas e abrir novas ferramentas para ciência e tecnologia. A pessimista é a de que, se esse motor de descobertas ficar concentrado em poucos laboratórios e avançar mais rápido do que a capacidade de auditoria pública, a sociedade vai herdar um mundo com mais conhecimento – e, ao mesmo tempo, mais pontos cegos.
–>
E pontos cegos, em segurança digital, costumam custar caro.
<!–>
–>
OpenAI está nos inundando com supostos avanços revolucionários. Ainda assim, ninguém sabe se as provas estão corretas ou se provam o que dizem estar provando.
Valerio Capraro, professor da Universidade de Milão, ao The Independent
<!–>
Acho que podemos perder a criptografia de chave pública. Bem, a criptografia – especificamente a criptografia de dados.
Matthew Green, professor associado da Universidade Johns Hopkins, ao The Independent
<!–>
Até que eles liberem o modelo e as pessoas consigam replicar os resultados, acho que qualquer afirmação de que um único agente resolveu problemas com um único comando deve ser tratada como não verificada. Precisamos de provas.
Andrew Sutherland, matemático do MIT, ao Scientific American
–>
Nós rejeitamos a afirmação da OpenAI de que essa publicação faz a área avançar e pedimos que matemáticos e o público vejam o valor desse modelo de publicação com o devido ceticismo.
Association for Human Mathematics
Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.
–>
–>
Fonte original: www.uol.com.br
Lorem ipsum dolor sit amet, consectetur.
Deixe seu comentário
<!–>
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
–>
<!–>