EUA e China negociam criação de mecanismo para notificar incidentes de IAs

Representantes dos Estados Unidos e da China iniciaram negociações para criar um mecanismo de notificação que envolva incidentes com inteligência artificial. O objetivo é alertar mutuamente ambas as nações sobre eventuais perigos à segurança nacional e fazer com que sejam criadas estratégias para mitigar riscos dessa tecnologia.

(Imagem:

Vale notar que os dois mandatários se encontraram novamente nesta semana, pois Jinping chegou em Washington nesta quarta-feira (23). A visita será uma extensão da viagem passada e terá como um dos focos o controle no crescimento de inteligência artificial, além de outros temas geopolíticos.

EUA e China estão com medo das IAs?

A possibilidade de um acordo entre Estados Unidos e China sobre a evolução acelerada da inteligência artificial e seus riscos não chega a ser tão surpreendente. Nos últimos meses, uma série de incidentes com diversos modelos de IA ligaram uma luz vermelha acerca de possíveis capacidades danosas dessas tecnologias.

Em junho, a startup Anthropic lançou e depois desativou temporariamente os modelos Fable 5 e Mythos 5 por conta do seu alto potencial destrutivo. A companhia admitiu que o Fable 5 continha mecanismos de segurança ocultos que sabotavam respostas em casos de alguns usos específicos.

A preocupação sobre esses modelos foi tão alta que o próprio governo estadunidense chegou a intervir e ordenar sua desativação. Posteriormente, a companhia lançou o Fable 5.1, que trazia correções e evoluções importantes para a segurança. Tecnologias assim são usadas apenas por certas empresas e organizações, não por usuários comuns.

Em julho, a plataforma Hugging Face registrou uma sofisticada invasão em seus sistemas através de um modelo de linguagem da OpenAI. O caso ganhou muita notoriedade na época, mas registros recentes apontam que a própria companhia “ensaiou”essa invasão meses antes do ataque de sua IA rebelde, como foi chamada.

Recentemente, a própria Anthropic e a OpenAI se mostraram a favor de um plano para desacelerar o desenvolvimento das IAs. A proposta não teve adesão adicional e tanto a China quanto os Estados Unidos entenderam que essas medidas não faziam sentido e contribuem com um dado alarmismo sobre esses recursos.

Por falar em IAs, a OpenAI lançou os modelos GPT-6 Sol e GPT-6 Luna com preços reduzidos e indicados para aplicações cotidianas. Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.

Com informações de Wired