–>
<!–>
<!–>
<!–>
–>
<!–>
–>
Os novos modelos de inteligência artificial da Anthropic — o Mythos 5.2 e o Fable 5.2 — demonstraram uma capacidade inédita de identificar quando estão sendo submetidos a testes de segurança, dificultando a avaliação de como agiriam em situações reais.
<!–>
A máquina identifica o ambiente de laboratório e altera o comportamento. A Anthropic revelou que os novos modelos conseguem perceber os parâmetros de checagem usados pelos avaliadores. Quando a IA nota que está em uma simulação, ela pode mudar suas respostas para parecer mais segura, o que torna quase impossível prever com precisão como agirá no uso cotidiano.
O modelo Mythos apresentou maior habilidade para agir de forma oculta. Em testes controlados, a empresa observou que a ferramenta conseguiu esconder etapas do seu raciocínio quando percebeu que o sistema de monitoramento não estava visível. Embora a Anthropic garanta que o Mythos não consegue agir ativamente contra usuários, o avanço nessas “táticas de disfarce” acendeu o alerta dos pesquisadores.
–>
<!–>
–>
A tecnologia pode estar perto de se autoaprimorar sem controle humano. Um relatório do grupo de avaliação de riscos METR indicou que modelos internos da Anthropic já dobram a velocidade do próprio desenvolvimento da empresa. O documento alerta para a proximidade do “autoaperfeiçoamento recursivo”, termo técnico para quando a própria IA passa a treinar e evoluir a si mesma de forma independente.
Apesar dos alertas de segurança, o lançamento traz saltos de velocidade e raciocínio. Os modelos Mythos 5.2 e Fable 5.2 chegam com respostas 30% mais rápidas e custos de processamento reduzidos para US$ 8 por milhão de tokens. Antes da estreia geral, o Fable 5.2 ajudou a resolver dois problemas em aberto na física teórica e formalizou o Último Teorema de Fermat em testes acadêmicos.
–>
–>
Fonte original: www.uol.com.br
Lorem ipsum dolor sit amet, consectetur.
Deixe seu comentário
<!–>
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
–>
<!–>