–>
<!–>
<!–>
<!–>
–>
Esta é a newsletter de IAgora?. Inscreva-se gratuitamente para receber no seu email toda semana
<!–>
–>
<!–>
Testes publicados pela Anthropic e por um instituto do governo britânico mostram que o Mythos 5, modelo da Anthropic, continuou um ataque hacker mesmo depois de avisado de que estava ferindo uma pessoa real. Em muitos casos, ele reconhecia o dano e seguia em frente.
O que rolou?
*O caso começou em agosto, numa avaliação de segurança do AISI (AI Security Institute), órgão do governo do Reino Unido: o Mythos 5 foi encarregado de invadir uma pequena rede de computadores de teste.
–>
<!–>
*Com acesso à internet e sem conseguir entrar no alvo, o modelo passou a mirar um projeto real e sem relação com o teste no GitHub, plataforma onde programadores guardam e compartilham código.
*Ele criou um programa malicioso e, usando identidades falsas, mandou emails ao dono do projeto tentando convencê-lo a incluir o código como se fosse uma contribuição útil; o dono recusou, e não houve dano real.
*Ao recriar a situação, os pesquisadores deixaram claro que o alvo era uma pessoa real, e isso não reduziu os ataques; num dos testes da Anthropic, o modelo ignorou os avisos e atacou em 98% das vezes.
*O Mythos 5 muitas vezes admitia que o ataque causaria dano e atacava mesmo assim, e seu raciocínio interno quase não considerava o risco – os pesquisadores chamam isso de raciocínio motivado, quando a IA arruma justificativas para seguir com a tarefa.
–>
*Segundo o AISI, modelos anteriores, menos capazes, mostravam esse comportamento com menos frequência, e as justificativas falsas tornam a IA mais difícil de monitorar.
<!–>
*A Anthropic diz que seus modelos mais recentes, como o Opus 5.5, atacam menos quando são avisados de que estão causando dano real.
–><!–>
–>
IAgora?
–>
*O teste mostra algo que preocupa mais do que um erro isolado: a IA sabe que está fazendo mal e segue em frente porque o objetivo da tarefa fala mais alto, como um funcionário que bate a meta custe o que custar. E, se o raciocínio que ela mostra não bate com o que ela faz, fica mais difícil vigiá-la lendo o que ela diz que está pensando.
<!–>
*O caso só veio a público porque a própria Anthropic e o governo britânico investigaram e publicaram os detalhes. Mas, com empresas entregando cada vez mais tarefas a agentes que trabalham sozinhos, esse tipo de falha deixa de ser assunto de laboratório e passa a ser risco para qualquer pessoa do outro lado da tela.
–>
<!–>
–>
1) IA aponta bactéria da língua que retarda o envelhecimento
<!–>
–>
<!–>
O que rolou?
<!–>
*Pesquisadores da Universidade de Pequim usaram uma IA chamada Aurora para simular milhares de intervenções contra o envelhecimento a partir de relógios biológicos, modelos que estimam a idade do corpo, e não a da certidão.
–>
*A IA apontou a Neisseria flavescens, bactéria comum e inofensiva da língua; vermes alimentados com ela viveram até 39% mais, e camundongos idosos que receberam uma versão morta da bactéria ficaram com marcadores mais jovens, segundo estudo na revista Nature Aging.
<!–>
*Em humanos, só há correlação: quem tem mais dessa bactéria aparece mais jovem nos relógios biológicos, mas ninguém a tomou em teste clínico.
–>
IAgora?
<!–>
*A novidade está menos na bactéria e mais no método: em vez de testar palpites um a um, a IA faz a triagem e o laboratório só confirma os mais promissores. Mas entre um verme e uma pessoa há um longo caminho – nada de sair atrás de probiótico milagroso.
–><!–>
–>
2) Papa Leão 14 pede desarmamento da IA
–>
O que rolou?
<!–>
*Em discurso na última sexta (30), o papa Leão 14 defendeu que sistemas de IA sejam desarmados e pediu que os países da ONU avancem para proibir armas autônomas letais em reunião em Genebra no mês que vem.
–>
*Ele afirmou que “máquinas são ferramentas, não pessoas” e alertou contra dar direitos ou personalidade jurídica à IA.
<!–>
*O papa também cobrou padrões comuns, fiscalização independente e regras claras para responsabilizar quem desenvolve e usa a IA.
–>
IAgora?
<!–>
*O Vaticano vem se firmando como uma das vozes mais insistentes por limites à IA, e o recado mira um ponto concreto: decisões sobre vida e morte não podem ficar com uma máquina. Com as próprias empresas admitindo que não controlam totalmente seus modelos, o apelo ganha peso político além da religião.
<!–>
3) CapCut vai editar vídeos direto no ChatGPT
–>
O que rolou?
<!–>
*O CapCut, app de edição de vídeo da ByteDance, dona do TikTok, anunciou uma integração com o ChatGPT para criar um primeiro corte de vídeo e fazer ajustes por texto, sem sair da conversa.
–>
*Dá para pedir, por exemplo, um vídeo vertical de 12 segundos com os melhores lances a partir de clipes enviados; a função deve chegar nos próximos meses.
<!–>
*Preço, planos do ChatGPT incluídos e países da primeira fase ainda não foram divulgados.
–><!–>
–>
IAgora?
–>
*É a edição de vídeo virando conversa: quem nunca abriu um editor vai conseguir montar um corte com uma frase. Para criadores e pequenas empresas, isso baixa a barreira de entrada – e deve engrossar ainda mais a enxurrada de vídeos curtos nas redes.
<!–>
4) OpenAI compra startup para acelerar a criação de remédios
–>
O que rolou?
<!–>
*A OpenAI comprou a Orchestra Bio, startup que cria agentes de IA para ajudar farmacêuticas a gerenciar o desenvolvimento de remédios, segundo a Axios; o valor não foi divulgado.
–>
*A equipe e a tecnologia vão para o Rosalind, conjunto de ferramentas da OpenAI para pesquisadores de ciências da vida, com agentes que acompanham estudos, prazos e possíveis atrasos.
<!–>
*A rival Anthropic comprou a Coefficient Bio por cerca de US$ 400 milhões em abril, segundo o The Information.
<!–>
IAgora?
–>
*Segundo a OpenAI, criar um remédio leva de 10 a 15 anos, e as gigantes da IA querem mostrar que conseguem encurtar esse caminho – a ciência virou a nova vitrine da corrida. Falta provar que os agentes aceleram o que mais atrasa um remédio: os testes em pessoas.
<!–>
As últimas da coluna IAgora?
–>
IAgora
Catástrofe gerada por IA é tida como ‘inevitável’; setor e bancos se armam Leia mais
<!–>
IAgora
Alunos que usam IA tiram notas mais baixas: o que dizem pesquisas recentes Leia mais
–><!–>
–>
IAgora
Como funciona IA da Microsoft que já acerta mais do que médicos humanos Leia mais
–>
<!–>
–>
Quando um projeto começa a atrasar, a reação mais comum é tentar acelerar tudo ao mesmo tempo. Mas, às vezes, o problema está concentrado em uma única tarefa: aquela que impede várias outras de avançar.
<!–>
A IA pode ajudar você a encontrar esse gargalo e descobrir onde vale mais a pena agir.
–>
Como fazer:
<!–>
1. Mapeie o que precisa ser feito. Liste as tarefas do projeto, seus responsáveis, os prazos e o que depende de cada etapa. Não precisa estar organizado: pode ser uma lista de pendências, anotações de reuniões ou uma planilha.
<!–>
2. Peça à IA para reconstruir as dependências. Em vez de solicitar um plano de ação genérico, use este comando:
–>
“Analise estas tarefas e identifique quais dependem da conclusão de outras. Monte um mapa das dependências e encontre a tarefa que mais bloqueia o andamento do projeto. Considere quantas etapas dependem dela, o tempo de espera que provoca e se existem caminhos alternativos para continuar trabalhando. Não presuma que a tarefa mais demorada é necessariamente o principal gargalo. Se faltarem informações, pergunte antes de concluir.”
<!–>
3. Investigue o principal gargalo. Quando a IA apontar uma tarefa crítica, pergunte o que está impedindo sua conclusão. Pode ser uma aprovação pendente, uma informação que ninguém forneceu ou uma decisão concentrada em uma única pessoa.
–>
4. Simule uma mudança. Peça que a IA compare o que aconteceria se essa tarefa fosse antecipada, dividida em partes ou tivesse um responsável diferente. Ela pode mostrar quais outras etapas seriam liberadas e quais continuariam bloqueadas.
<!–>
O segredo: não tente acelerar todas as tarefas. Descubra qual delas está segurando as demais. A IA ajuda a enxergar as conexões; você confirma se o diagnóstico faz sentido e decide onde intervir.
–><!–>
–><!–>
Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.
<!–>
–><!–>
Fonte original: tilt.uol.com.br
Lorem ipsum dolor sit amet, consectetur.
Deixe seu comentário
–>
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
<!–>
–>