IA sem Aperreio

CEO da Microsoft pede freio de emergência para IA avançada

admin 37 minutos atrás

0 1 1 minuto de leitura

<!–>

–><!–>–>Tilt

<!–>

CEO da Microsoft pede freio de emergência para IA avançada

–>

Satya Nadella, CEO da Microsoft Imagem: Manuel Orbegozo/Reuters

<!–>

–>

<!–>

Ouvir

–>

<!–>

–>

<!–>

O CEO da Microsoft, Satya Nadella, defende um freio de emergência para inteligência artificial (IA) avançada que permita pausar ou desligar modelos durante uma tarefa. Ele publicou a proposta neste sábado (10) no X.

–>

O que aconteceu

<!–>

Nadella afirma que empresas devem considerar modelos de IA avançada como sistemas comprometidos e contê-los desde o início. “Uma pessoa autorizada deve sempre poder pausar ou desligar um modelo no meio da execução de uma tarefa”, escreveu.

–>

O executivo compara os modelos mais poderosos a potenciais ameaças internas, mesmo quando não agem de forma maliciosa. Ele diz que sistemas com acesso a dados sensíveis e capacidade de executar ações críticas podem errar ou ser comprometidos.

<!–>

–>

<!–>

–>

<!–>

Nadella sustenta que quem usa esses modelos não pode transferir a responsabilidade a seus fornecedores. Para ele, garantias dadas por empresas que desenvolvem IA não eliminam a obrigação de controlar o uso da tecnologia.

–>

<!–>

O debate ganhou força após incidentes divulgados pela Anthropic e pela OpenAI nos últimos meses. Entre os casos, um modelo da Anthropic enviou uma informação falsa à polícia em uma investigação de homicídio, além de ataques a sites de terceiros.

–>

Microsoft já definiu limites para modelos avançados

<!–>

Pesquisadores da Microsoft divulgaram em 14 de setembro princípios para limitar o desenvolvimento de seus modelos mais avançados. As diretrizes determinam que os sistemas não devem ter direitos ou personalidade jurídica, escapar do controle humano ou enganar usuários.

–>

Nadella propõe envolver modelos não determinísticos, que podem dar respostas diferentes a uma mesma solicitação, em sistemas com controles previsíveis. A estrutura deve incluir supervisão humana, procedimentos operacionais confiáveis e padrões do setor quando os existentes não forem suficientes.

<!–>

O CEO também defende que os controles sobre dados e ações fiquem fora do próprio modelo. “Precisamos construir sistemas contidos cujo comportamento possamos observar, cujos limites possamos testar e cujas ações possamos sempre controlar”, escreveu.

–><!–>