–>
–>
–><!–>
–>
–>
<!–>
–>
<!–>
A Anthropic atualizou sua política de uso para proibir que usuários tratem o sistema de IA (Inteligência Artificial) Claude com abuso ou crueldade “sustentada e desnecessária”, segundo a AFP.
–>
O laboratório de IA com sede em San Francisco incluiu uma nova regra para coibir interações abusivas com seus modelos. A empresa passou a vetar “comportamento abusivo ou cruel, sustentado e desnecessário” direcionado ao Claude.
A Anthropic diz que o próprio Claude seguirá como principal forma de conter esse tipo de situação. “A capacidade do Claude de encerrar essas interações continuará sendo o principal mecanismo de aplicação”, afirma a empresa no texto da política.
<!–>
–>
A atualização ocorre em meio a uma discussão filosófica sobre se sistemas de IA podem ser conscientes. A política não menciona diretamente a ideia de “bem-estar do modelo” (model welfare), que defende algum tipo de proteção moral para IAs, mas executivos da Anthropic já trataram do tema publicamente.
A empresa já havia dito, no ano passado, que daria ao Claude a opção de encerrar conversas em casos raros e extremos. A medida valeria para situações de “interações persistentemente prejudiciais ou abusivas” por parte de usuários.
Procurada para comentar a mudança, a Anthropic não respondeu imediatamente. A AFP relata que a empresa foi acionada, mas não enviou posicionamento no momento da publicação.
<!–>
O CEO da Anthropic, Dario Amodei disse em fevereiro que não tem certeza se modelos podem ser conscientes. “Não sabemos se os modelos são conscientes… mas estamos abertos à ideia de que isso possa ocorrer”, afirmou Amodei ao The New York Times.
–>
Para Jackson Stakeman, gerente-geral da Sparq, discutir consciência pode levar a um beco sem saída. “Consciência é uma armadilha. Não conseguimos provar isso nem uns nos outros. Debata isso para IA e você fica girando em círculos”, disse Stakeman à AFP (Agence France-Presse).
<!–>
Stakeman argumenta que uma metáfora mais útil é pensar na IA como um espelho do que as pessoas colocam nela. “O espelho é uma metáfora melhor. Esses sistemas refletem o que colocamos neles, em escala. Isso já é motivo suficiente para a mudança de política”, completou.
–>
Outros nomes rejeitam a ideia de consciência em máquinas e alertam contra dar “direitos” a sistemas de IA. “As IAs não são conscientes. Elas não sentem, não vivenciam nem sofrem”, escreveu o chefe de IA da Microsoft, Mustafa Suleyman, em um artigo no mês passado.
<!–>
Suleyman também afirmou ver riscos em conceder proteções morais a entidades tecnológicas. “Conceder direitos e proteções morais a uma entidade tecnológica, que parece estar em um caminho para se tornar sismicamente mais capaz e inteligente do que nós, é uma receita para o desastre”, escreveu.
–>
Em um sermão em italiano na Basílica de São Pedro, no Vaticano, o papa Leão 14 sugeriu que máquinas não têm alma. “A mente não deve simplesmente compilar dados — como um algoritmo agora faz mais rapidamente do que nós”, disse o pontífice.
<!–>
O papa afirmou que a mente humana vai além do processamento de informações e se conecta a experiências vividas. “Ela deve recordar experiências vividas, que contêm profundezas de significado que apenas a alma humana pode reconhecer, e se conectar mais profundamente com a bondade dessas experiências”, declarou.
–>
*Com informações da AFP
–>
Fonte original: www.uol.com.br
Lorem ipsum dolor sit amet, consectetur.
Deixe seu comentário
<!–>
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
–>
<!–>