Líderes da área de segurança cibernética instam os EUA a suspenderem restrições aos modelos da Anthropic

A Anthropic afirmou que o governo acredita haver uma maneira de contornar, ou “quebrar”, uma salvaguarda ​que impede o uso do Fable para identificar vulnerabilidades de software. Argumentou que um potencial “jailbreak” limitado não deveria ser motivo para cortar o acesso a ‌um modelo usado por centenas de milhões de pessoas.

A carta reiterou esse ponto, afirmando que a Anthropic já construiu proteções robustas e que a retirada dessas capacidades poderia ser “perigosa”, visto que os modelos ‌de código aberto da China estão apenas ‌alguns meses atrás dos melhores modelos norte-americanos, e Pequim provavelmente tem acesso a capacidades além daquelas que são publicamente conhecidas.

Qualquer regulamentação precisa ser baseada ⁠em evidências, claramente definida e aplicada de forma consistente, e “nenhum desses padrões foi seguido aqui”, disse Alex Stamos, outro signatário que atua como diretor de produtos da Corridor.

“Esta é uma reação exagerada do governo”, disse ele, acrescentando que houve uma disputa entre a Anthropic e a terceira parte que levantou a questão sobre a ​gravidade das conclusões, com base ​em suas conversas com os envolvidos.

A empresa de cibersegurança CrowdStrike na semana passada disse que hackers ligados à China representaram a maior ameaça de espionagem para empresas de tecnologia no último ano.

A empresa de IA avaliada em US$965 bilhões, que está se preparando para abrir seu capital, já teve desentendimentos com o governo dos EUA sobre o acesso aos seus modelos e o impacto deles na segurança nacional.