O secretário de Comércio dos EUA, Howard Lutnick, disse que tomou medidas contra os mais recentes modelos Mythos e Fable AI da Anthropic porque as autoridades temiam que eles pudessem ser implantados por usuários de inteligência militar na China, Rússia ou outros países preocupantes.
Lutnick observou o risco em uma carta enviada ao CEO da Anthropic, Dario Amodei, na sexta-feira, ordenando que a empresa suspendesse a exportação dos modelos de IA para destinos em todo o mundo e todos os estrangeiros, onde quer que estejam, de acordo com uma cópia da carta vista pela Reuters na segunda-feira.
A equipe técnica sênior da Anthropic se reuniu com funcionários do Departamento de Comércio em Washington na segunda-feira para negociar uma solução, disse um funcionário do governo Trump.
Os riscos são elevados, com o governo a procurar garantias de que os modelos não podem ser usados para prejudicar os EUA, enquanto a Anthropic pressiona para restaurar o acesso aos seus modelos de topo depois de os ter colocado offline para todos os utilizadores na sexta-feira.
Lutnick fez parte do processo, mantendo ligações regulares com autoridades da Antrópico enquanto trabalhava para chegar a um acordo, disse uma fonte familiarizada com a situação.
Amodei e Lutnick deverão participar nas reuniões do G7 em Evian-les-Bains, França, onde poderão falar à medida que as negociações prosseguem.
O Diretor Nacional Cibernético, Sean Cairncross, juntou-se à reunião de trabalho de segunda-feira com a Anthropic no Departamento de Comércio, acrescentou a fonte.
A equipe técnica da empresa tem se reunido com autoridades praticamente todos os dias desde que o governo Trump contatou a empresa na sexta-feira, disse uma pessoa próxima à empresa à Reuters.
Após a carta de Lutnick, a Anthropic disse que desabilitaria o acesso aos modelos globalmente.
O governo disse à empresa que acredita que existe um método para contornar, ou “jailbreak”, uma salvaguarda que impediria o Fable 5 de ser usado na identificação de vulnerabilidades de software, disse a Anthropic em um blog na sexta-feira.
O desvio encontrou apenas falhas de segurança “menores” que outros modelos disponíveis publicamente também podem encontrar, acrescentou a empresa.
As relações entre a administração Trump e a Anthropic romperam-se no início deste ano, depois de a Anthropic se ter recusado a permitir que os militares dos EUA utilizassem os seus modelos de IA para vigilância doméstica e sistemas de armas totalmente autónomos, e o governo retaliou colocando-a numa lista negra de segurança nacional.
A startup de IA com sede em São Francisco, que entrou com pedido confidencial de oferta pública inicial nos EUA, já havia alertado sobre as capacidades de hacking de seu modelo Mythos e impediu-o de ser amplamente divulgado.
Em 9 de junho, a Anthropic lançou uma versão pública, chamada Fable 5, que incluía o que descreveu como salvaguardas de segurança cibernética.
A Anthropic trabalhou com o governo para testar o Fable 5 antes de seu lançamento, disse uma pessoa próxima à empresa, e recebeu sua aprovação para implantá-lo.
Poderes usados pela primeira vez para deter a Antrópica
A carta à Anthropic dizia que o Departamento de Comércio estava a tomar medidas através de autoridades concedidas ao abrigo da Lei de Reforma do Controlo de Exportações de 2018 para impor controlos sobre tecnologias emergentes essenciais para a segurança nacional dos EUA.
É a primeira vez que o Departamento do Comércio utiliza esse poder, de acordo com um especialista em controlo de exportações.
A carta dizia que o Departamento de Comércio exigiria uma licença para exportação (ou transferência para um estrangeiro nos EUA) e ameaçava que o não cumprimento da nova restrição resultaria em “penalidades criminais e civis imediatas”.
No entanto, especialistas em controle de exportação disseram que os modelos de IA geralmente não são exportados. São implementados através de acesso remoto, que os regulamentos de controlo de exportação não controlam, levantando questões sobre se o Comércio tem autoridade legal para tomar tais medidas.
O Departamento de Comércio não respondeu às perguntas sobre as autoridades em questão. Nem o departamento nem a Anthropic responderam aos pedidos de comentários na reunião de segunda-feira.
Mais de 80 executivos e especialistas em segurança cibernética assinaram no domingo uma carta aberta a Lutnick e ao Diretor Nacional Cibernético Sean Cairncross que apoiava a posição da Anthropic.
Nessa carta, os líderes de segurança cibernética de grandes empresas, incluindo Nvidia e Adobe, pediram à administração Trump que suspendesse as restrições à Antrópica.