Apesar dos funcionários pedirem ao Google que não avance, a gigante da tecnologia teria assinado um acordo com o Departamento de Defesa dos EUA (DoD) permitindo que seus modelos de IA fossem usados para trabalhos confidenciais.
De acordo com The Information, citando uma fonte familiarizada com o assunto, o acordo dá ao DoD a capacidade de usar a IA do Google para “qualquer propósito governamental legal”.
O acordo ocorre apenas um dia depois de mais de 600 funcionários do Google, incluindo diretores e vice-presidentes da empresa, enviarem uma carta ao CEO Sundar Pichai exigindo que o Google recusasse o acesso aos seus modelos de IA para uso em ambientes militares confidenciais.
“Queremos que a IA beneficie a humanidade; não que seja utilizada de formas desumanas ou extremamente prejudiciais. Isto inclui armas autónomas letais e vigilância em massa, mas vai além”, diz a carta.
A notícia chega à medida que continuam a crescer as preocupações em torno do uso de IA para vigilância e aplicações militares. No início deste ano, a Anthropic, que na altura era a única grande empresa de IA a trabalhar com o Pentágono em sistemas classificados, atingiu um impasse nas negociações com o DoD depois de os responsáveis terem pressionado por uma linguagem que permitisse que a sua tecnologia fosse utilizada para “qualquer finalidade legal”. Os maiores pontos de discórdia envolviam utilizações potenciais ligadas à vigilância doméstica e a sistemas de armas autónomos.
Depois que essas negociações fracassaram, a administração Trump cortou relações com a Anthropic e designou a empresa como um risco na cadeia de abastecimento. Posteriormente, a Anthropic abriu duas ações judiciais contra o Departamento em resposta. Desde então, no entanto, o presidente Donald Trump disse que a sua administração teve “algumas conversações muito boas” com a Anthropic e sugeriu que um acordo futuro que restaurasse o acesso da empresa ao trabalho do Pentágono ainda poderia ser “possível”.
Entretanto, a xAI e a OpenAI também assinaram acordos que permitem aos militares dos EUA utilizar os seus modelos de IA em ambientes classificados. Num post de blog, a OpenAI disse que manteve o controle sobre sua “pilha de segurança” e proibiu o uso de sua IA para vigilância doméstica em massa ou para direcionar sistemas de armas letais autônomos.
The Information relata que o acordo do Google inclui linguagem semelhante, mas também afirma que a empresa “não confere qualquer direito de controlar ou vetar a tomada de decisões operacionais legais do governo”.
“Estamos orgulhosos de fazer parte de um amplo consórcio de laboratórios líderes de IA e empresas de tecnologia e nuvem que fornecem serviços e infraestrutura de IA em apoio à segurança nacional. Apoiamos agências governamentais em projetos classificados e não classificados, aplicando nossa experiência em áreas como logística, segurança cibernética, tradução diplomática, manutenção de frota e defesa de infraestrutura crítica”, disse um porta-voz do Google ao Gizmodo em um comunicado enviado por e-mail. “Continuamos comprometidos com o consenso dos setores público e privado de que a IA não deve ser usada para vigilância doméstica em massa ou armamento autônomo sem supervisão humana apropriada.”
O DoD se recusou a responder a um pedido de comentário do Gizmodo.
O acordo marca uma grande mudança para o Google. Em 2018, a empresa retirou-se do programa Project Maven do Pentágono após reação semelhante dos funcionários. Esse projeto envolveu o Google ajudando os militares a desenvolver ferramentas de IA para analisar imagens de drones.
Mas não são apenas os trabalhadores da tecnologia que alertam sobre a IA e a vigilância. Vários legisladores apresentaram nas últimas semanas projetos de lei destinados a limitar a forma como a IA pode ser usada com dados recolhidos ao abrigo da Secção 702 da Lei de Vigilância de Inteligência Estrangeira (FISA). A lei permite ao governo recolher comunicações de estrangeiros no estrangeiro, mas também pode varrer e-mails, mensagens de texto e outras comunicações que envolvam americanos quando contactam pessoas no estrangeiro. Os críticos temem que as ferramentas de IA possam tornar significativamente mais fácil para as agências de inteligência pesquisar e analisar esses dados em grande escala.
