A Anthropic apela aos principais laboratórios de inteligência artificial (IA) para que considerem uma pausa coordenada e verificável no desenvolvimento, alertando que os rápidos avanços na tecnologia poderão em breve permitir que os sistemas de IA se melhorem mais rapidamente do que a sociedade consegue gerir os riscos.
O criador de Claude disse que a capacidade da IA de completar tarefas por conta própria tem dobrado aproximadamente a cada quatro meses e está caminhando para o “autoaperfeiçoamento recursivo”, o ponto em que a tecnologia pode melhorar sem intervenção humana.
“Se os sistemas são capazes de construir totalmente os seus próprios sucessores, as formas como os protegemos, monitorizamos e moldamos o seu comportamento tornam-se muito mais importantes”, disse a startup num longo post na quinta-feira, acrescentando que uma pausa permitiria à sociedade “lidar com as suas imensas implicações”.
“Ainda não chegamos lá e o autoaperfeiçoamento recursivo não é inevitável. Mas pode acontecer mais cedo do que a maioria das instituições está preparada”, escreveram no post o cofundador da Anthropic, Jack Clark, e a líder do Anthropic Institute, Marina Favaro.
Os receios de que os sistemas avançados de IA possam sair do controlo humano e causar danos sociais aumentaram à medida que a tecnologia se tornou cada vez mais capaz.
O próprio modelo Mythos da Anthropic enviou ondas de choque através dos setores, incluindo bancos e software, no início deste ano com sua capacidade de encontrar vulnerabilidades em códigos existentes.
Mas a regulamentação tem sido lenta, especialmente nos EUA, onde estão sediados a maioria dos principais laboratórios de IA.
Uma ordem executiva da administração Trump no início desta semana colocou a responsabilidade sobre os próprios laboratórios, pedindo-lhes que submetessem voluntariamente os seus modelos mais capazes para testes de segurança cibernética do governo antes da divulgação pública.
Os pesquisadores de IA também pediram uma pausa antes, mas tiveram pouco sucesso.
Elon Musk, dono do laboratório de IA xAI, estava entre os defensores de um esforço de 2023 do Future of Life Institute, sem fins lucrativos, para interromper o desenvolvimento de IA por seis meses para dar tempo para barreiras de segurança.
A Anthropic há muito se posiciona como um laboratório de IA focado na segurança.
No início deste ano, recusou-se a permitir que os militares dos EUA utilizassem os seus modelos de vigilância doméstica e armas totalmente autónomas, provocando uma reação negativa do governo, que o colocou numa lista negra de segurança nacional, prevista para entrar em vigor no final de 2026.
A Reuters informou na sexta-feira que a disputa estava mostrando sinais de abrandamento em partes do governo dos EUA.
Ainda assim, a Anthropic continuou a lançar modelos cada vez mais poderosos e, em Fevereiro, recuou numa promessa de segurança fundamental, dizendo que não iria mais conter a IA potencialmente perigosa se os rivais estivessem perto de igualar as suas capacidades.
Foi recentemente avaliada em 965 mil milhões de dólares numa enorme ronda de financiamento e apresentada confidencialmente para uma oferta pública inicial nos EUA na segunda-feira, colocando-a à frente da rival OpenAI tanto na avaliação como na corrida para garantir um financiamento crucial.
Ação coordenada
A postagem de quinta-feira da Antrópico alertou que desacelerações unilaterais ou mal coordenadas podem sair pela culatra se atores menos cautelosos continuarem avançando, reduzindo potencialmente a segurança geral.
Afirmou que uma pausa significativa exigiria um acordo entre “múltiplos laboratórios com bons recursos” que operam na fronteira tecnológica, bem como regras sobre quais as condições que desencadeariam ou suspenderiam tal pausa e quem a supervisionaria.
“Uma pausa unilateral por parte de um laboratório, por outro lado, é alcançável imediatamente, mas realiza muito menos: mudaria quem é o líder, mas não criaria o processo deliberativo mais amplo que está faltando atualmente”, disse a startup.
O seu braço de investigação, o Anthropic Institute, planeia estudar os sistemas necessários para apoiar uma desaceleração e, nos próximos meses, reunirá decisores políticos, investigadores, grupos da sociedade civil e empresas rivais de IA para discutir a gestão de riscos, como o auto-aperfeiçoamento recursivo.
OpenAI, xAI, Alphabet, Meta Platforms e a francesa Mistral não responderam imediatamente aos pedidos de comentários sobre se participariam da teleconferência.