A Anthropic colocou o mercado financeiro em alerta ao apresentar o Claude Mythos, novo modelo de inteligência artificial ligado à família Claude. Segundo a empresa, a ferramenta demonstrou capacidade superior à de humanos em algumas tarefas de cibersegurança durante testes internos.
Essa informação levou bancos, reguladores, empresas de tecnologia e autoridades financeiras a discutirem os riscos de modelos avançados de IA aplicados à segurança digital. O tema chegou a reuniões do Fundo Monetário Internacional (FMI) em Washington e também entrou no radar da União Europeia.
A Anthropic afirma que o Mythos consegue identificar vulnerabilidades graves em softwares, inclusive falhas escondidas em códigos antigos. Parte dos testes foi feita por equipes de red team, especialistas que simulam ataques para avaliar resistência de sistemas.
Anthropic restringiu acesso ao Claude Mythos
O modelo foi apresentado em abril como Mythos Preview. Em vez de liberá-lo amplamente aos usuários do Claude, a Anthropic decidiu conceder acesso inicial a um grupo restrito de empresas por meio do Project Glasswing.
A iniciativa inclui companhias como Amazon Web Services, Apple, Microsoft, Google, Nvidia, Broadcom e CrowdStrike. O objetivo declarado é preparar empresas de tecnologia para reforçar sistemas críticos contra capacidades semelhantes às do próprio modelo.
A Anthropic também anunciou que pretende ampliar o acesso para outras 150 instituições de setores como energia, água, saúde, comunicações e equipamentos. Novos participantes terão de cumprir requisitos de segurança antes de usar a ferramenta.
Modelo teria encontrado vulnerabilidades graves
A Anthropic afirmou, em abril, que o Mythos Preview encontrou milhares de vulnerabilidades de alta gravidade, incluindo falhas em grandes sistemas operacionais e navegadores. A empresa também disse que o modelo conseguiu localizar problemas críticos com pouca supervisão, inclusive uma vulnerabilidade presente há 27 anos em um sistema antigo.
Por isso, a principal preocupação está na velocidade de evolução da IA. Se modelos desse tipo se tornarem amplamente acessíveis, grupos mal-intencionados poderiam tentar usar ferramentas avançadas para encontrar falhas antes que empresas consigam corrigi-las.
A Anthropic tem defendido uma liberação controlada do Mythos, com acesso direcionado a organizações capazes de usar a tecnologia em defesa de sistemas essenciais.
Sistema financeiro entrou em alerta
O possível impacto sobre bancos e serviços digitais levou autoridades financeiras a acompanharem o caso. O ministro das Finanças do Canadá, François-Philippe Champagne, disse à BBC que o Mythos foi discutido em uma reunião do FMI.
“Certamente é sério o suficiente para merecer a atenção de todos os ministros das Finanças”, afirmou.
O diretor do Banco da Inglaterra, Andrew Bailey, também tratou o assunto como relevante para riscos de crime cibernético.
“Temos de analisar com muito cuidado agora o que esse desenvolvimento recente da IA pode significar para o risco de crime cibernético”, disse à BBC.
A União Europeia informou que mantém conversas com a Anthropic sobre preocupações ligadas ao Mythos. O bloco recebeu acesso à ferramenta em maio.
Especialistas ainda cobram testes independentes
Apesar do alerta, parte dos especialistas trata as alegações com cautela. Muitos analistas independentes ainda não tiveram acesso ao Mythos para avaliar o desempenho do modelo fora do ambiente controlado da Anthropic.
O Instituto de Segurança em IA do Reino Unido classificou o sistema como poderoso, mas apontou que a maior ameaça estaria em sistemas mal protegidos. Segundo os pesquisadores, ainda não é possível afirmar com segurança se o Mythos conseguiria comprometer sistemas bem defendidos.
Ciaran Martin, ex-chefe do Centro Nacional de Segurança Cibernética do Reino Unido, disse à BBC que a alegação de que o modelo identifica vulnerabilidades críticas mais rápido que outras IAs “realmente abalou as pessoas”.
“A segunda questão é que, mesmo com vulnerabilidades existentes que conhecemos, mas contra as quais as organizações podem não ter aplicado correções ou podem não estar bem defendidas, ele é simplesmente um hacker muito bom”, afirmou.
