CONNECT
A Anthropic afirma ter identificado o uso indevido do Claude em projetos militares e de inteligência ligados a usuários no Irã, Rússia, China e Iêmen. O relatório amplia a discussão sobre até onde salvaguardas de modelos avançados conseguem conter aplicações de alto risco.
O que aconteceu
Segundo a Anthropic, sua equipe de inteligência de ameaças encontrou tentativas de usar o Claude para desenvolver enxames de drones kamikaze, sistemas de navegação de mísseis e pesquisas relacionadas a possíveis armas biológicas. Usuários baseados no norte do Iêmen criaram software para diferentes tipos de mísseis e testaram um foguete guiado, mas a empresa disse não ter evidências de um dispositivo operacional. Na Rússia, usuários que não foram vinculados ao Estado trabalharam em software para um enxame de drones autônomos treinado com imagens de combates na Ucrânia. O relatório também descreve ferramentas de vigilância, inclusive sistemas voltados ao monitoramento de milhões de telefones, além do uso do modelo por grupos de hackers para automatizar malware e mensagens de phishing. Nenhum dos casos envolveu os modelos mais avançados da Anthropic, Fable e Mythos.
Por que isso importa
O episódio desloca o debate sobre segurança de IA de cenários hipotéticos para tentativas documentadas de aplicação em defesa, vigilância e ciberataques. Também evidencia que bloquear contas não necessariamente elimina o risco: em um caso no Mali, a Anthropic baniu o consultor, mas a plataforma de vigilância construída com Claude já havia sido implantada localmente e estava fora do controle completo da empresa. A dimensão biológica permanece incerta: a Anthropic classificou todos os estudos desse tipo como ambíguos, com possível finalidade científica benigna. O caso ainda aprofunda o conflito entre capacidade tecnológica, uso militar e regras de segurança.
O que deve ser observado
O ponto central será observar se empresas de IA conseguirão detectar e interromper usos abusivos depois que ferramentas já foram implantadas fora de seu ambiente. Também importa acompanhar a reação de governos e reguladores a aplicações de vigilância, armas autônomas e pesquisa biológica. A Anthropic informou que os casos descritos representam as atividades de ameaça mais relevantes e novas identificadas até agora, não necessariamente todo o uso indevido.
O relatório sugere que o risco não está apenas no lançamento de modelos cada vez mais poderosos, mas na combinação entre acesso, adaptação e operações realizadas fora do controle direto do desenvolvedor. Para mercados e empresas de tecnologia, isso torna segurança, rastreabilidade e limites de uso elementos ligados à confiança institucional, não apenas à engenharia do produto. A informação disponível não permite medir a escala desses episódios nem concluir que os projetos tenham alcançado capacidade operacional.
