A Anthropic informou ter bloqueado interações com o Claude consideradas de alto risco, incluindo consultas que poderiam contribuir para o desenvolvimento de armas biológicas. Os casos foram detalhados em um relatório divulgado na quinta-feira (10), que reúne ocorrências registradas entre dezembro de 2025 e agosto de 2026. Entre os episódios avaliados pela empresa estão tentativas de obter informações sobre alterações genéticas no vírus da Chikungunya, adaptações envolvendo gripe aviária, toxinas e substâncias capazes de provocar efeitos paralisantes.

O documento também aponta situações associadas a espionagem, cibersegurança e possível uso militar da inteligência artificial. Segundo a Anthropic, seus sistemas teriam sido utilizados em tarefas como busca por formas de contornar mecanismos de vigilância, análise de alvos estratégicos para ataques aéreos e manipulação de conteúdos relacionados à mídia estatal. A companhia afirma ter identificado consultas originadas de universidades, grupos políticos e empresas de comunicação, incluindo organizações ligadas a países como China e Rússia, embora ressalte que nem sempre é possível determinar a intenção de quem utiliza o modelo.

A divulgação ocorre em meio ao avanço do debate sobre os limites de segurança das ferramentas de IA. A Anthropic afirma que tornou os casos públicos para estimular governos e empresas do setor a aprimorar mecanismos de prevenção contra usos perigosos. O relatório também surge poucos dias após críticas feitas pelo ex-desenvolvedor Jacob Coxon, que alertou para os riscos de uma corrida pela superinteligência sem proteções consideradas suficientes. A preocupação central é que modelos cada vez mais avançados possam ampliar tanto aplicações legítimas