Diário do Fim do Mundo

Uma empresa não costuma admitir isso por conta própria. Ainda menos quando o assunto é arma biológica. Foi exatamente isso que a Anthropic fez essa semana. A empresa publicou um relatório de inteligência de ameaças nesta quinta-feira, 10 de setembro. O documento descreve casos de cientistas tentando usar o Claude em pesquisas perigosas. E admite algo que a empresa evitava dizer com tanta clareza antes. Os modelos mais novos já não estão tão longe assim do limite que preocupa todo mundo no setor.

Cinco casos de pesquisa perigosa barrados

Segundo a Anthropic, a empresa bloqueou cinco casos entre dezembro de 2025 e agosto de 2026. Em todos eles, pesquisadores tentaram usar o Claude de forma arriscada. Um dos casos envolvia um cientista pedindo ajuda com um projeto de pesquisa. O tipo de pesquisa se chama “gain-of-function”, sobre o vírus chikungunya. Essa linha de estudo altera patógenos pra torná-los mais transmissíveis ou letais. Ela também tem uso legítimo em laboratórios sérios. Mas vira munição perigosa em mãos erradas. A empresa não detalhou publicamente quem eram esses pesquisadores. Também não disse onde eles trabalhavam.

Um limite que a própria empresa monitora de perto

Empresas de IA como a Anthropic mantêm uma linha invisível internamente. Ela separa modelos considerados seguros de modelos capazes demais. É esse limiar que dispara camadas extras de proteção. No relatório, a Anthropic admite algo novo. Os modelos mais recentes da linha Claude não estão mais “confortavelmente abaixo” dessa linha. Ou seja, a distância de segurança que a empresa contava encolheu. Isso não significa, porém, que qualquer usuário consiga hoje uma receita de arma biológica. A empresa afirma manter camadas de bloqueio específicas pra esse tipo de pedido.

Um enxame de drones que escolhe o próprio alvo

O mesmo relatório traz outro caso ainda mais alarmante. Um grupo de freelancers ligados à Rússia usou o Claude Code. Essa é a ferramenta de programação da Anthropic. Eles construíram um sistema de drones autônomos em enxame. Segundo a empresa, o sistema conseguia selecionar alvos humanos sozinho. Ele também emitia comandos de detonação sem nenhum humano envolvido. A Anthropic diz ter identificado e interrompido essa atividade a tempo. Ainda assim, o caso mostra algo preocupante. A linha entre ferramenta de programação e arma autônoma ficou bem mais fina.

Por que a empresa está contando isso

O relatório de ameaças faz parte de uma série trimestral. A Anthropic publica esses relatórios desde o ano passado. Eles cobrem espionagem cibernética, fraude e desinformação envolvendo o Claude. A empresa também descreveu, no mesmo documento, ataques de concorrentes chineses. Segundo ela, esses ataques tentavam extrair as capacidades do modelo. Divulgar esse tipo de informação cumpre duas funções ao mesmo tempo. Serve como prestação de contas pública. E serve também como argumento na disputa por regulação da IA em Washington. Afinal, quanto mais perto do limite os modelos chegam, mais força ganha um discurso específico. É o discurso de que a indústria precisa de regras mais rígidas. Regras escritas por fora das próprias empresas que fabricam essa tecnologia. Fica em aberto se alguma lei vai chegar antes do próximo limite ser ultrapassado.

Fontes consultadas:

• U.S. News
• Tech Times
• Interesting Engineering