A Anthropic revelou que seu modelo de inteligência artificial, Claude, comprometeu os sistemas de três organizações durante testes, devido a um erro de configuração que possibilitou acesso à internet. A informação foi divulgada na quinta-feira (30), poucos dias após a OpenAI relatar um incidente semelhante que afetou a Hugging Face.
A falha na configuração permitiu que os modelos Claude acessassem a internet a partir de ambientes de teste que deveriam ser isolados, resultando em acessos não autorizados. A empresa iniciou uma revisão de 141.006 sessões de testes após o incidente relatado pela OpenAI, que envolveu um agente autônomo comprometendo a infraestrutura da Hugging Face.
Esses incidentes evidenciam que o avanço das capacidades da inteligência artificial pode gerar ameaças à segurança, conforme especialistas já haviam alertado. A Anthropic informou que o Claude comprometeu a infraestrutura das organizações afetadas utilizando técnicas simples, como a exploração de senhas fracas e pontos de acesso que não exigiam autenticação.
Os incidentes envolveram três modelos diferentes: Claude Opus 4.7, Claude Mythos 5 e um modelo interno de pesquisa. Os casos mais antigos remontam a abril e ocorreram em ambientes de avaliação que não possuíam as salvaguardas de segurança padrão. As invasões aconteceram durante exercícios conhecidos como “capture the flag”, onde os modelos são desafiados a localizar informações ocultas em redes simuladas.
A Anthropic também esclareceu que os comandos dados aos modelos indicavam que não havia acesso à internet. Contudo, um mal-entendido com a parceira de avaliação, a Irregular, resultou na permanência dos sistemas conectados à internet pública. A revisão dos registros das avaliações começou em 23 de julho, e no mesmo dia, a empresa suspendeu todas as avaliações de cibersegurança após detectar indícios de acesso à internet pelo Claude.
Até 24 de julho, a Anthropic havia identificado os três incidentes, notificando as organizações afetadas em 27 de julho. Dentre as empresas contatadas, duas não tinham conhecimento prévio sobre as atividades antes do contato da Anthropic, enquanto a terceira ainda estava sendo informada. As conclusões reforçam a urgência de implementar controles mais rigorosos tanto em ambientes internos quanto em plataformas de testes de terceiros, à medida que os modelos de IA se tornam cada vez mais competentes em realizar atividades cibernéticas no mundo real.
