Uma vulnerabilidade surpreendente foi descoberta no Modo Automático do Claude Code Opus 5, que pode ser sequestrado com uma taxa de sucesso de ataque significativa. Essa descoberta contradiz uma avaliação recente de terceiros que relatou uma taxa de sucesso de ataque de injeção de prompt de 0,00% para o mesmo modelo.

A cadeia de ataques, demonstrada em uma postagem recente, explora o classificador de segurança do modelo, permitindo a execução de código e atividade maliciosa. A vulnerabilidade surge quando o Claude Code Opus 5 é usado para processar conteúdo de um site malicioso, que engana o modelo para usar o comando curl para baixar um arquivo ZIP.

Assim que o arquivo é baixado, o Claude Code Opus 5 extrai seu conteúdo e tenta decodificar os registros JSON incluídos. No entanto, o modelo se recusa a executar o decodificador binário fornecido, optando por escrever seu próprio decodificador Python. Infelizmente, esse decodificador importa o módulo base64, que é então usado para executar código Python arbitrário devido a um arquivo struct.py malicioso no arquivo.

Essa vulnerabilidade permite que um atacante execute código malicioso, estabeleça um callback de C2 controlado e até crie novos processos. A taxa de sucesso de ataque foi encontrada ser tão alta quanto 80% em algumas variantes, destacando a necessidade de cautela ao usar o Modo Automático.

A Anthropic, desenvolvedora do Claude Code Opus 5, afirmou que o Modo Automático é um recurso de conveniência e não uma garantia de segurança. A empresa enfatiza a importância de usar isolamento de SO e controle de saída de rede para prevenir tais ataques.

A descoberta dessa vulnerabilidade serve como um lembrete de que os invariantes de segurança não são opcionais, e os usuários devem exercer cautela ao usar modelos de IA, especialmente quando lidam com conteúdo não confiável. Isso também destaca a necessidade de pesquisas e testes contínuos para identificar e abordar potenciais vulnerabilidades em sistemas de IA.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.