Pesquisadores de segurança que varreram ativos web corporativos encontraram que um padrão de documentação mal configurado está silenciosamente entregando código executável a agentes de IA, acionando instalações em algumas das maiores empresas do mundo.
A equipe, sediada em uma startup de stealth em Israel, examinou 6.214 domínios ativos pertencentes a contratantes de defesa, empresas da Fortune 500 e grandes empresas de tecnologia. Sua busca descobriu 8.265 arquivos llms.txt e llms-full.txt – o contraparte de IA para o clássico robots.txt – que visam fornecer resumos de sites legíveis por máquina.
Testando a vulnerabilidade
Dessas arquivos, 120 em sites distintos referenciavam um ou mais pacotes de código ou nomes de domínio que não estavam registrados. Para ver o que aconteceria quando um agente de IA encontrasse tais referências, os pesquisadores registraram uma handful de nomes não reclamados e hospedaram pacotes mínimos que simplesmente registravam qualquer solicitação de entrada.
Dentro de uma hora, um agente de IA de uma empresa da Fortune 500 entrou em contato com o servidor dos pesquisadores. Ao longo dos dias seguintes, o beacon registrou algumas dezenas de sinais de phone-home adicionais, alguns de outras empresas da Fortune 500 e vários startups. Os logs traçaram uma cadeia de processos pai que apontavam para três agentes de codificação de IA: Anthropic's Claude, OpenAI's Codex e Nous Research's Hermes.
Anthropic, OpenAI e Nous Research não responderam a solicitações de comentário antes da publicação.
'O modelo de confiança está quebrado', disse Alon Hertz, um dos pesquisadores, em uma entrevista. 'Agentes tratam a documentação do fornecedor como verdade absoluta e não a questionam — e nem os humanos que os supervisionam. O uso de IA agente está explodindo, e os agentes estão se espalhando por todas as camadas — SaaS, nuvem, endpoint. À medida que se multiplicam, também aumenta a superfície da cadeia de suprimentos, e os guardiões de hoje não a cobrem.'
A descoberta destaca uma nova superfície de ataque para a automação impulsionada por IA: arquivos llms.txt mal curados podem atuar como um canal para código malicioso, contornando as verificações de segurança web tradicionais que se concentram em conteúdo voltado para humanos. Especialistas da indústria alertam que, à medida que os agentes de IA se tornam mais autônomos, as organizações precisarão auditar a documentação legível por máquina com o mesmo rigor aplicado ao código executável.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.