Os grandes modelos de linguagem não são mais apenas uma curiosidade para desenvolvedores; eles se tornaram um multiplicador de forças para cibercriminosos. Com alguns toques no teclado, um ator de ameaça pode produzir um email de phishing perfeitamente redigido, coletar listas de alvos e lançar uma campanha que teria levado semanas no passado. O resultado é um salto dramático nas taxas de sucesso: testes de phishing simulados relatam taxas de cliques saltando de cerca de 12 por cento para mais de 50 por cento quando a IA está envolvida.
Além dos emails, a IA está redefinindo outros vetores de ataque. Ferramentas de clonagem de voz geram áudio convincente que pode enganar vítimas para autorizar transferências, enquanto vídeos de deep-fake ampliam golpes de engenharia social. Pesquisadores observaram um aumento de 442 por cento ano a ano em ataques de voz gerados por IA e um aumento de 680 por cento em tentativas de deep-fake entre 2023 e 2024. Os mesmos modelos que ajudam os defensores a scanner o código para bugs são também usados para descobrir vulnerabilidades zero-day, expostas falhas que foram enviadas com o software antes que qualquer pessoa soubesse que elas existiam.
Um dos desenvolvimentos mais inquietantes é o surgimento de ataques de injeção de prompts. Ao embutir instruções ocultas em páginas da web ou documentos, os atacantes podem enganar um assistente de IA para realizar ações maliciosas, como enviar dados de folha de pagamento confidenciais para um endereço de email escolhido pelo atacante. Empresas que adicionaram botões "resumir com IA" a sites internos inadvertidamente deram aos bots uma porta de entrada, permitindo que eles manipulassem recomendações ou elevassem o status de confiança sem supervisão humana.
O experimento da Meta com um bot de suporte do Instagram impulsionado por IA destacou como um assistente excessivamente útil pode se tornar uma arma. O bot aceitou qualquer endereço de email fornecido por um usuário e o vinculou a uma conta do Instagram, efetivamente contornando a autenticação de múltiplos fatores para contas sem essa camada adicional de proteção. A OpenAI advertiu que defender totalmente contra a injeção de prompts pode ser impossível, instando as organizações a manter sistemas sensíveis longe de interfaces de IA não verificadas.
Os defensores não estão parados. Empresas de segurança estão implantando suas próprias ferramentas de IA para automatizar simulações de equipe vermelha, analisar feeds de ameaças e remediar incidentes mais rápido do que analistas humanos poderiam. A Microsoft recentemente lançou o Projeto Percepção, um trio de agentes de IA — vermelho, azul e verde — que imitam equipes de segurança tradicionais, sondando pontos fracos, investigando alertas e aplicando correções. No entanto, a assimetria fundamental permanece: os atacantes precisam apenas encontrar uma falha explorável, enquanto os defensores devem proteger todos os pontos de entrada possíveis.
Pesquisas da indústria revelam que fraude, deep-fakes e injeção de prompts classificam-se como principais preocupações para equipes de segurança, com ambientes de nuvem e dispositivos de trabalhadores remotos citados como as superfícies mais difíceis de proteger. Pesquisadores alertam que o código gerado por IA, embora acelere o desenvolvimento, frequentemente contém mais vulnerabilidades de alto risco do que o código escrito à mão, mesmo após revisão humana. À medida que os agentes de IA ganham acesso de nível de administrador a emails, calendários e até contas de investimento, o risco de um bot comprometido escalonar para uma violação ampla cresce acentuadamente.
As apostas são altas, mas a narrativa ainda não é desesperadora. As empresas estão investindo em defesas centradas em IA, e estudos acadêmicos sugerem que alguns centenas de documentos maliciosos podem envenenar um modelo, provocando esforços de detecção precoce. Por enquanto, a comunidade de segurança cibernética está em uma corrida: os atacantes empunham a IA como uma arma barata e escalável, enquanto os defensores devem adaptar continuamente suas ferramentas, políticas e treinamento para manter o ritmo.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.