Anthropic lançou a Previsão do Mito em abril, posicionando o modelo como um vislumbre da próxima onda de IA que pode gerar código, descobrir vulnerabilidades e criar exploits com um nível de criatividade anteriormente não visto em sistemas de aprendizado de máquina. "Precisamos nos preparar agora para um mundo onde essas capacidades estarão amplamente disponíveis em 6, 12, 24 meses", disse Logan Graham, líder da equipe de teste de fronteira da Anthropic, durante o lançamento do modelo.

O anúncio enviou ondas de choque pela comunidade de segurança cibernética. Tarah Wheeler, diretora de segurança da consultora TPO Group, alertou que a Anthropic não está sozinha na corrida. "É míope ao extremo pensar que não haverá outros concorrentes da Anthropic que desenvolverão capacidades semelhantes às do Mito ou que já não o fizeram", disse ela à WIRED. Ela acrescentou que outras empresas provavelmente estão mantendo tecnologias comparáveis em reserva, observando como os reguladores respondem.

OpenAI, um rival direto, entrou na disputa algumas semanas antes com um lançamento privado de um modelo personalizado para tarefas de segurança cibernética. A empresa também anunciou uma estratégia expandida visando integrar a IA em suas ofertas defensivas. Juntos, os dois lançamentos sinalizam uma tendência mais ampla da indústria: ferramentas de IA que antes assistiam os desenvolvedores agora estão sendo repurposadas para caçar falhas de software e automatizar o desenvolvimento de exploits.

Pesquisadores destacaram que mesmo os modelos menos avançados de hoje podem ser coagidos a realizar caças a vulnerabilidades sofisticadas com técnicas de prompt refinadas. Uma coalizão de líderes em segurança cibernética expressou essa preocupação em uma carta aberta à administração no domingo, chamando a diretiva de controle de exportação da Casa Branca de mal orientada. Eles argumentaram que a política, que busca limitar a disseminação de modelos de IA avançados, poderia inadvertidamente retardar o desenvolvimento de tecnologias defensivas enquanto não impede atores mal-intencionados.

Debate de política se intensifica

Bruce Schneier, um pesquisador afiliado à Universidade de Harvard e à Universidade de Toronto, enquadrou a questão como uma mudança sistêmica e não como um problema de um único modelo. "Modelos menores, mais baratos, de código aberto, às vezes sozinhos e às vezes em conjunto, podem igualar o desempenho do Mito/Fábula com prompts mais sofisticados", observou. Schneier espera que alternativas de código aberto atinjam níveis comparáveis de criatividade e tenacidade dentro de meses, um cronograma que pode comprimir a janela para uma regulação eficaz.

Chris Wysopal, co-fundador da empresa de segurança em nuvem Veracode, ecoou o sentimento de que a política deve se concentrar em resultados, e não em riscos abstratos. "A pergunta política não é se uma tecnologia tem risco", disse. "A pergunta é se uma restrição específica reduz significativamente esse risco ou se ela mainly retarda as pessoas que tentam tornar os sistemas mais seguros".

O diálogo destaca um paradoxo: à medida que a IA acelera as capacidades defensivas, ela simultaneamente abaixa a barreira para os atacantes. Insiders da indústria enfatizam a necessidade de planejamento transparente e democrático que equilibre a inovação com a segurança. Sem ação coordenada, a próxima geração de IA pode empoderar atores de ameaça tão rapidamente quanto equipa os defensores.

Anthropic, OpenAI e outros desenvolvedores de IA ainda não detalharam etapas concretas para mitigar o mau uso, deixando governos e empresas de segurança privadas para preencher a lacuna. Os próximos meses provavelmente verão uma maior vigilância sobre controles de exportação de IA, um compartilhamento mais colaborativo de inteligência de ameaça e, talvez, novos padrões para um deploy responsável de IA no domínio cibernético.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.