Pesquisadores expõem vazamento de raciocínio oculto em modelos de IA líderes, levantam preocupações sobre destilação

Key Points

Pesquisadores extraíram traços de raciocínio oculto de Claude, GPT e Gemini usando uma variante de modelo mais fraca.
O método também pode revelar senhas e chaves de API, levando OpenAI, Anthropic e Google a emitir soluções.
O modelo de peso aberto chinês Kimi K3 produziu raciocínio próximo ao de Claude e GPT quando alimentado com traços extraídos.
DeepSeek e Inkling não mostraram alinhamento de raciocínio semelhante, sugerindo variabilidade entre os modelos abertos.
As descobertas reacendem o debate sobre a destilação de IA, especialmente as acusações de que as empresas chinesas copiam modelos dos EUA.
Anthropic, OpenAI e Google responderam com soluções de curto prazo; Google e OpenAI se recusaram a comentar.
Especialistas em segurança alertam que uma reformulação fundamental dos designs de API pode ser necessária para eliminar a vulnerabilidade.

Os cientistas da computação da Universidade de Tübingen, do Instituto Max Planck, da MATS Research e da empresa de segurança Snyk demonstraram um método para extrair traços de "raciocínio oculto" de modelos de IA de ponta, como Claude, GPT e Gemini.

A técnica, que também pode revelar senhas e chaves de API, levou OpenAI, Anthropic e Google a emitir soluções para seus APIs. O estudo encontrou que o modelo de peso aberto chinês Kimi K3 reflete o raciocínio extraído de Claude e GPT, alimentando o debate sobre se as empresas chinesas estão destilando modelos dos EUA para aumentar suas próprias capacidades.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.

Também disponível em:

English USResearchers expose hidden reasoning leak in leading AI models, raise distillation concerns Español COInvestigadores exponen fuga de razonamiento oculto en modelos de IA líderes, plantean preocupaciones sobre destilación