O conselheiro científico da Casa Branca, Michael Kratsios, anunciou que a Moonshot, a empresa chinesa por trás do modelo de linguagem grande Kimi K3, construiu seu sistema copiando o modelo Fable recentemente lançado da Anthropic e utilizando chips Nvidia Grace Blackwell 300 que não estão liberados para exportação para a China. Kratsios chamou a suposta "distilação industrial coverta em grande escala" de violação da segurança da pesquisa dos EUA e disse que isso subverteu a inovação americana.
Kratsios não divulgou as evidências por trás de sua afirmação, e a Moonshot se recusou a comentar sobre seus métodos de treinamento. O secretário do Tesouro, Scott Bessent, acrescentou que a administração está detectando "marcas d'água de nossos modelos de linguagem grande dos EUA em muitos dos modelos chineses", embora não tenha oferecido detalhes sobre o que essas marcas d'água contêm.
Especialistas duvidam que a distilação rápida explique o desempenho do Kimi K3
Pesquisadores familiarizados com o desenvolvimento de modelos de IA questionaram a noção de que a Moonshot poderia ter duplicado as capacidades do Fable em semanas. Braden Hancock, pesquisador do Instituto Laude e co-fundador da Snorkel AI, disse que a linha do tempo torna a distilação impossível: "O Fable só está disponível publicamente desde 1º de julho. Você não pode distilar tantos dados, treinar um modelo e lançá-lo em duas semanas".
Da mesma forma, Nathan Lambert, do Instituto Allen para IA, argumentou que, à medida que os modelos se aproximam da fronteira, a fine-tuning supervisionada simples - frequentemente chamada de distilação - tem retornos decrescentes. Lambert observou que alcançar o desempenho do Fable provavelmente exigiria aprendizado por reforço com feedback humano, um processo que exige "dezenas de milhões de agentes" e recursos computacionais maciços, tornando-o "insanamente caro e potencialmente um gargalo de tempo".
Os especialistas explicaram que a distilação envolve a consulta sistemática a um modelo de destino para gerar dados de treinamento para um novo modelo, às vezes extrair raciocínio de cadeia de pensamento. Embora a técnica possa produzir melhorias, ela não substitui a necessidade de aprendizado por reforço em grande escala e hardware especializado.
Preocupações mais amplas sobre roubo de propriedade intelectual e contrabando de chips
A Anthropic anteriormente acusou a Moonshot, a DeepSeek e a MiniMax de extrair sistematicamente seus modelos, citando "milhões de interações" rastreadas até essas empresas por meio de endereços IP e metadados. A Anthropic não respondeu a consultas de follow-up sobre a suposta distilação do Fable.
Elon Musk testemunhou no início deste ano que sua equipe SpaceXAI distilou modelos OpenAI para desenvolver seu sistema Grok, destacando que a prática não é exclusiva de empresas chinesas. Hancock enfatizou que os fundadores da Moonshot incluem um graduado em PhD da Carnegie Mellon, sugerindo um alto nível de expertise técnica.
Kratsios também alegou que a Moonshot acessou processadores Nvidia Grace Blackwell 300 e servidores equipados com GB300 localizados na Tailândia - hardware que as regulamentações de exportação dos EUA proíbem enviar para a China. Sam Bresnick, um fellow de pesquisa do Centro de Segurança e Tecnologia Emergente da Georgetown, disse que existe um mercado negro para esses chips e referenciou uma recente acusação do fundador da Supermicro por contrabandear chips avançados para a China.
O Departamento de Comércio do presidente Joe Biden propôs regras "conheça seu cliente" para centros de dados em 2024, visando rastrear quem usa hardware de ponta no exterior. A proposta foi paralisada sob a administração anterior, e a aplicação permanece irregular.
A controvérsia destaca uma fissura cada vez maior entre os EUA e a China sobre o desenvolvimento de IA, a proteção da propriedade intelectual e a aplicação de controles de exportação em equipamentos de computação de ponta.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.