El asesor científico de la Casa Blanca, Michael Kratsios, anunció que Moonshot, la empresa china detrás del modelo de lenguaje grande Kimi K3, construyó su sistema copiando el modelo Fable de Anthropic, recientemente lanzado, y empleando chips Nvidia Grace Blackwell 300 que no están autorizados para exportar a China. Kratsios calificó la supuesta "destilación industrial a gran escala y encubierta" como una violación de la seguridad de la investigación estadounidense y dijo que socava la innovación estadounidense.

Kratsios no reveló la evidencia detrás de su afirmación, y Moonshot se negó a comentar sobre sus métodos de entrenamiento. El secretario del Tesoro, Scott Bessent, agregó que la administración detecta "marcas de agua de nuestros modelos de lenguaje grande estadounidenses en muchos de los modelos chinos", aunque no ofreció detalles sobre lo que contienen esas marcas de agua.

Expertos dudan que la destilación rápida explique el rendimiento del Kimi K3

Investigadores familiarizados con el desarrollo de modelos de inteligencia artificial cuestionaron la idea de que Moonshot podría haber duplicado las capacidades del Fable en semanas. Braden Hancock, investigador del Instituto Laude y cofundador de Snorkel AI, dijo que el cronograma hace que sea imposible: "El Fable solo ha estado disponible públicamente desde el 1 de julio. No puedes destilar tanto datos, entrenar un modelo y lanzarlo en dos semanas".

De manera similar, Nathan Lambert del Instituto Allen para la Inteligencia Artificial argumentó que, a medida que los modelos se acercan a la frontera, la fine-tuning supervisada simple, a menudo llamada destilación, tiene rendimientos decrecientes. Lambert señaló que lograr un rendimiento al nivel del Fable probablemente requeriría aprendizaje de refuerzo con retroalimentación humana, un proceso que demanda "decenas de millones de agentes" y recursos de cómputo masivos, lo que lo hace "insanamente costoso y potencialmente un cuello de botella".

Los expertos explicaron que la destilación implica consultar sistemáticamente un modelo objetivo para generar datos de entrenamiento para un nuevo modelo, sometimes extrayendo razonamiento de cadena de pensamiento. Si bien la técnica puede producir mejoras, no reemplaza la necesidad de aprendizaje de refuerzo a gran escala y hardware especializado.

Preocupaciones más amplias sobre el robo de propiedad intelectual y el contrabando de chips

Anthropic previamente acusó a Moonshot, DeepSeek y MiniMax de extraer sistemáticamente sus modelos, citando "millones de intercambios" rastreados a esas empresas a través de direcciones IP y metadatos. Anthropic no respondió a consultas de seguimiento sobre la supuesta destilación del Fable.

Elon Musk testificó earlier este año que su equipo SpaceXAI destiló modelos de OpenAI para desarrollar su sistema Grok, lo que subraya que la práctica no es exclusiva de las empresas chinas. Hancock enfatizó que los fundadores de Moonshot incluyen a un graduado de PhD de Carnegie Mellon, lo que sugiere un alto nivel de expertise técnica.

Kratsios también afirmó que Moonshot accedió a procesadores Nvidia Grace Blackwell 300 y servidores equipados con GB300 ubicados en Tailandia, hardware que las regulaciones de exportación estadounidenses prohíben enviar a China. Sam Bresnick, investigador de Georgetown’s Center for Security and Emerging Technology, dijo que existe un mercado negro para esos chips y se refirió a una reciente acusación del fundador de Supermicro por contrabandear chips avanzados a China.

El Departamento de Comercio del presidente Joe Biden propuso reglas de "conozca a su cliente" para centros de datos en 2024, con el objetivo de rastrear quién utiliza hardware de alta gama en el extranjero. La propuesta se estancó bajo la administración anterior, y la aplicación de la ley sigue siendo desigual.

La controversia destaca una brecha cada vez más amplia entre Estados Unidos y China sobre el desarrollo de la inteligencia artificial, la protección de la propiedad intelectual y la aplicación de controles de exportación sobre equipos de cómputo de vanguardia.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.