Seis meses después de que Nvidia cerró un acuerdo de $20 mil millones que pagó a los inversionistas de Groq, contrató a varios ingenieros senior y licenció la tecnología de chips de la empresa, Groq anunció una ronda de financiamiento de $650 millones. El capital proviene de los mismos inversionistas que recibieron el pago en diciembre, con Disruptive y Infinitium comprometiéndose a respaldar la ronda si otros socios limitados declinan sus participaciones proporcionales. En efecto, la ronda está garantizada.

El director ejecutivo interino Adam Winter y el director financiero Matt Eng están dirigiendo la empresa a través de lo que queda de su negocio: un servicio de nube de inferencia construido en el hardware de Unidad de Procesamiento de Lenguaje (LPU) de Groq. El servicio permite a los desarrolladores y empresas ejecutar cargas de trabajo intensivas en inferencia, como consultas de ChatGPT, respuestas de Claude o acciones de agentes impulsadas por IA, en silicio dedicado que promete costos de token más bajos y mayor velocidad que las GPU de propósito general.

La arquitectura LPU de Groq fue diseñada específicamente para la inferencia a nivel de token. La empresa ya ha enviado chips a varios proveedores de modelos y clientes de nube, y las pruebas de benchmarking independientes muestran consistentemente tasas de token por segundo que superan las ofertas basadas en GPU de Nvidia a puntos de precio comparables. Esa ventaja de rendimiento es el núcleo de la propuesta de valor de Groq mientras busca escalar su plataforma de nube.

El mercado de hardware de inferencia se está calentando. Cerebras salió a la bolsa con una valoración de $95 mil millones con una presentación centrada en la inferencia, Fractile recaudó $220 millones en Londres para chips que integran cálculo y memoria en un solo die, y Google está desplegando millones de TPUs Ironwood construidos para cargas de trabajo de inferencia. Al mismo tiempo, los proveedores de modelos están reduciendo los precios de sus API, DeepSeek redujo sus precios de V4 Pro en un 75 por ciento, lo que presiona a los proveedores de nube para mantener los costos de token bajos.

Nvidia no se está quedando atrás. Sus arquitecturas Blackwell y Vera Rubin en desarrollo buscan reducir la brecha de rendimiento que una vez dio a empresas como Groq una base. La recaudación de $650 millones es una apuesta a que el silicio de inferencia de propósito sigue teniendo una ventaja duradera, incluso mientras Nvidia impulsa sus propias capacidades hacia adelante.

Si Groq puede reconstruir su liderazgo de ingeniería, expandir su huella de nube y preservar una ventaja de costo contra tanto las actualizaciones de hardware de Nvidia como los precios agresivos de los proveedores de modelos, queda por verse. Los inversionistas que recibieron el pago a una valoración de $20 mil millones ahora están siendo solicitados para duplicar su apuesta en una versión más delgada de la empresa. Dos de ellos ya han comprometido a garantizar la ronda, lo que indica una convicción fuerte en la tecnología o un sentido de obligación de ver el trato a través.

Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.