OpenAI reveló su primer silicio personalizado el miércoles, presentando un nuevo procesador de inferencia llamado Jalapeño. El chip surgió de una colaboración con Broadcom, que se encargó del diseño y la fabricación. A diferencia de las GPU de propósito general, Jalapeño está diseñado específicamente para las cargas de trabajo que impulsan los servicios de OpenAI, como asistentes de codificación en tiempo real y agentes conversacionales.
Según la empresa, las pruebas iniciales muestran que el procesador ofrece un rendimiento significativamente mayor por vatio que las alternativas actuales de última generación. Este aumento de eficiencia podría traducirse en un ahorro de costos operativos para las ofertas de inteligencia artificial en la nube de OpenAI, especialmente aquellas que dependen en gran medida de la inferencia en lugar de la fase de entrenamiento más intensiva en términos de cómputo.
El presidente de OpenAI, Greg Brockman, explicó la razón en el podcast interno de la empresa. Dijo que el equipo utilizó sus propios modelos para informar la arquitectura del chip, apuntando a las cargas de trabajo que el hardware existente "no atiende". Al diseñar el silicio en casa, OpenAI espera cerrar la brecha entre el software y el hardware, asegurando que cada capa de la pila trabaje hacia el mismo objetivo: inteligencia artificial más rápida, más confiable y más asequible.
La asociación con Broadcom se anunció por primera vez en octubre, pero los detalles del chip permanecieron en secreto hasta la presentación del miércoles. Los observadores de la industria han especulado durante mucho tiempo que OpenAI buscaría una solución personalizada para reducir su dependencia de las GPU de Nvidia, una estrategia ya seguida por rivales como Google y Amazon, que han construido sus propios aceleradores de inteligencia artificial.
El enfoque de Jalapeño se centra directamente en la inferencia: ejecutar modelos preentrenados en respuesta a consultas de los usuarios. OpenAI destacó la baja potencia del chip al manejar modelos de codificación en tiempo real, sugiriendo que incluso los ahorros modestos podrían tener un impacto significativo en la línea de fondo de la empresa. La preentrenación, que sigue siendo computacionalmente exigente, probablemente seguirá dependiendo del hardware de Nvidia en el futuro previsible.
Más allá del chip en sí, OpenAI enfatizó que el movimiento refleja una ambición más amplia de poseer la infraestructura que subyace a sus productos. La declaración de la empresa señaló que está "diseñando la infraestructura subyacente" de sus modelos, desde la arquitectura del chip y los sistemas de memoria hasta la red y la programación. Al controlar estos componentes, OpenAI busca optimizar cada paso de la canalización de inteligencia artificial.
Los analistas de la industria ven el desarrollo como un momento crucial en la economía de la inteligencia artificial. A medida que los servicios de inteligencia artificial se escalan, el costo de la inferencia se convierte en un factor importante en la rentabilidad. Un procesador más eficiente podría reducir el precio de las API de inteligencia artificial en la nube, lo que podría hacer que las capacidades avanzadas sean más accesibles para los desarrolladores y las empresas.
OpenAI ya ha integrado sus modelos en una suite de productos agénticos, incluido Codex, que impulsa las herramientas de generación de código, y otras interfaces conversacionales. La adición de Jalapeño puede permitir que la empresa ejecute estos servicios de manera más barata y a mayor velocidad, fortaleciendo su posición competitiva contra otros proveedores de inteligencia artificial.
Aunque Jalapeño sigue en la fase de prueba, OpenAI planea implementarlo en todos sus centros de datos una vez que se finalicen las pruebas de rendimiento. La hoja de ruta de la empresa sugiere un cambio gradual lejos de las GPU de terceros hacia una pila de hardware más integrada verticalmente, siguiendo tendencias en el sector tecnológico más amplio.
La participación de Broadcom marca una expansión significativa de su papel en el mercado de hardware de inteligencia artificial. Al asociarse con una empresa de inteligencia artificial de alto perfil, el fabricante de semiconductores se posiciona como un proveedor clave para las cargas de trabajo de inferencia de próxima generación, lo que podría abrir nuevas corrientes de ingresos más allá de sus productos tradicionales de redes y almacenamiento.
En general, el lanzamiento señala el compromiso de OpenAI de dar forma a toda la pila de inteligencia artificial, desde la investigación de modelos hasta el silicio que los ejecuta. Si Jalapeño cumple con su promesa, podría redefinir las estructuras de costos para los servicios de inteligencia artificial y establecer un nuevo estándar para los aceleradores de inteligencia artificial personalizados.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.