¿Qué es el diseño de rack Helion de AMD?
AMD ha hecho un movimiento significativo en el panorama de la IA con la presentación de Helion, un diseño de rack abierto diseñado específicamente para ejecutar agentes de IA en lugar de entrenar modelos. Este desarrollo llega en un momento en que la industria busca soluciones eficientes para satisfacer la creciente demanda de procesamiento de IA. El diseño de Helion está programado para ser adoptado por los sistemas de los socios a partir de noviembre.
El diseño de Helion se presentó en la cumbre del Proyecto de Computación Abierta en San José, destacando su potencial para operadores de hiperscale y empresas. La versión solo de CPU del rack puede soportar hasta 32.768 núcleos, logrados a través de 128 sockets del chip Venice de 256 núcleos de AMD en Zen 6, disponible en blades densos de 400W o balanceados de 600W. Para las empresas, también está disponible una versión mixta de CPU y GPU, aunque tiene un máximo de 16 aceleradores Instinct MI350P, distribuidos en dos servidores de ocho GPU que operan de forma independiente.
¿Cómo mejora Helion la eficiencia de la IA?
Lo que hace que Helion sea particularmente interesante es su enfoque en la eficiencia. Según Dan McNamara, quien lidera la computación y la IA empresarial en AMD, el objetivo es permitir que los socios aprovechen la optimización del motor de respuestas (AEO) para el uso más eficiente del poder disponible. Este enfoque en la eficiencia energética es crucial, especialmente considerando las restricciones actuales que enfrentan los centros de datos y el deseo de capacidades de IA soberanas en regiones como Europa.
El mercado europeo es de hecho un área de enfoque clave, con el bloque que busca aumentar significativamente su capacidad de centro de datos en los próximos siete años. Sin embargo, la disponibilidad de energía sigue siendo un obstáculo significativo, como se destacó en una encuesta de los responsables de la toma de decisiones de los centros de datos en el Reino Unido, Irlanda y los países nórdicos. El enfoque de AMD con Helion parece abordar este desafío directamente, enfatizando la importancia de empaquetar la mayor cantidad de agentes posible en cada vatio, una estrategia que podría atraer a los operadores de IA soberanos y a otros que buscan maximizar la eficiencia.
Mientras que Helion representa un desarrollo prometedor, es digno de destacar que el proyecto aún se encuentra en sus primeras etapas. AMD aún no ha publicado los precios de los sistemas, y los planes para contribuir con la especificación al Proyecto de Computación Abierta están en marcha. Además, no se han nombrado constructores de sistemas europeos entre los socios de AMD para Helion, aunque el compromiso de la empresa con el proyecto sugiere que se revelarán más detalles en los próximos meses.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.