¿Qué chips Trainium admite TorchNeuron?
Amazon lanzó TorchNeuron, una herramienta que permite a los desarrolladores ejecutar su código PyTorch existente en sus chips de IA Trainium sin reescribirlo, informó la compañía el lunes. El software entrará en beta pública el 20 de octubre en la Conferencia PyTorch en San José. Será de código abierto bajo la licencia Apache 2.0 y admitirá los chips Trainium2 y Trainium3.
¿TorchNeuron requiere reescribir el código de PyTorch?
Trasladar código de IA a un nuevo chip ha sido durante mucho tiempo un trabajo lento y costoso. Hasta ahora, a menudo significaba meses de reescritura y pruebas. Con TorchNeuron, los desarrolladores apuntan su código a Trainium cambiando una sola configuración de dispositivo, según Amazon.
En una demostración, Amazon ejecutó el mismo script de entrenamiento en un chip estándar y en Trainium. La compañía dijo que el modelo aprendió a la misma velocidad en ambos. TorchNeuron se integra con el sistema incorporado de PyTorch para agregar nuevo hardware, por lo que las herramientas estándar de pruebas y escalamiento siguen funcionando.
¿Qué funciones de PyTorch aún no admite TorchNeuron?
Sin embargo, la primera versión tiene vacíos. Todavía no admite algunas funciones de PyTorch, como las formas de entrada dinámicas. Unas 22.000 pruebas de PyTorch se omiten, según una entrada de blog de PyTorch escrita por ingenieros de Amazon.
Entre los primeros usuarios están las startups de IA de voz Cartesia y Deepgram, junto con el Instituto Lieber para el Desarrollo del Cerebro, que usa la herramienta en investigación de medicamentos. Hugging Face también añadió soporte para Trainium a sus herramientas de IA. Uber firmó recientemente para usar los chips como parte de un acuerdo de expansión de AWS.
La ofensiva de Amazon contra Nvidia
El lanzamiento hace parte del esfuerzo de Amazon por competir con Nvidia, cuyos chips y software CUDA dominan la computación de IA. En abril, el director ejecutivo Andy Jassy dijo que el negocio de chips personalizados de Amazon podría valer 50.000 millones de dólares. Amazon afirma ahora que el negocio superó una tasa de ingresos anuales de 25.000 millones de dólares.
Uno de los socios de lanzamiento de TorchNeuron es Decart, una startup de software para chips de IA que, según se informó, Amazon estaba en conversaciones para comprar.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.