Al ser preguntado por los cuellos de botella en la cadena de suministro, incluida la actual escasez de RAM, el CEO de OpenAI, Sam Altman, dijo que es “terrible” tener memoria almacenada en computadores personales cuando podría estar en centros de datos. Hizo estas declaraciones durante una aparición en el podcast Cheeky Pint, donde también habló del impacto de la IA en las matemáticas.
¿Ejecutar la IA localmente aliviará la escasez de RAM?
Altman rechazó la idea de que la IA local vaya a aliviar la presión. Según dijo, muchas personas quieren ejecutar la IA en sus propias máquinas, y muchas suponen que los modelos de código abierto les permitirán hacerlo y volverán innecesarios los grandes centros de datos. Él no lo ve así.
¿Por qué Sam Altman cree que la RAM debe estar en los centros de datos?
“Desde una perspectiva de asignación global, en realidad es bastante terrible que todos tengan en su propio computador una buena parte de la limitada oferta mundial de DRAM, que solo se usa el cinco por ciento del tiempo”, afirmó.
“Si intentas lidiar con este entorno de oferta tan restringida, quieres la máxima utilización en la nube”, agregó Altman. “Y de alguna manera, la intuición de muchas personas es justo la contraria”.
No está claro si Altman pensaba en computadores para videojuegos o en equipos de desarrolladores como el Surface RTX Spark Dev Box o la nueva MacBook Pro con pantalla táctil. El resultado práctico, según el informe, es el mismo en cualquier caso. Cada chip inactivo en un hogar u oficina es memoria que no puede servir a la nube.
El panorama de la oferta ya está ajustado. Los fabricantes de memoria Samsung y SK Hynix tienen acuerdos a largo plazo con operadores de servicios en la nube. Proyectos como Stargate de OpenAI han reservado gran parte de la producción mundial de RAM durante los próximos años.
¿Por qué los portátiles y los teléfonos son cada vez más caros?
Esa demanda se refleja en lo que pagan los consumidores. Los miles de millones que los fabricantes de memoria están dispuestos a invertir en chips son una razón importante por la que los portátiles, los teléfonos y otros productos tecnológicos se están encareciendo en este momento.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.