La mayoría de los portátiles nuevos traen una NPU, pero pocas aplicaciones la usan todavía

La mayoría de los portátiles nuevos ya incluyen una unidad de procesamiento neuronal (NPU), un chip diseñado para ejecutar cargas de trabajo de IA con un consumo de energía mucho menor que una CPU o una GPU. La certificación Copilot+ PC de Microsoft impulsó gran parte de esa adopción, pero pocas aplicaciones usan las NPU todavía, y Engadget descubrió que la NPU permanecía inactiva en el portátil de prueba de un reportero.

¿Qué hace una NPU en un portátil?

¿Compró un portátil nuevo recientemente? Es muy probable que tenga una unidad de procesamiento neuronal, o NPU, y es muy probable que usted no la esté utilizando. El chip es un bloque de silicio diseñado para ejecutar cargas de trabajo de IA con una fracción de la energía que necesita una CPU o una GPU. Engadget calcula que la diferencia es de unos 2 vatios para una NPU, frente a más de 100 vatios para la tarjeta gráfica dedicada de un portátil estándar que realiza la misma tarea. Las NPU aún no están en todos los equipos, pero ya son estándar en la mayoría de los portátiles de gama media y premium.

La firma consultora Gartner estima que los PC con capacidad de IA, incluidos los portátiles con NPU, representan más de la mitad del total de envíos globales. Los compradores no necesariamente las piden. El impulso proviene de los requisitos de certificación. En 2024, Microsoft fijó un umbral que los fabricantes de portátiles debían alcanzar para calificar a ciertas nuevas funciones de IA de Windows: 40 TOPS, una medida de qué tan rápido puede un chip procesar operaciones matemáticas de IA, de rendimiento dedicado de la NPU. El hardware avanza hoy con rapidez para cumplir esa meta, mientras que el software que lo utiliza va rezagado.

Lo que realmente hace una NPU

Una NPU está diseñada para acelerar la inferencia, la etapa en la que un modelo entrenado se ejecuta y produce resultados. Eso es distinto del entrenamiento, el proceso más pesado de construir el modelo desde cero, que normalmente depende de GPU. Las redes neuronales dependen en gran medida de dos tipos de cálculo: la multiplicación de matrices y las funciones de activación no lineales. Las NPU están diseñadas para ejecutar esas operaciones de forma rápida y eficiente. El precio que se paga es parte de la flexibilidad de propósito general que ofrecen las CPU y las GPU.

El desenfoque de fondo durante una videollamada es un buen ejemplo. La mayoría de las personas lo ha usado, y puede ejecutarse en una CPU o en una GPU. Ambas consumen mucha energía, lo que genera calor y agota rápidamente la batería de un portátil delgado. Una NPU puede realizar el mismo trabajo con una pequeña fracción de la energía, así que efectos como ese pueden funcionar de forma continua sin desgastar la batería ni hacer que los ventiladores se aceleren.

Las NPU no sirven para todo. No son útiles para entrenar modelos de IA. Ejecutar un modelo de lenguaje grande de forma local, como Llama 70B, sigue requiriendo una GPU dedicada con abundante memoria de video. Servicios como ChatGPT y Gemini tampoco necesitan una NPU, ya que funcionan en la infraestructura del proveedor. Por ahora, el papel principal de la NPU es manejar un conjunto reducido de tareas permanentes de bajo consumo, como los efectos de cámara web, la supresión de ruido, la traducción en tiempo real y la indexación de búsquedas locales.

Qué portátiles las tienen y cómo se miden

¿Por qué los portátiles nuevos incluyen NPU?

La certificación Copilot+ PC de Microsoft es la razón principal por la que tantos portátiles ahora incluyen NPU. Para obtener la etiqueta y desbloquear ciertas funciones de IA de Windows en el dispositivo, un portátil necesita una NPU de 40 TOPS, 16 GB de RAM y 256 GB de almacenamiento. La cifra de 40 TOPS debe provenir de la propia NPU. El rendimiento de una GPU no cuenta. Un portátil de gama media con una Nvidia RTX 4050 ofrece más de 190 TOPS gracias a sus núcleos tensoriales, pero Microsoft no lo contabiliza para el requisito.

La Snapdragon X Elite y la Snapdragon X Plus de Qualcomm fueron de las primeras en llegar al mercado con una NPU Hexagon de 45 TOPS. El Lunar Lake de Intel llegó después con hasta 48 TOPS, y el Ryzen AI 300 de AMD alcanzó 50 TOPS. Los nuevos procesadores Panther Lake de Intel, comercializados como Core Ultra Series 3, incorporan una NPU de 50 TOPS y se fabrican con el proceso 18A de Intel. Qualcomm ha elevado la cifra hasta 85 TOPS con su Snapdragon X2 Elite, más del doble del mínimo de Microsoft. Cada generación ha aumentado el número, aunque el software capaz de aprovechar esa capacidad sigue siendo escaso.

¿Ya usan las aplicaciones las NPU de los portátiles?

Los usuarios pueden comprobar si la NPU de su portátil está haciendo algo. En Windows 11, la tasa de utilización aparece en el Administrador de tareas. En un ASUS Zenbook Duo de 2024 con 32 GB de RAM, de un reportero de Engadget, la lectura se mantuvo en cero. Engadget espera que la mayoría de los usuarios ocasionales vean lo mismo. La lista de aplicaciones que dependen con regularidad de la NPU es corta: Windows Studio Effects, Subtítulos en vivo, Recall y Click to Do, la supresión de ruido en Teams y Zoom, y un puñado de funciones de Adobe Creative Cloud.

Ejecutar un modelo local en la NPU

Para probar cuánta NPU consumiría un modelo de IA local, Engadget descargó Mistral 7B, un modelo de código abierto que describió como bastante capaz y eficiente. El reportero lo ejecutó con el kit de herramientas OpenVINO de Intel en un portátil con 34 TOPS de plataforma sumando la CPU, la GPU y la NPU. Solo 11 de esos TOPS corresponden a la NPU. El modelo llevó la NPU al 98 por ciento de utilización, mientras que la CPU se mantuvo en 3 por ciento. La generación de texto funcionó y el portátil siguió respondiendo, aunque 11 TOPS dejan poco margen para un modelo de ese tamaño.

El mismo modelo ejecutado con Ollama, que usa la CPU en lugar de la NPU, elevó la utilización de la CPU al 52 por ciento y mantuvo el uso de memoria en unos 17 GB de los 32 GB del equipo. Engadget señaló que esa carga más pesada de la CPU habría dejado lento el portátil si se estuvieran ejecutando otras tareas exigentes. Ese contraste es el atractivo de una NPU: maneja una carga de trabajo de IA sin afectar al resto del sistema. La dificultad es que llegar a ese punto requirió un kit de herramientas específico y conocimientos técnicos. Muy pocos programas son compatibles con las NPU de forma nativa, y esa brecha es la principal razón por la que los chips permanecen inactivos en la mayoría de los equipos.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.