A maioria dos novos notebooks vem com NPU, mas poucos aplicativos a utilizam ainda

A maioria dos novos notebooks já inclui uma unidade de processamento neural (NPU), um chip projetado para executar cargas de trabalho de IA com consumo de energia muito menor que o de uma CPU ou GPU. A certificação Copilot+ PC da Microsoft impulsionou grande parte dessa adoção, mas poucos aplicativos utilizam NPUs até agora, e o Engadget constatou que a NPU permaneceu ociosa no notebook de teste de um repórter.

O que uma NPU faz em um notebook?

Comprou um notebook novo recentemente? Há uma boa chance de ele ter uma unidade de processamento neural, ou NPU, e uma boa chance de você não estar usando essa função. O chip é um bloco de silício projetado para executar cargas de trabalho de IA com uma fração da energia que uma CPU ou GPU exige. O Engadget estima que a diferença seja de cerca de 2 watts para uma NPU, contra mais de 100 watts para a placa de vídeo dedicada de um notebook padrão realizando a mesma tarefa. As NPUs ainda não estão em todas as máquinas, mas agora são padrão na maioria dos notebooks intermediários e premium.

A empresa de consultoria Gartner estima que os PCs com capacidade de IA, incluindo notebooks com NPU, representem mais da metade do total de remessas globais. Os compradores não estão necessariamente pedindo por eles. O impulso vem dos requisitos de certificação. Em 2024, a Microsoft estabeleceu um patamar que os fabricantes de notebooks precisavam atingir para se qualificar a determinados novos recursos de IA do Windows: 40 TOPS de desempenho dedicado da NPU, sendo TOPS uma medida de quão rapidamente um chip consegue processar cálculos de IA. O hardware agora avança rapidamente para atingir essa meta, enquanto o software que o utiliza está atrasado.

O que uma NPU realmente faz

Uma NPU é construída para acelerar a inferência, etapa em que um modelo treinado é executado e produz resultados. Isso difere do treinamento, processo mais pesado de construir o modelo em primeiro lugar, que normalmente depende de GPUs. As redes neurais dependem fortemente de dois tipos de cálculo: a multiplicação de matrizes e as funções de ativação não lineares. As NPUs são projetadas para executar essas operações de forma rápida e eficiente. A contrapartida é parte da flexibilidade de uso geral que CPUs e GPUs oferecem.

O desfoque de fundo durante uma videochamada é um bom exemplo. A maioria das pessoas já o utilizou, e ele pode rodar tanto em uma CPU quanto em uma GPU. Ambas consomem muita energia, o que gera calor e drena rapidamente a bateria de um notebook fino. Uma NPU pode executar o mesmo trabalho usando uma pequena parcela da energia, de modo que efeitos como esse podem funcionar continuamente sem desgastar a bateria ou fazer os ventiladores acelerarem.

As NPUs não ajudam em tudo. Elas não são úteis para treinar modelos de IA. Executar localmente um modelo de linguagem grande, como o Llama 70B, ainda exige uma GPU dedicada com muita memória de vídeo. Serviços como ChatGPT e Gemini também não precisam de NPU, pois rodam na infraestrutura do provedor. Por enquanto, o principal papel da NPU é lidar com um conjunto pequeno de tarefas de baixo consumo e sempre ativas, incluindo efeitos de webcam, supressão de ruído, tradução em tempo real e indexação de buscas locais.

Quais notebooks têm NPU e como ela é medida

Por que os novos notebooks incluem NPUs?

A certificação Copilot+ PC da Microsoft é o principal motivo para tantos notebooks incluírem NPUs atualmente. Para obter o selo e desbloquear determinados recursos de IA no dispositivo do Windows, um notebook precisa de uma NPU de 40 TOPS, 16 GB de RAM e 256 GB de armazenamento. O valor de 40 TOPS deve vir da própria NPU. O desempenho de uma GPU não conta. Um notebook intermediário com uma Nvidia RTX 4050 oferece mais de 190 TOPS por meio de seus núcleos tensoriais, mas a Microsoft não considera esse número para o requisito.

Os chips Snapdragon X Elite e Plus da Qualcomm estavam entre os primeiros a chegar ao mercado com uma NPU Hexagon de 45 TOPS. O Lunar Lake da Intel veio em seguida, com até 48 TOPS, e o Ryzen AI 300 da AMD chegou a 50 TOPS. Os processadores Panther Lake, mais novos da Intel, vendidos como Core Ultra Série 3, trazem uma NPU de 50 TOPS e são fabricados no processo 18A da Intel. A Qualcomm já elevou o número para até 85 TOPS com o Snapdragon X2 Elite, mais que o dobro do mínimo exigido pela Microsoft. Cada geração aumentou esse valor, mesmo com o software capaz de aproveitar essa capacidade ainda sendo escasso.

Os aplicativos já utilizam as NPUs dos notebooks?

Os donos podem verificar se a NPU do notebook está fazendo alguma coisa. No Windows 11, a taxa de utilização aparece no Gerenciador de Tarefas. Em um ASUS Zenbook Duo de 2024, com 32 GB de RAM, usado por um repórter do Engadget, o índice permaneceu em zero. O Engadget espera que a maioria dos usuários casuais veja o mesmo resultado. A lista de aplicativos que dependem regularmente da NPU é curta: Windows Studio Effects, Live Captions, Recall e Click to Do, supressão de ruído no Teams e no Zoom, além de alguns recursos do Adobe Creative Cloud.

Executando um modelo local na NPU

Para testar quanto de uma NPU um modelo de IA local consumiria, o Engadget baixou o Mistral 7B, um modelo de código aberto que a publicação descreveu como bastante capaz e eficiente. O repórter o executou por meio do kit de ferramentas OpenVINO, da Intel, em um notebook com 34 TOPS de desempenho somados entre CPU, GPU e NPU. Apenas 11 desses TOPS pertencem à NPU. O modelo levou a NPU a 98% de utilização, enquanto a CPU permaneceu em 3%. A geração de texto funcionou e o notebook continuou responsivo, embora 11 TOPS deixem pouco espaço para um modelo desse tamanho.

O mesmo modelo, executado pelo Ollama, que usa a CPU em vez da NPU, levou a utilização da CPU a 52% e manteve o uso de memória em cerca de 17 GB dos 32 GB da máquina. O Engadget afirmou que essa carga mais pesada na CPU deixaria o notebook lento se outras tarefas exigentes estivessem em execução. Esse contraste é o atrativo de uma NPU: ela processa uma carga de trabalho de IA sem afetar o restante do sistema. O porém é que chegar a esse resultado exigiu um kit de ferramentas específico e conhecimento técnico. Muito poucos softwares oferecem suporte a NPUs de imediato, e essa lacuna é o principal motivo pelo qual os chips ficam ociosos na maioria das máquinas.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.