Un computador de 16 GB puede ejecutar un modelo de IA local de unos siete a ocho mil millones de parámetros, mientras que los modelos que más se acercan a ChatGPT o Claude necesitan al menos 32 GB de memoria del sistema y una tarjeta gráfica con 16 GB o más de VRAM. La memoria determina qué modelos caben, y el ancho de banda de la memoria determina qué tan rápido generan texto.
Un computador de 16 GB puede ejecutar un chatbot de IA local, pero solo uno pequeño. Las máquinas con esa cantidad de memoria pueden manejar modelos de unos siete a ocho mil millones de parámetros, y una tarjeta gráfica con 8 GB de memoria de video los ejecutará a un ritmo aceptable. Los modelos que más se acercan a los chatbots detrás de ChatGPT o Claude necesitan al menos 32 GB de memoria del sistema y una tarjeta gráfica con 16 GB o más de VRAM, y esas piezas no son baratas a los precios actuales.
Empezar toma minutos. Descargue Ollama o LM Studio, elija un modelo y comience a escribir. No hay cuota de suscripción, el chatbot funciona sin conexión a internet y ninguno de sus datos sale de la máquina. La trampa está en el rendimiento, y eso depende casi por completo del hardware que hay debajo.
La memoria decide qué modelos caben
¿Cuánta memoria necesita un computador para ejecutar un modelo de IA local?
La huella de memoria de un modelo crece casi en la misma proporción que su tamaño, que se mide en miles de millones de parámetros. La mayoría de las personas ejecuta versiones comprimidas, a veces llamadas modelos cuantizados, que almacenan cada parámetro en unos cuatro bits. Eso reduce un modelo a aproximadamente una cuarta parte de su tamaño original. En la biblioteca de Ollama, Llama 3.1 8B de Meta ocupa 4,9 GB. Phi-4 de Microsoft necesita 9,1 GB, Gemma 3 27B de Google necesita 17 GB y Llama 3.3 70B de Meta necesita 43 GB. La regla general de Ollama ha sido 8 GB de RAM para un modelo de 7B, 16 GB para un modelo de 13B y 32 GB para un modelo de 33B.
gpt-oss-20b de OpenAI complica las cuentas. Tiene 21 mil millones de parámetros, pero usa solo 3.600 millones para cada token, un diseño conocido como “mezcla de expertos”. Eso lo mantiene rápido, pero el modelo completo aún tiene que caber en la memoria. OpenAI afirma que funciona “con apenas 16 GB de memoria”. En Ollama, ocupa 14 GB, lo que deja casi nada para el resto de un computador de 16 GB.
El ancho de banda fija la velocidad
Cada token que genera un modelo le exige leer todos sus parámetros. Por eso la velocidad depende mucho más del ancho de banda de la memoria que de la potencia de procesamiento bruta. Los ingenieros de Nvidia describen esta etapa como “limitada por la memoria”. La VRAM es varias veces más rápida que la RAM del sistema del resto del computador, y por eso un modelo que cabe por completo en la tarjeta gráfica funciona mucho más rápido que uno que se desborda hacia la memoria del sistema.
¿Qué tan rápido puede ejecutar un modelo de IA local un computador?
De cinco a 10 tokens por segundo es un ritmo que sigue la velocidad de lectura de la mayoría de las personas. En las pruebas de LMSYS, la RTX 5090 de Nvidia generó texto a partir de gpt-oss-20b a 205 tokens por segundo. Los puntos de referencia de llama.cpp sitúan el chip M4 básico de Apple en unos 24 tokens por segundo con un modelo de 7B. Ollama midió el DGX Spark de Nvidia, un computador de desarrollo de IA que cuesta 3.999 dólares y que Nvidia comenzó a vender el año pasado, a 38 tokens por segundo con Llama 3.1 8B. En la versión de 70B, alcanzó apenas 4,42.
En una prueba práctica con un Asus Zenbook Duo 2024 con 32 GB de RAM y un NPU Intel AI Boost, Mistral 7B se ejecutó con Ollama con un uso de CPU del 52 por ciento y un uso de memoria cercano a 17 GB. Eso es manejable por sí solo, pero dejaría lento el portátil si hubiera algo más exigente en ejecución. Con el kit de herramientas OpenVINO de Intel, el mismo modelo mantuvo el NPU al 98 por ciento y la CPU al 3 por ciento. El portátil siguió respondiendo mientras producía 2.500 palabras sin sentido en unos tres minutos.
¿Puede un modelo de IA local igualar a los chatbots en la nube?
Los modelos locales todavía están por detrás de los mejores sistemas en la nube. En los rankings de Artificial Analysis de abril de 2026, Qwen3.5 27B de Alibaba obtuvo 42 en su índice de inteligencia, a la par con GPT-5 de OpenAI en su configuración media. Gemma 4 31B de Google obtuvo 39. Los principales modelos de frontera en la nube obtuvieron 57. Qwen3.5 27B necesita entre 17 GB y 20 GB de memoria, lo cual está por encima de lo que puede ofrecer un computador de 16 GB.
Los modelos abiertos más grandes están fuera del alcance de los computadores de escritorio. Kimi K2.6 de Moonshot, un modelo de 1 billón de parámetros que figuró entre los mejores modelos de pesos abiertos cuando se lanzó en abril de 2026, necesita alrededor de 600 GB de RAM y VRAM combinadas con precisión de 4 bits, según Unsloth. Su sucesor, Kimi K3, obtuvo 57 en el índice de inteligencia de Artificial Analysis en julio de 2026. Con 2,8 billones de parámetros, sus pesos por sí solos suman unos 1,4 TB. TECHi estima que eso apenas cabría en un servidor de centro de datos con ocho GPU.
Para resúmenes privados ocasionales o ayuda de programación sin conexión, un computador de 16 GB cumplirá la tarea. Para algo que usaría en lugar de un chatbot en la nube, cuente con 32 GB de RAM o una tarjeta gráfica de 16 GB. La memoria es lo más costoso en este momento. El índice de precios de RAM de Tom's Hardware registra un kit de 32 GB de DDR5 a 434 dólares, lo que equivale a casi dos años de una suscripción de 20 dólares al mes a ChatGPT Plus o Claude Pro.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.