LLM local en MacBook Air: benchmarks M4, RAM y temperatura

El MacBook Air es el ordenador ultraportátil más extendido del mundo. Con la estandarización de 16 GB de memoria unificada en las configuraciones base y la llegada del eficiente procesador M4, ingenieros y usuarios preocupados por su privacidad se preguntan si este equipo sin ventilador puede ser su estación de trabajo diaria para ejecutar Modelos de Lenguaje Grandes (LLMs) en local. Ejecutar IA on-device en un chasis con disipación puramente pasiva plantea compromisos técnicos específicos entre ancho de banda, límites de memoria del kernel, consumo de batería y estrangulamiento térmico.

Arquitectura de memoria unificada en MacBook Air: 16 GB frente a 24 GB

A diferencia de los portátiles x86 convencionales, limitados por tarjetas gráficas discretas con buses PCIe restringidos, Apple Silicon emplea una arquitectura de memoria unificada (UMA). La CPU, la GPU Metal y el Neural Engine de 16 núcleos comparten un único espacio de memoria LPDDR5X de alta velocidad. Esta arquitectura permite que los pesos de los modelos residan directamente en la DRAM compartida sin necesidad de duplicar datos ni realizar transferencias lentas entre subsistemas.

No obstante, la ejecución de LLMs locales en macOS exige respetar los márgenes del sistema operativo. De acuerdo con la guía de seguridad de plataformas de Apple, el kernel Darwin establece un límite de memoria cableada gestionado por iogpu.wired_mem_limit, que suele restringir los buffers gráficos a cerca del 75 % de la memoria física. Además, procesos esenciales como WindowServer, demonios de sincronización y cachés del sistema reservan entre 3,8 GB y 4,4 GB de RAM. El margen real para modelos locales se distribuye así según la configuración:

En un MacBook Air de 16 GB, un modelo de 8.000 millones de parámetros cuantizado a 4 bits (que ocupa unos 4,9 GB de memoria) deja más de 6 GB libres para multitarea, navegación web y la memoria de contexto. Por el contrario, cargar un modelo de 14B en 16 GB eleva la presión de memoria a niveles críticos, provocando intercambios con el disco SSD que reducen drásticamente la fluidez de respuesta.

Para calcular con precisión el espacio ocupado por el sistema operativo y la memoria retenida, revisa cuánta RAM necesita un LLM local.

El dilema del chasis sin ventilador: disipación pasiva y curvas térmicas

El rasgo físico fundamental del MacBook Air es la ausencia de ventiladores internos. Mientras que el Mac mini y el MacBook Pro cuentan con turbinas activas para expulsar el calor, el MacBook Air disipa la energía térmica mediante un difusor de aluminio acoplado directamente al chasis exterior.

La ejecución de un LLM se compone de dos fases computacionales con comportamientos térmicos muy distintos:

1. Fase de prefill (procesamiento del prompt): Al ingresar una consulta extensa o procesar un documento, el modelo evalúa los tokens en paralelo. Esta fase depende intensivamente de la potencia de cálculo (FLOPS), elevando la GPU Metal y la CPU a sus frecuencias máximas y generando un pico térmico rápido en el silicio. Al durar habitualmente entre 200 ms y 1,5 segundos en el chip M4, la masa térmica del chasis absorbe este calor sin problemas.
2. Fase de decodificación (generación secuencial de tokens): Emitir cada nuevo token de respuesta depende estrictamente del ancho de banda de memoria. El procesador transfiere los pesos del modelo desde la DRAM una vez por cada token generado. Esto mantiene activo el controlador de memoria con un consumo moderado (de 7 W a 11 W). En consultas estándar de 150 a 400 tokens, el chasis apenas experimenta un templado leve.

En sesiones continuadas o análisis automatizados de código que superan los 8 minutos ininterrumpidos, la superficie de aluminio alcanza unos 42 °C y la temperatura interna del silicio supera los 90 °C. Para preservar la vida útil de los componentes, el gestor térmico de macOS reduce la frecuencia de la GPU entre un 15 % y un 22 %. En un MacBook Air M4, la velocidad de un modelo de 8B desciende de unos 23,5 tok/s iniciales a 19,1 tok/s estabilizados. Pese al ajuste, este ritmo sigue duplicando con holgura la velocidad de lectura humana normal (de 5 a 7 palabras por segundo).

Para comparar el comportamiento térmico pasivo frente a un nodo de escritorio con ventilador activo, revisa la guía de LLM local en Mac mini.

Física de decodificación de tokens: el modelo Roofline en M4

La velocidad máxima de generación autorregresiva en Apple Silicon está regida por el modelo Roofline. Dado que emitir un único token requiere leer la totalidad de la matriz de pesos a través del bus de memoria, la velocidad teórica responde a esta fórmula:

Velocidad (tokens/s) = Ancho de banda de memoria (GB/s) / Tamaño del modelo en DRAM (GB)

Según las especificaciones de arquitectura del chip Apple M4, el procesador M4 estándar integra un bus de 128 bits con memoria LPDDR5X-7500, alcanzando un ancho de banda teórico de 120 GB/s (un 20 % superior a los 100 GB/s de M2 y M3). Al utilizar el framework Apple MLX con kernels optimizados para Metal, las mediciones en MacBook Air reflejan con precisión este límite teórico:

Para redacción, síntesis documental y programación interactiva, los modelos de 3B y 8B ofrecen el mejor equilibrio en un MacBook Air. Un modelo de 3B responde de forma prácticamente instantánea, mientras que un modelo de 8B aporta razonamiento avanzado operando cómodamente dentro de los márgenes térmicos y de memoria del portátil.

Para profundizar en la física del modelo Roofline y por qué la decodificación depende del ancho de banda de la DRAM, consulta ancho de banda en Apple Silicon para LLMs.

Eficiencia energética con batería: consumo y mitigación térmica

Una de las mayores ventajas de la inferencia local en Apple Silicon es la autonomía energética. Los portátiles x86 con gráficas dedicadas consumen entre 45 W y 90 W al ejecutar modelos de IA, agotando la batería en menos de hora y media con un ruido notable de ventiladores. Por el contrario, un MacBook Air M4 con Apple MLX consume apenas entre 7 W y 12 W de potencia de encapsulado durante la decodificación activa, cayendo por debajo de 1,5 W en pausas entre turnos.

Para maximizar la duración de la batería y reducir el calentamiento en un equipo sin ventilador, conviene aplicar estas pautas de ingeniería:

• Acotar la longitud de contexto: Limitar la ventana conversacional a 4.096 tokens evita reservar memoria innecesaria y reduce la duración del prefill térmico.
• Activar cuantización de caché KV a 4 bits: Comprimir las claves y valores de coma flotante de 16 bits a enteros de 4 bits reduce el peso de la caché un 75 % (de 112 KB a 28 KB por token en arquitecturas con Grouped-Query Attention), minimizando la memoria cableada.
• Estructurar peticiones en turnos interactivos: En flujos conversacionales habituales donde el usuario lee la respuesta antes de formular la siguiente pregunta, el chasis de aluminio disipa el calor entre turnos, evitando la acumulación térmica continuada.
• Evitar el intercambio en disco: Mantener el uso total de memoria (pesos + caché KV + sistema) por debajo del 80 % de la DRAM física garantiza que macOS nunca mueva páginas de memoria al almacenamiento flash NVMe.

Para evitar que el contexto largo desborde la memoria unificada del portátil, examina las técnicas de cuantización de la caché KV en Apple Silicon.

MacBook Air frente a MacBook Pro para inteligencia artificial local

Elegir entre un MacBook Air y un MacBook Pro para IA local depende de las exigencias del trabajo diario:

• Elige el MacBook Air si: Priorizas la portabilidad ligera, el silencio absoluto sin ventiladores y utilizas principalmente consultas conversacionales, análisis privado de documentos, traducción offline y ayuda en programación con modelos de 3B a 8B. Con 16 GB o 24 GB de RAM, es una herramienta móvil excepcionalmente equilibrada.
• Elige el MacBook Pro si: Necesitas ajustar o entrenar modelos con LoRA, ejecutar agentes continuos en bucle durante horas, utilizar modelos densos de 32B o superiores, o aprovechar el mayor ancho de banda de los chips M4 Pro (273 GB/s) y M4 Max (546 GB/s) con refrigeración activa por turbinas dobles.

Para profesionales que buscan un asistente de inteligencia artificial privado, sin cuotas mensuales y con control absoluto de sus datos, el MacBook Air actual ofrece una respuesta sólida y autónoma. Lapis reúne modelos de lenguaje locales, análisis privado de documentos y herramientas inteligentes en una app nativa para iPhone, iPad y Mac disponible en la App Store.

Si quieres trabajar con modelos que requieren más memoria, conoce Lapis para Mac y sus opciones de inferencia local.