¿Quieres ejecutar inteligencia artificial avanzada en tu computadora personal sin gastar en hardware costoso? Esta guía te muestra cómo aprovechar modelos de lenguaje locales como Gemma 4 y Qwen 3 en equipos con solo 8 GB de memoria de video o RAM. Aprenderás a instalar, configurar y optimizar estos modelos para obtener el mejor rendimiento, incluso con el poderoso Qwen 3.6 MoE (35 mil millones de parámetros) mediante técnicas de cuantización y trasvase a la CPU. Ideal para quienes buscan privacidad y eficiencia sin invertir en equipos de alta gama.

El ecosistema explicado: ¿qué es Ollama?

Piensa en Ollama como el “motor” que permite ejecutar estos complejos modelos de inteligencia artificial directamente en tu computadora. Se encarga de toda la configuración complicada, permitiéndote descargar y conversar con diferentes modelos mediante comandos muy sencillos. Es la pieza clave que hace que todo esto sea accesible.

Tu primera IA funcional en cinco minutos

Si buscas una solución rápida, sigue estos tres pasos para tener un asistente funcional en menos de lo que tardas en prepararte un café.

1. Instala Ollama.
   • En Linux o macOS: Abre una terminal y ejecuta: curl -fsSL [https://ollama.com/install.sh](https://ollama.com/install.sh) | sh
   • En Windows: Descarga el instalador desde su sitio web oficial y ejecútalo.
2. Abre una terminal (o PowerShell en Windows) y ejecuta el siguiente comando: ollama run gemma4:e4b
3. Espera a que descargue el modelo (unos 9.6 GB) y comienza a interactuar directamente en la terminal.

¡Listo! Ya tienes un asistente de IA multimodal funcionando localmente.

Cómo elegir el modelo de lenguaje adecuado

Esta tabla comparativa te ayudará a elegir el modelo correcto según tus necesidades y los recursos de tu equipo. Los datos han sido validados para reflejar los modelos disponibles y funcionales en abril de 2026.

Nota: Todos los requisitos son para cuantización Q4_K_M. Para hardware más limitado, usa Q3_K_M o Q2_K (con pérdida de calidad). Los modelos listados representan un equilibrio adecuado entre rendimiento y recursos.

Modelos en acción: una receta para cada necesidad

A continuación, te presentamos perfiles de usuario para que elijas el modelo perfecto para tu tarea.

Para el escritor, estudiante o conversador

Necesitas resumir textos, traducir, obtener ayuda creativa o simplemente conversar. Tu mejor opción es Gemma 4 E4B por su excelente equilibrio y capacidad multimodal.

Ejemplo práctico:

1. Instala el modelo: ollama pull gemma4:e4b
2. Ejecuta la tarea:

   ollama run gemma4:e4b "Resume el siguiente texto en 5 puntos clave: [pegar aquí el contenido del documento]"

Para el analista de datos, legal o de documentos

Necesitas procesar documentos largos y extraer información precisa en español. Tu elección es Qwen 3 8B, que destaca por su soporte nativo para nuestro idioma y su capacidad para manejar contextos amplios.

Ejemplo práctico:

ollama run qwen3:8b "Analiza este contrato y extrae:
1. Plazos de confidencialidad
2. Penalizaciones por incumplimiento
3. Jurisdicción aplicable
[pegar aquí el texto del contrato]"

Para el programador

Quieres generar código, depurar errores y crear pruebas unitarias. Tu herramienta ideal es DeepSeek-Coder 6.7B, un especialista optimizado para tareas de programación.

Ejemplo práctico:

ollama run deepseek-coder:6.7b "Encuentra y corrige los errores en este código Python:
def calcular_promedio(lista):
    suma = 0
    for i in range(len(lista)):
        suma += lista[i]
    promedio = suma / len(lista)
    return promedio

print(calcular_promedio([1, 2, 3, 'cuatro', 5]))"

Nivel avanzado: cómo optimizar tu equipo

Una vez que te sientas cómodo, puedes aplicar estas técnicas para exprimir al máximo tu hardware.

1. Cuantización avanzada: el arte de la compresión

Imagina que un modelo es una fotografía en altísima resolución. La cuantización es como guardarla en un formato más ligero, como JPG. La imagen se sigue viendo genial, pero el archivo es mucho más pequeño. Esto permite que modelos grandes quepan en memorias limitadas. Para usar una cuantización más agresiva (y ligera), añade la etiqueta correspondiente al comando.

• Q4_K_M (recomendado): Es el equilibrio por defecto. ollama pull gemma4:e4b ya suele usarlo.
• Q3_K_M (más ligero): Para equipos muy justos de memoria. ollama pull qwen3:8b-q3_K_M
• Q2_K (extremo): Calidad reducida, pero tamaño mínimo. ollama pull deepseek-coder:6.7b-q2_K

2. Limitar el contexto para ahorrar memoria

Cada 1.000 tokens de contexto (la “memoria” a corto plazo del modelo) consumen memoria de video. Para conversaciones generales, 8.000 tokens suelen ser suficientes. Para configurar esto de forma persistente para un modelo, puedes crear un archivo llamado Modelfile (sin extensión) con el siguiente contenido:

FROM gemma4:e4b
PARAMETER num_ctx 8192

Luego, crea tu propia versión del modelo con el comando: ollama create mi-gemma-corta -f Modelfile. Ahora podrás ejecutar ollama run mi-gemma-corta y usará siempre ese límite de contexto.

3. El experimento del MoE: Qwen 3.6 de 35B en 8 GB

La arquitectura MoE (Mezcla de Expertos) es como una biblioteca con muchos bibliotecarios especialistas. En lugar de que uno solo lea todos los libros para tu consulta, se activa únicamente el especialista en ese tema. El modelo Qwen 3.6 de 35B activa solo unos 3.000 millones de parámetros a la vez.

Para ejecutarlo en un equipo de 8 GB de video, el sistema hace “trasvase” (offloading): usa la memoria de video como un escritorio de trabajo rápido y la memoria RAM del sistema como una estantería más lenta. Es funcional, pero con un cuello de botella.

Métricas de rendimiento esperadas:

Conclusión: Un modelo MoE de 35B es funcional para tareas en segundo plano que no requieren inmediatez, pero no para una conversación interactiva fluida. Para ello, los modelos densos de 4B a 8B son la mejor opción.

Preguntas frecuentes para usuarios domésticos

¿Puedo ejecutar estos modelos en una portátil sin tarjeta gráfica dedicada?

Sí, pero solo los más pequeños (como TinyLlama 1.1B o Qwen 3 0.5B). El rendimiento será muy bajo (0.5 a 2 tokens por segundo). Las portátiles con procesadores Apple de la serie M tienen una ventaja notable, ya que su memoria unificada permite ejecutar modelos de 7B con mucha mayor fluidez.

¿Por qué me da el error “file does not exist”?

Este error ocurre casi siempre porque la etiqueta del modelo está mal escrita. Verifica siempre los nombres exactos en la librería oficial de Ollama. Por ejemplo, es `gemma4:e4b`, no `gemma4:4b`.

¿Cómo soluciono errores de memoria agotada?

1. Usa una cuantización más agresiva (por ejemplo, cambia a una versión `-q3_K_M`).
2. Limita la ventana de contexto usando un Modelfile como se explicó anteriormente.
3. Cierra otras aplicaciones que consuman mucha memoria, especialmente el navegador web.

Conclusión y recomendaciones finales

Ejecutar modelos de lenguaje en equipos domésticos en 2026 es una tarea accesible si se respetan las limitaciones del hardware. Para equipos con 4 a 8 GB de memoria de video, los modelos de 4B a 8B en formato Q4_K_M ofrecen la mejor experiencia conversacional. Intentar cargar modelos MoE gigantes como el de 35B es un experimento interesante que demuestra la viabilidad del trasvase de memoria, pero su lentitud lo relega a tareas en segundo plano. La combinación de Ollama con una gestión adecuada de los recursos garantiza un funcionamiento estable y abre la puerta a un mundo de posibilidades sin ceder nuestros datos.