Connect with us
Cómo correr Bonsai 27B en una GPU de 8 GB con LM Studio o Unsloth Cómo correr Bonsai 27B en una GPU de 8 GB con LM Studio o Unsloth

Guía

Cómo correr Bonsai 27B en una GPU de 8 GB con LM Studio o Unsloth

Published

on

Esta guía práctica muestra cómo correr Bonsai 27B en una GPU de 8 GB con Windows 11, con dos rutas completas y originales: una en LM Studio y otra en Unsloth Desktop, de modo que cada función que hoy pagan en ChatGPT Plus tenga un equivalente local y gratuito. La tabla de equivalencias facilita decidir antes de instalar nada.

El modelo alcanza ese tamaño en esa tarjeta porque su variante de 1 bit comprime cada peso a unos 1.125 bits, casi 14 veces menos que el original de 16 bits, según PrismML. Ese margenMil deja sitio para un contexto de 30 a 40 mil tokens, el espacio de trabajo donde viven los documentos y el historial que se adjuntan a cada sesión. Todo corre en el equipo, sin nube.

¿Qué es Bonsai 27B y por qué encaja en una GPU de 8 GB?

Bonsai 27B es una versión comprimida de Qwen 3.6 27B de Alibaba, publicada en julio por PrismML, una startup fundada por investigadores de Caltech. La firma del proyecto sostiene que la compresión se entrena desde el origen en lugar de recortar un modelo terminado, y que por eso conserva un comportamiento estable a pesar de la compresión tan agresiva.

El modelo completo cabe en VRAM con espacio de sobra, lo que evita el reparto entre GPU y CPU que ralentiza la mayoría de montajes domésticos. El resultado se mueve en una pista donde 30 y 40 mil tokens son un objetivo realista, no un número de marketing. Para quien decide entre este modelo y otros de la misma talla, la guía práctica para elegir un LLM local entre llama.cpp, Ollama y LM Studio complementa el panorama de herramientas de línea de comandos.

Advertisement

Cómo correr Bonsai 27B en una GPU de 8 GB con LM Studio o Unsloth

Mapa de equivalencias entre ChatGPT Plus y las herramientas locales

Antes de los pasos conviene fijar la correspondencia de funciones. Esta tabla reúne las tres columnas en una sola vista, consultada el 2026-11-17 en las documentaciones oficiales de cada herramienta.

Función en ChatGPT Plus Equivalente en LM Studio Equivalente en Unsloth Desktop
Custom GPTs con instrucciones y archivos guardados Presets con system prompt y parámetros de muestreo Skills como instrucciones permanentes del asistente
Control de razonamiento Instant / Medium / High Thinking conmutable por conversación Razonamiento del modelo, con parámetro de inferencia ajustable
Carga de archivos en el chat Arrastre de .docx, .pdf y .txt con recuperación en archivos largos Contexto de archivos: PDF, DOCX, código, imágenes y audio
Proyectos y espacio de trabajo Preset más sesión de chat guardada Espacio de trabajo de chat con archivos persistentes
Mensajes de razonamiento ocultos Traza de razonamiento visible en el propio equipo Traza visible, incluso con búsqueda web dentro del thinking
Uso desde otras apps Servidor local en un puerto Endpoint compatible con la API de OpenAI
Modelo único por conversación Un modelo cargado a la vez Model Arena, dos respuestas lado a lado
Ajustes del modelo opacos Temperatura y Min P ajustados a mano por preset Sintonía automática de parámetros de inferencia más plantillas de chat editables

La equivalencia más valiosa para migrar de la nube es la primera: lo que ChatGPT llama Custom GPTs aquí son presets en LM Studio o skills en Unsloth, perfiles permanentes que sobreviven a cualquier decisión de producto externa. Según reportes publicados, OpenAI retirará los Custom GPTs el 11 de diciembre y en el plan Plus ya no se pueden crear nuevos, así que esta tabla es también un calendario de migración.

Requisitos previos en Windows 11

Ninguno de los dos montajes exige componentes exóticos; ambos distribuyen instaladores nativos para Windows y corren con el mismo modelo descargado una sola vez.

Requisito Detalle
Sistema operativo Windows 11 actualizado; ambas aplicaciones instaladas desde sus fuentes oficiales
Tarjeta gráfica 8 GB de VRAM para la variante de 1 bit; Unsloth también corre en CPU si la GPU falla, según su documentación
Controladores Controlador gráfico al día desde el sitio del fabricante (NVIDIA, AMD o Intel)
Espacio en disco GGUF de 1 bit más módulo de visión de 4 bits, con margen para el cache de contexto
Modelo Bonsai 27B en GGUF, disponible en LM Studio y en las fichas de Hugging Face

Ruta A: Bonsai 27B en LM Studio, paso a paso

La documentación de PrismML para esta integración prescribe cuatro acciones en orden, que aquí se complementan con los ajustes que hacen la diferencia en el uso diario:

  1. Instalar LM Studio para Windows desde su sitio oficial, sin binarios de terceros.
  2. Buscar Bonsai 27B en el buscador interno y elegir la variante de 1 bit junto a su módulo de visión.
  3. Cargar el modelo pulsando el botón de carga y abrir la ventana de chat.
  4. Servir el modelo en un puerto local si otras aplicaciones van a consultarlo.

Con el modelo activo, el primer ajuste es el contexto: con todo el modelo en VRAM se puede objetivo entre 30 y 40 mil tokens, dejando siempre margen para la respuesta. El segundo es el sistema de presets: un perfil cálido con Min P en 0.05 funciona para general ideas, mientras los perfiles de reglas estrictas piden temperatura baja, donde el modelo respeta las instrucciones con más consistencia. El tercero es apagar el razonamiento en tareas simples, porque el thinking por defecto consume contexto y añade latencia; según PrismML, sus benchmarks se midieron con thinking activo, así que las cifras publicadas asumen ese modo.

La documentación arrastran archivos .docx, .pdf y .txt directo al chat: lo que cabe se lee completo, y lo que excede el contexto se busca por fragmentos pertinentes. Preguntar con términos literales del documento mejora la recuperación, porque la búsqueda local depende de coincidencias exactas. La página oficial del modelo en LM Studio registra más de 769 mil descargas, referencia útil para confirmar que la ficha sigue activa al momento de publicar.

Advertisement

Ruta B: Bonsai 27B en Unsloth Desktop, paso a paso

Unsloth Desktop es una aplicación gratuita y abierta para correr y entrenar modelos en hardware local, y su chat funciona sin conexión; su documentación afirma que corre GGUF y safetensors desde Hugging Face o desde el disco, incluso sin GPU. Como Bonsai 27B se distribuye en GGUF, el montaje es replicable, con un matiz honesto: el modelo no figura en el catálogo preconfigurado de Unsloth, así que se carga como GGUF genérico.

  1. Descargar el instalador Unsloth-Desktop-Windows.exe directo de las releases del repositorio oficial de Unsloth en GitHub.
  2. Instalar en Windows 11; si SmartScreen advierte por tratarse de un binario reciente, verificar que la descarga provenga del repositorio oficial y revisar la actividad del proyecto antes de continuar, como criterio editorial de seguridad.
  3. Abrir la aplicación, buscar los GGUF de Bonsai 27B en Hugging Face o apuntar a un archivo local ya descargado, y elegir la variante de 1 bit.
  4. Subir el contexto por encima del valor predeterminado de 4096 tokens, margen que según un análisis de terceros resulta insuficiente para conversaciones sostenidas y que debe ajustarse a la cifra objetivo de 30 a 40 mil.
  5. Crear las skills equivalentes a los presets de LM Studio: instrucciones permanentes por tarea, con la sintonía automática de parámetros de inferencia como ayuda para no afinar a mano.
  6. Adjuntar PDF, DOCX, código o capturas desde el panel de archivos como contexto, y probar el Model Arena para comparar Bonsai contra otro modelo en la misma pregunta.
  7. Si se trabaja con otras aplicaciones, exponer el modelo como endpoint compatible con la API de OpenAI.

El detalle más potente de esta ruta es que la misma aplicación que corre el modelo también entrena: la documentación describe una interfaz de fine-tuning sin código con monitoreo de GPU en vivo. El análisis de Unsloth Studio detalla esta doble función y aclara que los detalles de la interfaz cambian con cada versión, dado el ritmo de actualización del proyecto.

¿Cuál herramienta conviene más en Windows 11?

La decisión se ordera con cuatro escenarios tipo, en lugar de preferencias subjetivas. Como criterio editorial, la ruta correcta depende de si el lector solo ejecuta o también entrena.

Escenario de uso Recomendación editorial Motivo
Replicar ChatGPT Plus con perfiles de tareas LM Studio Sistema de presets documentado y Min P manual, con integración oficial de PrismML
Comparar Bonsai contra otros modelos del mismo tamaño Unsloth Desktop Model Arena con respuestas lado a lado y sintonía automática de parámetros
Afinar el modelo con datos propios más adelante Unsloth Desktop GUI de entrenamiento sin código en la misma aplicación
Equipo sin GPU o con GPU justa Unsloth Desktop Su documentación declara soporte de CPU sin acelerador

En ambos casos el ahorro es el mismo argumento: la suscripción de 20 dólares mensuales cubre funciones que, con este modelo, corren gratis en un equipo ya poseído. Los usos prácticos de los modelos locales que reemplazan chatbots de pago ayudan a decidir qué tareas migrar primero; el orden recomendado por esta guía empieza por documentos, sigue con reglas y deja las imágenes para el final.

¿Qué puede fallar y cómo solucionarlo?

Las cuatro fallas más comunes tienen solución desde los ajustes del propio programa; las dos últimas provienen de observaciones de terceros y de la experiencia del montaje, no de documentación oficial.

Problema Causa más probable Camino a seguir
Respuestas lentas o contexto consumido Thinking activo sin necesidad Desactivar el razonamiento en tareas simples
El modelo ignora instrucciones Preset o skill cálido sin filtro de Min P Bajar temperatura y activar Min P en 0.05
El modelo se detiene a mitad de respuesta Contexto insuficiente o sin margen de reserva Subir el contexto sobre 4096 y dejar espacio para la respuesta
Detalles de imagen equivocados Módulo de visión comprimido a 4 bits Recortar la captura a la región relevante con Recortes de Windows 11
Bonsai no aparece en el catálogo de Unsloth Modelo no preconfigurado en la aplicación Cargarlo como GGUF genérico desde Hugging Face o disco
Windows bloquea el instalador SmartScreen protege binarios recientes Confirmar que la descarga sea del repositorio oficial antes de continuar

¿Para quién es este montaje y para quién no?

Encaja con quien tiene Windows 11 y una GPU de 8 GB, procesa documentos y tareas con reglas, y prioriza la privacidad: cláusulas, estados de cuenta y capturas nunca salen del equipo. También conviene a quien quiere adelantarse al retiro de los Custom GPTs sin rehacer sus flujos guardados, y a quien aspira a afinar el modelo con datos propios más adelante.

Advertisement

No encaja, con quien necesita generar imágenes, colaboración en tiempo real o razonamiento extremo con garantías publicadas: allí los servicios de nube de gama alta conservan la ventaja. Esta guía entrega un reemplazo funcional del uso cotidiano, no un clon perfecto del servicio completo, y ambos runners pueden convivir en el mismo equipo: LM Studio para el flujo con presets, Unsloth para experimentar y entrenar

Lo más leído en Guía

  1. Pasos para crear una plantilla reutilizable de edición con IA
    Animación

    Pasos para crear una plantilla reutilizable de edición con IA

    · 7 min · 106 vistas

    Cree una plantilla de edición de IA reutilizable que ahorre tiempo de producción, estandarice los flujos de trabajo…

  2. Cómo correr Bonsai 27B en una GPU de 8 GB con LM Studio o Unsloth
    Guía

    Cómo correr Bonsai 27B en una GPU de 8 GB con LM Studio o Unsloth

    · 9 min · 59 vistas

    Esta guía práctica muestra cómo correr Bonsai 27B en una GPU de 8 GB con Windows 11, con…

Animación

Pasos para crear una plantilla reutilizable de edición con IA

Published

on

Pasos para crear una plantilla reutilizable de edición con IA

Cree una plantilla de edición de IA reutilizable que ahorre tiempo de producción, estandarice los flujos de trabajo de video y mantenga cada proyecto consistente.

(más…)

Lo más leído en Guía

  1. Pasos para crear una plantilla reutilizable de edición con IA
    Animación

    Pasos para crear una plantilla reutilizable de edición con IA

    · 7 min · 106 vistas

    Cree una plantilla de edición de IA reutilizable que ahorre tiempo de producción, estandarice los flujos de trabajo…

  2. Cómo correr Bonsai 27B en una GPU de 8 GB con LM Studio o Unsloth
    Guía

    Cómo correr Bonsai 27B en una GPU de 8 GB con LM Studio o Unsloth

    · 9 min · 59 vistas

    Esta guía práctica muestra cómo correr Bonsai 27B en una GPU de 8 GB con Windows 11, con…

Continue Reading

Android

Guía para usar Mac.apk y abrir apps de Android en tu Mac

Published

on

Guía para usar Mac.apk y abrir apps de Android en tu Mac

Esta guía te ayuda a instalar Mac.apk, abrir tus primeras apps de Android en una Mac con Apple Silicon y probar si realmente te conviene. Vas a aprender qué necesitas antes de empezar, cómo instalar una app paso a paso, cómo probar sonido, ventana y sincronización, y cómo desinstalar sin dejar datos sueltos. Todo está pensado para que pruebes con calma, sin poner en riesgo tu equipo ni tus cuentas.

(más…)

Lo más leído en Guía

  1. Pasos para crear una plantilla reutilizable de edición con IA
    Animación

    Pasos para crear una plantilla reutilizable de edición con IA

    · 7 min · 106 vistas

    Cree una plantilla de edición de IA reutilizable que ahorre tiempo de producción, estandarice los flujos de trabajo…

  2. Cómo correr Bonsai 27B en una GPU de 8 GB con LM Studio o Unsloth
    Guía

    Cómo correr Bonsai 27B en una GPU de 8 GB con LM Studio o Unsloth

    · 9 min · 59 vistas

    Esta guía práctica muestra cómo correr Bonsai 27B en una GPU de 8 GB con Windows 11, con…

Continue Reading

Guía

Las 5 mejores alternativas a Mailchimp en 2026 para México: precios y funciones

Published

on

Las 5 mejores alternativas a Mailchimp en 2026 para México: precios y funciones

La mejor alternativa a Mailchimp en 2026 para la mayoría de las PyMEs mexicanas es SendPulse: su plan gratuito permite enviar 15,000 correos al mes a 500 suscriptores (el de Mailchimp se quedó en 250 contactos y 500 envíos) y reúne automatización, chatbots y CRM en la misma cuenta, con planes de pago desde 9.60 USD al mes con pago anual. Brevo conviene a listas grandes que envían poco, MailerLite a quien busca sencillez, ActiveCampaign a las automatizaciones complejas y Kit a los creadores de newsletters.

(más…)

Lo más leído en Guía

  1. Pasos para crear una plantilla reutilizable de edición con IA
    Animación

    Pasos para crear una plantilla reutilizable de edición con IA

    · 7 min · 106 vistas

    Cree una plantilla de edición de IA reutilizable que ahorre tiempo de producción, estandarice los flujos de trabajo…

  2. Cómo correr Bonsai 27B en una GPU de 8 GB con LM Studio o Unsloth
    Guía

    Cómo correr Bonsai 27B en una GPU de 8 GB con LM Studio o Unsloth

    · 9 min · 59 vistas

    Esta guía práctica muestra cómo correr Bonsai 27B en una GPU de 8 GB con Windows 11, con…

Continue Reading

Lo más reciente

Lo más popular

Subscribete a nuestro Podcast

Trending