LLM Hub es una aplicación móvil de código abierto para Android e iOS que ejecuta modelos de lenguaje, generación de imágenes, video y música completamente en el dispositivo, sin nube, sin cuentas y sin recolección de datos. Ahora también existe LLM Hub Desktop 0.1.3 para Windows, macOS y Linux, con servidores de API compatibles con OpenAI y Anthropic. El proyecto, publicado por Timmy Qian en GitHub, destaca por llevar generación de video con NPU de Snapdragon y clonación de voz local a un teléfono común.

¿Qué es LLM Hub y qué lo hace diferente?

La mayoría de las apps de IA local se limitan al chat con un modelo descargado. LLM Hub reúne en una sola aplicación más de quince herramientas: chat con memoria RAG y búsqueda web, agente autónomo con llamadas a funciones, generador de imágenes con Stable Diffusion 1.5, generador de video, generador de música, transcriptor con Whisper, traductor sin conexión a más de 50 idiomas, detector de estafas y búsqueda de fotos y videos por descripción. Todo el procesamiento ocurre en el dispositivo, un enfoque de privacidad que la app resume en tres reglas: cero recolección de datos, cero cuentas y cero rastreo.

La idea de un ecosistema de IA local con varias capacidades en un solo lugar ya se había visto en el escritorio, como en Orkas, el equipo de agentes de IA open source que corre en tu propia computadora, pero LLM Hub lleva esa premisa al bolsillo, donde el hardware es más limitado y cada aceleración cuenta. Ese es precisamente su terreno diferencial: optimización para CPU, GPU y NPU móviles.

¿Cómo genera video un teléfono celular?

El generador de video de Android ejecuta LTX-Video 2B 0.9.8 distilled de Lightricks, completamente en el dispositivo, a partir de un texto o una imagen inicial, en 8 pasos de eliminación de ruido. En chips Snapdragon con NPU Hexagon, el transformador y el decodificador VAE corren como binarios QNN, con una compilación por generación de chip: v69, v73, v75, v79 y v81, además de una versión de enteros para NPUs sin FP16. Un clip de 25 cuadros a 768×512 toma unos 25 segundos en un Snapdragon 8 Elite.

En chips sin NPU compatible, los modelos GGUF en Q4_0 o Q8_0 corren mediante stable-diffusion.cpp con Vulkan en la GPU o directamente en la CPU. Ahí los tiempos cambian de escala: un clip de 25 cuadros a 512×320 toma cerca de 3 minutos en un Exynos 1580 de un Galaxy A56 y unos 20 minutos en un Tensor G3 de un Pixel 8 Pro. En iOS, la generación de video usa Stable Video Diffusion. Vale la pena ajustar expectativas según el chip, porque el rendimiento varía casi cincuenta veces entre el mejor y el peor caso documentado.

¿Qué puede hacer el agente de IA en Android?

El agente autónomo convierte los modelos locales en asistentes con acciones reales sobre el dispositivo: mapas interactivos de OpenStreetMap, gestión de calendario, alarmas, linterna, composición de SMS y correos, hashing criptográfico y cálculos. Se conecta además a servidores MCP para descubrir herramientas externas como archivos, búsqueda o memoria, siempre con aprobación del usuario antes de ejecutar cada llamada.

Su función más llamativa es la generación de comandos para Termux: el agente redacta comandos de shell, los muestra en un editor para que el usuario los revise y los corrija antes de ejecutarlos, y transmite la salida en una terminal osca en vivo. Si un comando falla, un ciclo de autocorrección alimenta el registro de error de vuelta al modelo, que genera el comando de reparación. En el modo Vibe Coder con Codex, el modelo local se conecta al servidor de Codex corriendo en Termux, sin inicio de sesión de OpenAI, con requisito de dispositivo ARM64 y Android 10 o superior.

¿Qué tan capaz es su parte de voz y música?

En voz, Android ofrece tres motores: Kokoro para locución local, Supertonic 3 multilingüe con importación de perfiles de voz y Pocket TTS con clonación de voz completamente local a partir de 3 a 30 segundos de audio de referencia. En iOS, el generador de música con Magenta Realtime 2 permite escuchar el audio mientras se genera, con modo de duración ilimitada que graba hasta pulsar detener. El transcriptor usa Whisper en Android y whisper.cpp en iOS, todo sin conexión.

La búsqueda multimedia también corre en local: EmbeddingGemma 2 indexa fotos y videos en el dispositivo para buscarlos por descripción o por imagen de referencia, y el buscador de momentos de video combina fotogramas y audio de ventanas de dos segundos para saltar a la escena exacta. Son funciones que, en la nube, suelen exigir suscripciones; aquí dependen solo del almacenamiento y la batería del teléfono.

¿Qué aporta LLM Hub Desktop?

La versión de escritorio 0.1.3 llega con apps nativas para Windows en x64 y Arm, macOS con Apple silicon, firmada y notarizada, y Linux en .deb y AppImage. Además del chat con modelos locales, permite ejecutar Claude Code y OpenClaw sobre esos modelos, convertir instrucciones en diapositivas y páginas, y servir APIs compatibles con OpenAI y Anthropic para que otras aplicaciones del equipo consuman la inferencia local. El instalador de Windows aún no está firmado, por lo que el sistema muestra la advertencia de protección, aunque el proyecto ya firma sus compilaciones mediante SignPath con certificado de la SignPath Foundation.

Quien quiera comparar alternativas de escritorio para IA local puede revisar cómo Kimi K3 corre en un motor de inferencia en C con solo 8 GB de RAM, un caso que muestra hasta dónde llega la inferencia local en hardware modesto, la misma filosofía que LLM Hub aplica en el móvil. La app importa modelos en formatos .task, .litertlm, qnn, .mnn y .gguf, con descargas directas desde Hugging Face.

Datos clave del proyecto

¿Qué limitaciones hay que considerar?

La licencia es la primera advertencia: PolyForm Noncommercial permite usar, estudiar y construir sobre el proyecto, pero distribuir la app, cobrar por ella o monetizarla con anuncios o compras requiere permiso escrito del autor. La segunda es el rendimiento desigual: la generación de video en chips sin NPU puede tardar 20 minutos por clip, y los modelos de Google y Meta exigen aceptar su licencia en Hugging Face antes de descargarlos en compilaciones de desarrollo. La hoja de ruta promete un Vibe Coder avanzado con integración de IDE y un agente tipo OpenClaw para tareas de varios pasos, todavía sin fecha.

Para quienes ya exploran agentes de código locales, el modo Codex sobre Termux conecta con lo que documentamos en OpenCode, el agente de IA gratuito para tu terminal, aunque aquí la novedad es que el modelo que asiste al programador corre dentro del propio teléfono. Es un límite técnico con encanto: la privacidad es total, pero la paciencia también se pone a prueba.

¿Vale la pena instalarla?

LLM Hub es probablemente la app de IA local más completa que se puede descargar hoy desde Google Play y el App Store sin pagar nada y sin enviar un solo dato a la nube. No reemplaza a un servidor con GPU para trabajos serios de video, y su licencia no comercial le cierra la puerta a usos de negocio, pero como laboratorio personal de IA en el bolsillo no tiene rival directo: chat, agentes, imágenes, video, música, voz clonada y búsqueda multimedia, todo en el dispositivo. El código está en el repositorio oficial de LLM Hub en GitHub y su enfoque en privacidad fue reconocido por RunAnywhere en un caso de estudio sobre la versión iOS. La prueba más honesta es descargar un modelo pequeño, generar un clip de video en un Snapdragon reciente y comparar los 25 segundos de resultado con lo que ofrecía el móvil hace apenas un año.