KoboldCpp, el runtime gratuito para ejecutar modelos GGUF en local, publicó a finales de septiembre su versión 1.122.1 con un agente de IA integrado. Te contamos...
Correr LLMs locales en una GPU de 8GB no depende de encontrar un modelo milagroso, sino de elegir bien la cuantización, repartir las tareas entre modelos...
