Un modelo que cabe en cerca de 1 GB cambia dónde puede ocurrir el trabajo. Puede vivir en el teléfono en tu bolsillo, en la computadora portátil que ya tienes y en un servidor pequeño que nunca habla con una API en la nube. Liquid AI construyó LFM3 1.7B exactamente para ese lugar. Este tutorial pone el modelo de texto en funcionamiento en tu propio hardware, primero mediante Ollama para la ruta más corta, y luego mediante llama.cpp para un control total sobre el archivo y el contexto.
Lo que vas a construir o aprender
Terminarás con LFM3 1.7B respondiendo instrucciones en tu propia computadora, sin cuenta y sin llamada a la nube en el ciclo. Sabrás qué tamaño de archivo elegiste y por qué, qué longitud de contexto cargaste realmente y cómo servir el modelo localmente para que otras aplicaciones lo usen.
El modelo en sí es un modelo de texto de 1.73 mil millones de parámetros de Liquid AI, lanzado el 27 de octubre de 2026 como parte de una familia de seis modelos. Liquid AI lo enumera para agentes locales, llamada a herramientas, salidas estructuradas y trabajo en un dominio elegido después de un ajuste. La empresa también traza una línea clara en su propia documentación. Usa búsqueda o recuperación para trabajo que necesita conocimiento amplio, y no elijas este modelo para programación con agentes ni para razonamiento complejo que necesita muchos pasos. El tamaño pequeño es el punto, y el tamaño pequeño también es el límite.
Antes de empezar
Lee primero las dos trampas, porque ambas son fáciles de pasar por alto en las cifras del titular.
La primera trampa es la memoria. Cerca de 1 GB es el tamaño de los pesos del modelo a precisión de 4 bits. No es la memoria total de una sesión en ejecución. El tiempo de ejecución necesita memoria, y el contexto necesita memoria, y esa segunda factura crece a medida que cargas más tokens. Un contexto de 256K es un máximo que el modelo admite, no un ajuste que deberías cargar por defecto. Empieza pequeño, confirma que el modelo funciona y eleva el contexto solo para trabajo que lo necesite.
El archivo es pequeño. El contexto no. Ilustración de la casa por Dirty Static.
La segunda trampa es la licencia. LFM3 se distribuye bajo la LFM Open License v1.0, que Liquid AI basa en Apache 2.0 con un cambio clave. El uso comercial gratuito termina cuando una empresa supera los 10 millones de dólares estadounidenses en ingresos anuales, y las empresas más grandes deben contactar a Liquid AI para una licencia comercial. El uso personal y la investigación están bien dentro de los términos gratuitos. Los planes de producto necesitan una revisión de licencia antes de publicarse.
Paso 1: Elige un tiempo de ejecución y revisa su versión
Acción: elige una ruta y confirma que la versión es lo bastante nueva. Las tres rutas abajo vienen de Liquid AI y sus tarjetas de modelo.
| Ruta | Mejor para | Versión a revisar |
|---|---|---|
| Ollama | La ruta más corta a una primera respuesta | Versión 0.40.13 o más reciente en Linux y Windows, y 0.40.12 o más reciente en macOS |
| llama.cpp | Control total sobre el archivo, el contexto y el servidor local | Compilación b11960, vendida como versión 0.8.0, o más reciente |
| LM Studio | Una aplicación de escritorio en lugar de una terminal | LM Studio con motor llama.cpp 2.65.1 o más reciente |
ollama --version
llama-cli --version
Resultado esperado: al menos un comando imprime una versión igual o superior a la línea en la tabla. Si ambos imprimen números más antiguos, actualiza el tiempo de ejecución primero. En una Mac, las instalaciones comunes son brew install llama.cpp y la aplicación de Ollama desde su sitio oficial. En Windows, winget install llama.cpp es la ruta común de llama.cpp. En Linux, compila llama.cpp desde su repositorio del proyecto o usa una compilación de lanzamiento actual, y luego revisa la versión de nuevo.
Paso 2: Ejecútalo con Ollama, la ruta corta
Acción: descarga el modelo desde la biblioteca de Ollama e inícialo. El nombre de biblioteca es lfm3, y la etiqueta de tamaño nombra el modelo de texto 1.7B en su totalidad.
ollama pull lfm3
ollama run lfm3
También puedes nombrar el tamaño en el comando:
ollama run lfm3:1.7b
Resultado esperado: Ollama descarga el modelo, y luego abre una instrucción. Hazle una pregunta simple con una respuesta comprobable, como pedirle que ordene una lista corta que le des o que convierta una frase que pegues en un objeto JSON con campos nombrados. Una respuesta en la terminal significa que el modelo está cargado y funciona en tu computadora. Escribe /bye para salir de la sesión.
Observa lo que esta ruta oculta. Ollama gestiona el archivo y los valores predeterminados por ti, que es por qué es rápido empezar. El precio es el control. Cuando necesites un archivo elegido, un tamaño de contexto elegido o un servidor local con valores de muestreo definidos, usa la ruta de llama.cpp en los pasos siguientes. Puedes ejecutar ambas rutas en una computadora. Son instalaciones separadas y no comparten archivos de modelo.
Paso 3: Elige el archivo GGUF correcto para llama.cpp
Acción: elige un tamaño de archivo antes de descargar nada. Liquid AI publica la compilación GGUF como LiquidAI/LFM3-1.7B-GGUF en Hugging Face, y la documentación nombra Q4_K_M como el punto de equilibrio para tamaño y calidad en el conjunto GGUF.
| Archivo | Tamaño en disco | Elígelo cuando |
|---|---|---|
| QAD Q4_0 | 1.05 GB | Quieres el archivo más pequeño, y quieres la compilación que Liquid AI entrenó para recuperar calidad perdida por el trabajo de 4 bits |
| Q4_K_M | 1.1 GB | Quieres el equilibrio estándar de tamaño y calidad para uso local diario |
| Q8_0 | 1.85 GB | Tienes memoria de sobra y quieres mayor precisión |
| BF16 | 3.47 GB | Quieres el archivo de precisión completa para ajuste o para trabajo de servicio con GPU |
Resultado esperado: sabes la etiqueta que cargarás en el Paso 4. Si no estás seguro, elige Q4_K_M. Es el archivo que usa el resto de este tutorial, y puedes cambiar la etiqueta más adelante sin cambiar ningún otro paso.
Paso 4: Ejecútalo con llama.cpp
Acción: inicia el modelo en la terminal con los valores de muestreo que Liquid AI enumera en la tarjeta del modelo. La bandera -hf descarga el archivo desde Hugging Face en la primera ejecución.
llama-cli -hf LiquidAI/LFM3-1.7B-GGUF:Q4_K_M --temp 0.1 --top-k 50 --repeat-penalty 1.1
Para el archivo QAD del Paso 3, nombra el archivo en su totalidad en lugar de usar una etiqueta:
llama-cli -hf LiquidAI/LFM3-1.7B-GGUF --hf-file LFM3-1.7B-QAD-Q4_0.gguf --temp 0.1 --top-k 50 --repeat-penalty 1.1
Resultado esperado: llama.cpp descarga el archivo, lo carga y abre su instrucción de chat. Las líneas de carga muestran el tamaño del modelo y el contexto que apartó. Haz la misma pregunta comprobable que usaste en el Paso 2. Para trabajo de matemáticas y ciencias, Liquid AI enumera un segundo conjunto de valores. Cambia a --temp 1.0 --top-p 0.95 --top-k 20 y quita la penalización por repetición para ese trabajo, según la tarjeta del modelo.
El razonamiento está activado por defecto en este modelo, según la documentación de Liquid AI. Eso significa que las respuestas pueden incluir pensamiento antes de la respuesta final. Ayuda en tareas con pasos. También cuesta tokens, así que juzga el modelo por la respuesta final, no por la velocidad de la primera palabra.
Paso 5: Define el contexto a propósito y sírvelo localmente
Acción: inicia el servidor local con un tamaño de contexto que elegiste. La bandera -c define el contexto en tokens. Empieza en 8192, que cubre la mayor parte del trabajo de chat y agente mientras mantiene la memoria bajo control.
llama-server -hf LiquidAI/LFM3-1.7B-GGUF:Q4_K_M --host 127.0.0.1 --port 8080 -c 8192 --temp 0.1 --top-k 50 --repeat-penalty 1.1
Sírvelo primero en la dirección local. Ilustración de la casa por Dirty Static.
Resultado esperado: el servidor se inicia en tu propia computadora en el puerto 8080 e imprime que está escuchando. El valor de host en el comando lo mantiene solo en la dirección local. Ese es el valor predeterminado correcto. Un servidor local de modelo no tiene inicio de sesión propio, así que no cambies el host a una dirección pública a menos que agregues protección frente a él primero.
Eleva el contexto solo cuando el trabajo lo necesite. Una tarea de documento que carga un archivo largo puede ganarse -c 32768 o más. Observa la memoria a medida que lo elevas, porque el almacén de contexto crece con el ajuste incluso antes de que pegues una instrucción larga. La cifra de 256K es el techo que el modelo admite. No es un objetivo para una sesión de computadora portátil.
Verificación
Demuestra que la instalación funciona de tres maneras, en este orden.
Primero, revisa la salud del servidor desde una segunda terminal mientras se ejecuta el servidor del Paso 5:
curl http://127.0.0.1:8080/health
Una respuesta saludable significa que el servidor cargó el modelo y está listo. Después, envíale una solicitud mediante su dirección de chat y lee la respuesta en su totalidad. Elige una instrucción con una respuesta correcta que puedas revisar a simple vista, como una suma, una ordenación o una extracción corta de un párrafo que pegues. Por último, corta la red. Activa el modo avión o desconecta el cable, y luego repite la instrucción en Ollama o en llama.cpp. El modelo debería responder en su totalidad sin red en absoluto. Esa última prueba es todo el sentido de la instalación, así que no la omitas.
Si usaste solo la ruta de Ollama, ejecuta ollama list y confirma que lfm3 está en disco, y luego repite la prueba sin conexión dentro de ollama run lfm3. Si usaste solo llama.cpp, la revisión de salud y la prueba sin conexión juntas demuestran la instalación.
Solución de problemas
| Problema | Causa probable | Solución |
|---|---|---|
| Arquitectura de modelo desconocida lfm3 | El tiempo de ejecución es anterior al soporte de LFM3 | Actualiza a llama.cpp b11960 o más reciente, o a Ollama 0.40.13 o más reciente en Linux y Windows, y luego ejecuta el mismo comando de nuevo |
| La descarga funciona pero la carga falla de inmediato | El archivo y el tiempo de ejecución no coinciden, o la plantilla de chat está desactualizada | Carga un archivo GGUF con la plantilla de chat actual, según la documentación de Liquid AI, o pasa un archivo de plantilla actual con la bandera de plantilla que nombra la documentación |
| La computadora se queda sin memoria al cargar | El ajuste de contexto es demasiado grande para la computadora | Reinicia el servidor con un contexto más pequeño, empezando en -c 8192, y elévalo solo a medida que el trabajo lo necesite |
| Las respuestas se desvían o se repiten en tareas de agente | Los valores de muestreo no coinciden con la tarjeta, o la tarea necesita muchos pasos de razonamiento | Define temperatura 0.1, top k 50 y penalización por repetición 1.1 para trabajo general, y elige un modelo más grande para trabajo complejo con muchos pasos |
| El modelo inventa datos sobre el mundo | La tarea necesita conocimiento amplio, y la tarjeta del modelo advierte contra ese uso por su cuenta | Agrega búsqueda o recuperación para datos, y usa el modelo para llamadas a herramientas, estructura y trabajo local |
| Ollama en Linux o Windows dice que el modelo necesita una versión más reciente | La instalación es anterior a la versión de soporte de LFM3 para ese sistema | Actualiza Ollama a 0.40.13 o más reciente, revisa la versión y descarga el modelo de nuevo |
Próximos pasos
Pon el servidor local a trabajar. Liquid AI enumera Hermes Agent, Pi y OpenClaw como los arneses para los que este modelo fue ajustado, así que una configuración de agente local es la siguiente instalación natural, y nuestra guía de configuración de Hermes Agent cubre esa instalación en su totalidad. Mantén el servidor en la dirección local mientras aprendes, y dale al agente una carpeta de prueba antes de darle archivos reales.
Para trabajo de documentos, empareja el modelo con recuperación en lugar de cargar archivos enteros en el contexto. El contexto largo ayuda con un documento largo. La recuperación ayuda con muchos documentos, y mantiene la memoria baja. Si el trabajo crece más allá de este modelo, las mismas dos rutas en este tutorial llevan las compilaciones LFM más grandes y otros modelos GGUF sin cambio en la forma. Solo cambian la etiqueta del archivo y la factura de memoria.
Comandos, tamaños de archivo y líneas de versión verificados contra la documentación de Liquid AI LFM3 1.7B, las notas de la biblioteca de modelos de Liquid AI y la tarjeta del modelo LFM3 1.7B GGUF, noviembre de 2026. Este procedimiento se verificó contra esos documentos. Ejecútalo en tu propia computadora y usa los pasos de Verificación arriba para confirmar tu instalación.
Fuentes
- Documentación del modelo: Liquid AI LFM3 1.7B docs
- Biblioteca de modelos y notas de formato: Liquid AI Liquid Foundation Models
- Archivos GGUF y líneas de versión de tiempo de ejecución: LiquidAI LFM3 1.7B GGUF on Hugging Face
- Términos de licencia: Liquid AI LFM License
- Publicación de lanzamiento: Liquid AI, Introducing LFM3, 27 de octubre de 2026
- Ilustraciones de la casa: Dirty Static
FIN DE LA TRANSMISIÓN
Mantén la curiosidad. Cuestiónalo todo.
