博客文章以西班牙语和加泰罗尼亚语发布。

Aprendiendo IA

llama.cpp 1.0: monta tu propio servidor de IA en casa

llama.cpp, el programa de código abierto para ejecutar modelos de lenguaje en un ordenador propio, publicó su versión 1.0 el 13 de noviembre. Según ggml-org, la organización que lo publica y cuyo equipo fundador se incorporó en febrero a Hugging Face, a partir de ahora cualquier cambio que obligue a reescribir los programas que se apoyan en él llegará con un salto del primer número. Esta guía explica qué significa esa promesa y cómo montar en cuatro pasos tu propio servidor de IA local.

Ilustración: en un estudio casero lleno de libros y plantas, una mujer sonríe ante su portátil, conectado por cable a un pequeño servidor sobre la mesa, mientras a su lado descansa una llama con una escarapela azul del «1.0».
📷 Imagen generada con IA

En resumen

  • llama.cpp v1.0.0 salió en GitHub el 13 de noviembre de 2026, junto con ggml v1.0.0, la librería de cálculo sobre la que funciona.
  • Según ggml-org, el primer número de la versión solo subirá cuando un cambio rompa los programas que usan sus librerías; el segundo y el tercero no deberían romper nada.
  • La propia 1.0 ya es un cambio de ese tipo: según las notas de la versión de ggml-org, retira 35 funciones marcadas como obsoletas.
  • Con cuatro órdenes se instala, se descarga un modelo de 563 MB y se arranca un servidor que, por defecto, solo atiende en el propio equipo, en el puerto 9931.

llama.cpp cumple 1.0

El 13 de noviembre de 2026, ggml-org publicó en GitHub la versión v1.0.0 de llama.cpp y, a la vez, la v1.0.0 de ggml, la librería de cálculo sobre la que se construye el programa. El anuncio salió en el blog de Hugging Face —la plataforma donde la comunidad publica modelos y datos de IA abiertos, que Nvidia acordó comprar en septiembre— y lo firman Daniel Bevenius, Georgi Gerganov y merve, de ggml-org.

Según ese anuncio, el proyecto cumple tres años y medio y muchas aplicaciones dependen ya de su trabajo, así que necesita una base «flexible pero estable». ggml-org asegura que llama.cpp admite más de 150 variantes de arquitectura de modelos y que ggml está pensada para funcionar en prácticamente cualquier hardware, con un componente específico para cada tipo de máquina que se puede cargar al arrancar.

Para quien solo quiere usarlo, la novedad está en el número: a partir de ahora dirá cuándo una actualización puede obligar a cambiar algo.

Lo que promete el número 1

Qué significa cada número de la versión
Cambia el… Cuándo ¿Puede romper tu programa?
Primero (mayor: 1.x.x → 2.0.0) Cambio incompatible en la API pública en C Sí
Segundo (menor: 1.0 → 1.1) Funciones nuevas compatibles, soporte de modelos o de hardware No
Tercero (parche: 1.0.0 → 1.0.1) Arreglo de errores sin cambiar la API No
Reglas de versionado de los proyectos de ggml-org, según su anuncio en el blog de Hugging Face.
Ilustración: en un taller, un hombre con delantal gira el último de los tres diales de un aparato, marcados 1, 0 y 0, junto a una señal de aviso y con una pequeña llama encima; al fondo, un compañero se asoma.
📷 Imagen generada con IA

Según ggml-org, desde esta versión llama.cpp y ggml señalarán con un salto de la versión mayor cualquier incompatibilidad de su API, y serán más estrictos con esos límites a medida que crezca su uso. La tabla resume las reglas que el anuncio aplica a todos los proyectos de ggml-org que usan versionado semántico.

El proyecto mantiene dos canales de descarga. Las versiones llevan etiquetas como v1.0.0; las compilaciones nocturnas, una b seguida de un número, y la que corresponde a esta versión es la b12359. A quien busque estabilidad le interesan las primeras.

Lo que se va y lo que llega

La propia 1.0 es el primer salto de ese tipo. Según ggml-org, en sus notas de la versión, llama.cpp retira de `llama.h` la función `llama_set_warmup`, 35 funciones marcadas como obsoletas y la opción `--defrag-thold`, y renombra `llama_set_embd_state_src` como `llama_set_ctx_state_src`. También elimina `clip.h` y concentra lo multimodal en `mtmd`, mientras que ggml 1.0.0 recorta su API pública obsoleta. Si tu código usa estas librerías, revisa la lista antes de actualizar.

En `llama-server`, el servidor del proyecto, llega `/v1/audio/speech` para convertir texto en voz, y se refuerza la seguridad frente a varios tipos de ataque a través de la red. Dos capacidades quedan apagadas salvo que se activen a propósito: `--allow-unauthenticated-tools` y `--media-allow-private-urls`. La versión suma además tres arquitecturas de texto nuevas y una interfaz web rediseñada, con grupos de conversaciones.

Paso 1: instala llama.cpp

Los comandos de esta guía salen de la documentación oficial del proyecto. En macOS y Linux se instala con Homebrew, un gestor de paquetes para esos dos sistemas: `brew install llama.cpp`. En Windows, con Winget, el gestor de paquetes de Microsoft: `winget install llama.cpp`. Según la documentación, los dos paquetes se publican automáticamente con cada versión nueva; en la práctica, el de Winget sigue cada compilación nocturna, como se explica en el paso 4. Hay alternativas con conda-forge, MacPorts y Nix.

Para comprobar la instalación, `llama-server --version` muestra la versión y los datos de la compilación. La portada del proyecto ofrece también un instalador que se descarga y se ejecuta directamente desde internet; con un gestor de paquetes no hace falta ejecutar un script sin haberlo revisado.

Paso 2: descarga un modelo pequeño

Ilustración: un repartidor con la gorra y la chaqueta de Hugging Face lleva en una carretilla tres cajas con su logotipo hasta la puerta de una mujer, que lo recibe con un portátil bajo el brazo y le indica dónde dejarlas.
📷 Imagen generada con IA

No hace falta descargar el modelo a mano: el servidor lo baja de Hugging Face con la opción `-hf`, seguida del repositorio y, si se quiere, de la versión concreta del fichero. Según la documentación, si no se indica, busca la versión Q4_K_M y, si no existe, toma el primer fichero del repositorio.

Como ejemplo sirve `ggml-org/Qwen3.5-0.8B-GGUF`, el mismo que usa la documentación: un modelo de 0,8B, es decir, 800 millones de parámetros, con licencia Apache 2.0. Su repositorio no tiene versión Q4_K_M, así que conviene pedir la que se quiere de forma explícita, por ejemplo `:Q4_0`.

Leer más: Cómo saber si un modelo cabe en tu GPU, en otra lección ↗

El mismo modelo, en tres tamaños

Las tres versiones del modelo de ejemplo
Fichero Bits por peso Tamaño
Q4_0 4 563 MB
Q8_0 8 834 MB
BF16 16 1,56 GB
Datos de la ficha de ggml-org/Qwen3.5-0.8B-GGUF en Hugging Face.

Las letras y cifras que siguen a los dos puntos, como Q4_0 o BF16, indican cuántos bits se usan para guardar cada número. El repositorio de ejemplo ofrece tres ficheros, y la tabla muestra cómo cambia el tamaño de la descarga con cada uno.

La ficha del modelo no da datos de calidad ni de velocidad de cada versión, así que la tabla solo sirve para saber cuánto se descarga. Para un primer servidor de pruebas, esta guía usa la más ligera, Q4_0.

Paso 3: arranca el servidor y pregúntale

Ilustración: un camarero, con la comanda en la mano, recoge la bandeja que le tiende desde la cocina una llama con gorro de cocinero, mientras en la mesa un cliente espera con el móvil en la mano.
📷 Imagen generada con IA

El servidor se arranca con una sola orden: `llama-server -hf ggml-org/Qwen3.5-0.8B-GGUF:Q4_0`. Según la documentación, escucha por defecto en `127.0.0.1:9931`, es decir, solo en tu propio equipo y en el puerto 9931, y en esa misma dirección hay una interfaz web para chatear. Para saber si ya ha cargado el modelo, la ruta `/health` informa de su estado.

Para preguntarle desde otra terminal, el ejemplo oficial, con solo el texto del mensaje cambiado, es este: `curl http://localhost:9931/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer no-key" -d '{"model": "gpt-3.5-turbo", "messages": [{"role": "user", "content": "Explícame qué es un servidor en una frase"}]}'`. La respuesta llega en formato JSON, con el texto generado dentro del campo `choices`.

El nombre `gpt-3.5-turbo` y la cabecera `Bearer no-key` se copian tal cual del ejemplo oficial: según la documentación, la lista de modelos del servidor siempre tiene un único elemento. Si abres el servidor a tu red local con `--host 0.0.0.0`, protégelo con una clave mediante `--api-key`, porque por defecto no exige ninguna.

Paso 4: que no se actualice solo

Con la 1.0, todo lo que empiece por 1 debería mantener la API, y un futuro 2.0 avisará de que algo se rompe. Pero los gestores de paquetes no siempre siguen esa numeración, así que la forma de protegerse cambia en cada sistema.

En Windows, el paquete de Winget, `ggml.llamacpp`, no usa los números 1.x: se numera por compilación nocturna (b12456 el 17 de noviembre) y se actualiza con cada una, de modo que un comodín como `1.*` no casa con ninguna versión. Hay dos salidas. La primera es bloquear las actualizaciones con `winget pin add --id ggml.llamacpp --blocking` y quitar el bloqueo con `winget pin remove --id ggml.llamacpp` cuando se quiera actualizar. La segunda es no usar Winget y descargar de GitHub el zip para Windows de la compilación que corresponde a la versión: la página de la v1.0.0 enlaza la b12359, donde están esos ficheros.

En macOS y Linux, Homebrew sí sigue las versiones etiquetadas: hoy instala la 1.0.0. No admite rangos, pero `brew pin llama.cpp` congela la versión instalada y `brew unpin llama.cpp` vuelve a permitir las actualizaciones.

En un script propio, la idea es leer `llama-server --version` antes de arrancar y detenerse si no coincide con la versión que has probado. Y quien compile el código debe partir de las etiquetas v1.x.y, no de las compilaciones nocturnas.

Conclusión

La 1.0 no cambia lo que hace llama.cpp, sino lo que promete a quien construye encima: según ggml-org, las rupturas llegarán anunciadas por el primer número de la versión. Con cuatro órdenes se tiene en el propio ordenador un servicio que muchas aplicaciones pueden usar como si fuera la API de OpenAI, y congelar la versión instalada permite decidir cuándo actualizar.

Fuentes primarias

Comentarios

Sé respetuoso. Los comentarios se moderan.

    La continuación natural

    Aprende IA a tu ritmo con nuestros cursos gratuitos.

    En nuestra plataforma de aprendizaje TAKU podrás acceder a este y muchos otros cursos de manera totalmente gratuita.

    APRENDER CON TAKU

    ← Volver al blog