Aprenent IA
llama.cpp 1.0: munta el teu propi servidor d'IA a casa
llama.cpp, el programa de codi obert per executar models de llenguatge en un ordinador propi, va publicar la versió 1.0 el 13 de novembre. Segons ggml-org, l'organització que el publica i l'equip fundador de la qual es va incorporar al febrer a Hugging Face, a partir d'ara qualsevol canvi que obligui a reescriure els programes que s'hi basen arribarà amb un salt del primer número. Aquesta guia explica què vol dir aquesta promesa i com muntar en quatre passos el teu propi servidor d'IA local.
En resum
- llama.cpp v1.0.0 va sortir a GitHub el 13 de novembre de 2026, juntament amb ggml v1.0.0, la biblioteca de càlcul sobre la qual funciona.
- Segons ggml-org, el primer número de la versió només pujarà quan un canvi trenqui els programes que fan servir les seves biblioteques; el segon i el tercer no haurien de trencar res.
- La mateixa 1.0 ja és un canvi d'aquest tipus: segons les notes de la versió de ggml-org, retira 35 funcions marcades com a obsoletes.
- Amb quatre ordres s'instal·la, es descarrega un model de 563 MB i s'arrenca un servidor que, per defecte, només atén dins del mateix equip, al port 9931.
llama.cpp arriba a la 1.0
El 13 de novembre de 2026, ggml-org va publicar a GitHub la versió v1.0.0 de llama.cpp i, alhora, la v1.0.0 de ggml, la biblioteca de càlcul sobre la qual es construeix el programa. L'anunci va sortir al blog de Hugging Face —la plataforma on la comunitat publica models i dades d'IA oberts, que Nvidia va acordar comprar al setembre— i el signen Daniel Bevenius, Georgi Gerganov i merve, de ggml-org.
Segons aquest anunci, el projecte fa tres anys i mig i moltes aplicacions ja depenen de la seva feina, així que necessita una base «flexible però estable». ggml-org assegura que llama.cpp admet més de 150 variants d'arquitectura de models i que ggml està pensada per funcionar en pràcticament qualsevol maquinari, amb un component específic per a cada tipus de màquina que es pot carregar en arrencar.
Per a qui només el vol fer servir, la novetat és al número: a partir d'ara dirà quan una actualització pot obligar a canviar alguna cosa.
El que promet el número 1
| Canvia el… | Quan | Pot trencar el teu programa? |
|---|---|---|
| Primer (major: 1.x.x → 2.0.0) | Canvi incompatible a l'API pública en C | Sí |
| Segon (menor: 1.0 → 1.1) | Funcions noves compatibles, suport de models o de maquinari | No |
| Tercer (pedaç: 1.0.0 → 1.0.1) | Correcció d'errors sense canviar l'API | No |
Segons ggml-org, des d'aquesta versió llama.cpp i ggml assenyalaran amb un salt de la versió major qualsevol incompatibilitat de la seva API, i seran més estrictes amb aquests límits a mesura que en creixi l'ús. La taula resumeix les regles que l'anunci aplica a tots els projectes de ggml-org que fan servir versionat semàntic.
El projecte manté dos canals de descàrrega. Les versions porten etiquetes com v1.0.0; les compilacions nocturnes, una b seguida d'un número, i la que correspon a aquesta versió és la b12359. A qui busqui estabilitat li interessen les primeres.
El que se'n va i el que arriba
La mateixa 1.0 és el primer salt d'aquest tipus. Segons ggml-org, a les notes de la versió, llama.cpp retira de `llama.h` la funció `llama_set_warmup`, 35 funcions marcades com a obsoletes i l'opció `--defrag-thold`, i reanomena `llama_set_embd_state_src` com a `llama_set_ctx_state_src`. També elimina `clip.h` i concentra la part multimodal a `mtmd`, mentre que ggml 1.0.0 retalla la seva API pública obsoleta. Si el teu codi fa servir aquestes biblioteques, revisa la llista abans d'actualitzar.
A `llama-server`, el servidor del projecte, arriba `/v1/audio/speech` per convertir text en veu, i es reforça la seguretat davant de diversos tipus d'atac a través de la xarxa. Dues capacitats queden desactivades tret que s'activin expressament: `--allow-unauthenticated-tools` i `--media-allow-private-urls`. La versió suma, a més, tres arquitectures de text noves i una interfície web redissenyada, amb grups de converses.
Pas 1: instal·la llama.cpp
Les ordres d'aquesta guia surten de la documentació oficial del projecte. A macOS i Linux s'instal·la amb Homebrew, un gestor de paquets per a aquests dos sistemes: `brew install llama.cpp`. A Windows, amb Winget, el gestor de paquets de Microsoft: `winget install llama.cpp`. Segons la documentació, tots dos paquets es publiquen automàticament amb cada versió nova; a la pràctica, el de Winget segueix cada compilació nocturna, com s'explica al pas 4. Hi ha alternatives amb conda-forge, MacPorts i Nix.
Per comprovar la instal·lació, `llama-server --version` mostra la versió i les dades de la compilació. La portada del projecte també ofereix un instal·lador que es descarrega i s'executa directament des d'internet; amb un gestor de paquets no cal executar un script sense haver-lo revisat.
Pas 2: descarrega un model petit
No cal descarregar el model a mà: el servidor el baixa de Hugging Face amb l'opció `-hf`, seguida del repositori i, si es vol, de la versió concreta del fitxer. Segons la documentació, si no s'indica, busca la versió Q4_K_M i, si no existeix, agafa el primer fitxer del repositori.
Com a exemple serveix `ggml-org/Qwen3.5-0.8B-GGUF`, el mateix que fa servir la documentació: un model de 0,8B, és a dir, 800 milions de paràmetres, amb llicència Apache 2.0. El seu repositori no té versió Q4_K_M, així que convé demanar explícitament la que es vol, per exemple `:Q4_0`.
Llegir-ne més: Com saber si un model cap a la teva GPU, en una altra lliçó ↗
El mateix model, en tres mides
| Fitxer | Bits per pes | Mida |
|---|---|---|
| Q4_0 | 4 | 563 MB |
| Q8_0 | 8 | 834 MB |
| BF16 | 16 | 1,56 GB |
Les lletres i xifres que segueixen els dos punts, com Q4_0 o BF16, indiquen quants bits es fan servir per desar cada número. El repositori d'exemple ofereix tres fitxers, i la taula mostra com canvia la mida de la descàrrega amb cadascun.
La fitxa del model no dona dades de qualitat ni de velocitat de cada versió, així que la taula només serveix per saber quant es descarrega. Per a un primer servidor de proves, aquesta guia fa servir la més lleugera, Q4_0.
Pas 3: arrenca el servidor i pregunta-li
El servidor s'arrenca amb una sola ordre: `llama-server -hf ggml-org/Qwen3.5-0.8B-GGUF:Q4_0`. Segons la documentació, escolta per defecte a `127.0.0.1:9931`, és a dir, només al teu propi equip i al port 9931, i en aquesta mateixa adreça hi ha una interfície web per xatejar. Per saber si ja ha carregat el model, la ruta `/health` informa del seu estat.
Per preguntar-li des d'un altre terminal, l'exemple oficial, amb només el text del missatge canviat, és aquest: `curl http://localhost:9931/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer no-key" -d '{"model": "gpt-3.5-turbo", "messages": [{"role": "user", "content": "Explica'm què és un servidor en una frase"}]}'`. La resposta arriba en format JSON, amb el text generat dins del camp `choices`.
El nom `gpt-3.5-turbo` i la capçalera `Bearer no-key` es copien tal com són a l'exemple oficial: segons la documentació, la llista de models del servidor sempre té un únic element. Si obres el servidor a la teva xarxa local amb `--host 0.0.0.0`, protegeix-lo amb una clau mitjançant `--api-key`, perquè per defecte no n'exigeix cap.
Pas 4: que no s'actualitzi sol
Amb la 1.0, tot el que comenci per 1 hauria de mantenir l'API, i un futur 2.0 avisarà que alguna cosa es trenca. Però els gestors de paquets no sempre segueixen aquesta numeració, així que la manera de protegir-se canvia en cada sistema.
A Windows, el paquet de Winget, `ggml.llamacpp`, no fa servir els números 1.x: es numera per compilació nocturna (b12456 el 17 de novembre) i s'actualitza amb cadascuna, de manera que un comodí com `1.*` no coincideix amb cap versió. Hi ha dues sortides. La primera és bloquejar les actualitzacions amb `winget pin add --id ggml.llamacpp --blocking` i treure el bloqueig amb `winget pin remove --id ggml.llamacpp` quan es vulgui actualitzar. La segona és no fer servir Winget i descarregar de GitHub el zip per a Windows de la compilació que correspon a la versió: la pàgina de la v1.0.0 enllaça la b12359, on hi ha aquests fitxers.
A macOS i Linux, Homebrew sí que segueix les versions etiquetades: avui instal·la la 1.0.0. No admet rangs, però `brew pin llama.cpp` congela la versió instal·lada i `brew unpin llama.cpp` torna a permetre les actualitzacions.
En un script propi, la idea és llegir `llama-server --version` abans d'arrencar i aturar-se si no coincideix amb la versió que has provat. I qui compili el codi ha de partir de les etiquetes v1.x.y, no de les compilacions nocturnes.
Conclusió
La 1.0 no canvia el que fa llama.cpp, sinó el que promet a qui hi construeix a sobre: segons ggml-org, les ruptures arribaran anunciades pel primer número de la versió. Amb quatre ordres es pot tenir a l'ordinador propi un servei que moltes aplicacions poden fer servir com si fos l'API d'OpenAI, i congelar la versió instal·lada permet decidir quan actualitzar.
Fonts primàries
- GitHub (ggml-org/llama.cpp) — Release v1.0.0 (13-11-2026) ↗
- GitHub (ggml-org/llama.cpp) — Release b12359 (13-11-2026) ↗
- Hugging Face — llama.cpp v1.0.0: A stronger foundation for the local AI ecosystem (13-11-2026) ↗
- Hugging Face — GGML and llama.cpp join HF to ensure the long-term progress of Local AI (20-02-2026) ↗
- GitHub (ggml-org/llama.cpp) — README ↗
- GitHub (ggml-org/llama.cpp) — Install pre-built version of llama.cpp ↗
- GitHub (ggml-org/llama.cpp) — LLaMA.cpp HTTP Server ↗
- Hugging Face — ggml-org/Qwen3.5-0.8B-GGUF ↗
- GitHub (microsoft/winget-pkgs) — Manifiestos de ggml.llamacpp (consultado el 17-11-2026) ↗
- Homebrew — llama.cpp formula (consultado el 17-11-2026) ↗
- Microsoft Learn — Use the WinGet tool to manage package pins ↗
- Homebrew — FAQ ↗
- Nvidia — NVIDIA to Acquire Hugging Face (03-09-2026) ↗
- AI Informator — Mide si un modelo cabe en tu GPU (24-10-2026) ↗
- AI Informator — llama.cpp suma soporte para la arquitectura Spark2_5 (07-09-2026) ↗
La continuació natural
Aprèn IA al teu ritme amb els nostres cursos gratuïts.
A la nostra plataforma d'aprenentatge TAKU podràs accedir a aquest i a molts altres cursos de manera totalment gratuïta.
APRENDRE AMB TAKU
Comentaris