Aprenent IA

llama.cpp 1.0: munta el teu propi servidor d'IA a casa

llama.cpp, el programa de codi obert per executar models de llenguatge en un ordinador propi, va publicar la versió 1.0 el 13 de novembre. Segons ggml-org, l'organització que el publica i l'equip fundador de la qual es va incorporar al febrer a Hugging Face, a partir d'ara qualsevol canvi que obligui a reescriure els programes que s'hi basen arribarà amb un salt del primer número. Aquesta guia explica què vol dir aquesta promesa i com muntar en quatre passos el teu propi servidor d'IA local.

Il·lustració: en un estudi casolà ple de llibres i plantes, una dona somriu davant del seu portàtil, connectat amb un cable a un petit servidor sobre la taula, mentre al costat reposa una llama amb una escarapel·la blava de l'«1.0».
📷 Imatge generada amb IA

En resum

  • llama.cpp v1.0.0 va sortir a GitHub el 13 de novembre de 2026, juntament amb ggml v1.0.0, la biblioteca de càlcul sobre la qual funciona.
  • Segons ggml-org, el primer número de la versió només pujarà quan un canvi trenqui els programes que fan servir les seves biblioteques; el segon i el tercer no haurien de trencar res.
  • La mateixa 1.0 ja és un canvi d'aquest tipus: segons les notes de la versió de ggml-org, retira 35 funcions marcades com a obsoletes.
  • Amb quatre ordres s'instal·la, es descarrega un model de 563 MB i s'arrenca un servidor que, per defecte, només atén dins del mateix equip, al port 9931.

llama.cpp arriba a la 1.0

El 13 de novembre de 2026, ggml-org va publicar a GitHub la versió v1.0.0 de llama.cpp i, alhora, la v1.0.0 de ggml, la biblioteca de càlcul sobre la qual es construeix el programa. L'anunci va sortir al blog de Hugging Face —la plataforma on la comunitat publica models i dades d'IA oberts, que Nvidia va acordar comprar al setembre— i el signen Daniel Bevenius, Georgi Gerganov i merve, de ggml-org.

Segons aquest anunci, el projecte fa tres anys i mig i moltes aplicacions ja depenen de la seva feina, així que necessita una base «flexible però estable». ggml-org assegura que llama.cpp admet més de 150 variants d'arquitectura de models i que ggml està pensada per funcionar en pràcticament qualsevol maquinari, amb un component específic per a cada tipus de màquina que es pot carregar en arrencar.

Per a qui només el vol fer servir, la novetat és al número: a partir d'ara dirà quan una actualització pot obligar a canviar alguna cosa.

El que promet el número 1

Què vol dir cada número de la versió
Canvia el… Quan Pot trencar el teu programa?
Primer (major: 1.x.x → 2.0.0) Canvi incompatible a l'API pública en C Sí
Segon (menor: 1.0 → 1.1) Funcions noves compatibles, suport de models o de maquinari No
Tercer (pedaç: 1.0.0 → 1.0.1) Correcció d'errors sense canviar l'API No
Regles de versionat dels projectes de ggml-org, segons el seu anunci al blog de Hugging Face.
Il·lustració: en un taller, un home amb davantal gira l'últim dels tres dials d'un aparell, marcats 1, 0 i 0, al costat d'un senyal d'avís i amb una petita llama al damunt; al fons, un company s'hi treu el cap.
📷 Imatge generada amb IA

Segons ggml-org, des d'aquesta versió llama.cpp i ggml assenyalaran amb un salt de la versió major qualsevol incompatibilitat de la seva API, i seran més estrictes amb aquests límits a mesura que en creixi l'ús. La taula resumeix les regles que l'anunci aplica a tots els projectes de ggml-org que fan servir versionat semàntic.

El projecte manté dos canals de descàrrega. Les versions porten etiquetes com v1.0.0; les compilacions nocturnes, una b seguida d'un número, i la que correspon a aquesta versió és la b12359. A qui busqui estabilitat li interessen les primeres.

El que se'n va i el que arriba

La mateixa 1.0 és el primer salt d'aquest tipus. Segons ggml-org, a les notes de la versió, llama.cpp retira de `llama.h` la funció `llama_set_warmup`, 35 funcions marcades com a obsoletes i l'opció `--defrag-thold`, i reanomena `llama_set_embd_state_src` com a `llama_set_ctx_state_src`. També elimina `clip.h` i concentra la part multimodal a `mtmd`, mentre que ggml 1.0.0 retalla la seva API pública obsoleta. Si el teu codi fa servir aquestes biblioteques, revisa la llista abans d'actualitzar.

A `llama-server`, el servidor del projecte, arriba `/v1/audio/speech` per convertir text en veu, i es reforça la seguretat davant de diversos tipus d'atac a través de la xarxa. Dues capacitats queden desactivades tret que s'activin expressament: `--allow-unauthenticated-tools` i `--media-allow-private-urls`. La versió suma, a més, tres arquitectures de text noves i una interfície web redissenyada, amb grups de converses.

Pas 1: instal·la llama.cpp

Les ordres d'aquesta guia surten de la documentació oficial del projecte. A macOS i Linux s'instal·la amb Homebrew, un gestor de paquets per a aquests dos sistemes: `brew install llama.cpp`. A Windows, amb Winget, el gestor de paquets de Microsoft: `winget install llama.cpp`. Segons la documentació, tots dos paquets es publiquen automàticament amb cada versió nova; a la pràctica, el de Winget segueix cada compilació nocturna, com s'explica al pas 4. Hi ha alternatives amb conda-forge, MacPorts i Nix.

Per comprovar la instal·lació, `llama-server --version` mostra la versió i les dades de la compilació. La portada del projecte també ofereix un instal·lador que es descarrega i s'executa directament des d'internet; amb un gestor de paquets no cal executar un script sense haver-lo revisat.

Pas 2: descarrega un model petit

Il·lustració: un repartidor amb la gorra i la jaqueta de Hugging Face porta en un carretó tres caixes amb el seu logotip fins a la porta d'una dona, que el rep amb un portàtil sota el braç i li indica on deixar-les.
📷 Imatge generada amb IA

No cal descarregar el model a mà: el servidor el baixa de Hugging Face amb l'opció `-hf`, seguida del repositori i, si es vol, de la versió concreta del fitxer. Segons la documentació, si no s'indica, busca la versió Q4_K_M i, si no existeix, agafa el primer fitxer del repositori.

Com a exemple serveix `ggml-org/Qwen3.5-0.8B-GGUF`, el mateix que fa servir la documentació: un model de 0,8B, és a dir, 800 milions de paràmetres, amb llicència Apache 2.0. El seu repositori no té versió Q4_K_M, així que convé demanar explícitament la que es vol, per exemple `:Q4_0`.

Llegir-ne més: Com saber si un model cap a la teva GPU, en una altra lliçó ↗

El mateix model, en tres mides

Les tres versions del model d'exemple
Fitxer Bits per pes Mida
Q4_0 4 563 MB
Q8_0 8 834 MB
BF16 16 1,56 GB
Dades de la fitxa de ggml-org/Qwen3.5-0.8B-GGUF a Hugging Face.

Les lletres i xifres que segueixen els dos punts, com Q4_0 o BF16, indiquen quants bits es fan servir per desar cada número. El repositori d'exemple ofereix tres fitxers, i la taula mostra com canvia la mida de la descàrrega amb cadascun.

La fitxa del model no dona dades de qualitat ni de velocitat de cada versió, així que la taula només serveix per saber quant es descarrega. Per a un primer servidor de proves, aquesta guia fa servir la més lleugera, Q4_0.

Pas 3: arrenca el servidor i pregunta-li

Il·lustració: un cambrer, amb la comanda a la mà, recull la safata que li allarga des de la cuina una llama amb barret de cuiner, mentre a la taula un client espera amb el mòbil a la mà.
📷 Imatge generada amb IA

El servidor s'arrenca amb una sola ordre: `llama-server -hf ggml-org/Qwen3.5-0.8B-GGUF:Q4_0`. Segons la documentació, escolta per defecte a `127.0.0.1:9931`, és a dir, només al teu propi equip i al port 9931, i en aquesta mateixa adreça hi ha una interfície web per xatejar. Per saber si ja ha carregat el model, la ruta `/health` informa del seu estat.

Per preguntar-li des d'un altre terminal, l'exemple oficial, amb només el text del missatge canviat, és aquest: `curl http://localhost:9931/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer no-key" -d '{"model": "gpt-3.5-turbo", "messages": [{"role": "user", "content": "Explica'm què és un servidor en una frase"}]}'`. La resposta arriba en format JSON, amb el text generat dins del camp `choices`.

El nom `gpt-3.5-turbo` i la capçalera `Bearer no-key` es copien tal com són a l'exemple oficial: segons la documentació, la llista de models del servidor sempre té un únic element. Si obres el servidor a la teva xarxa local amb `--host 0.0.0.0`, protegeix-lo amb una clau mitjançant `--api-key`, perquè per defecte no n'exigeix cap.

Pas 4: que no s'actualitzi sol

Amb la 1.0, tot el que comenci per 1 hauria de mantenir l'API, i un futur 2.0 avisarà que alguna cosa es trenca. Però els gestors de paquets no sempre segueixen aquesta numeració, així que la manera de protegir-se canvia en cada sistema.

A Windows, el paquet de Winget, `ggml.llamacpp`, no fa servir els números 1.x: es numera per compilació nocturna (b12456 el 17 de novembre) i s'actualitza amb cadascuna, de manera que un comodí com `1.*` no coincideix amb cap versió. Hi ha dues sortides. La primera és bloquejar les actualitzacions amb `winget pin add --id ggml.llamacpp --blocking` i treure el bloqueig amb `winget pin remove --id ggml.llamacpp` quan es vulgui actualitzar. La segona és no fer servir Winget i descarregar de GitHub el zip per a Windows de la compilació que correspon a la versió: la pàgina de la v1.0.0 enllaça la b12359, on hi ha aquests fitxers.

A macOS i Linux, Homebrew sí que segueix les versions etiquetades: avui instal·la la 1.0.0. No admet rangs, però `brew pin llama.cpp` congela la versió instal·lada i `brew unpin llama.cpp` torna a permetre les actualitzacions.

En un script propi, la idea és llegir `llama-server --version` abans d'arrencar i aturar-se si no coincideix amb la versió que has provat. I qui compili el codi ha de partir de les etiquetes v1.x.y, no de les compilacions nocturnes.

Conclusió

La 1.0 no canvia el que fa llama.cpp, sinó el que promet a qui hi construeix a sobre: segons ggml-org, les ruptures arribaran anunciades pel primer número de la versió. Amb quatre ordres es pot tenir a l'ordinador propi un servei que moltes aplicacions poden fer servir com si fos l'API d'OpenAI, i congelar la versió instal·lada permet decidir quan actualitzar.

Fonts primàries

Comentaris

Sigues respectuós. Els comentaris es moderen.

    La continuació natural

    Aprèn IA al teu ritme amb els nostres cursos gratuïts.

    A la nostra plataforma d'aprenentatge TAKU podràs accedir a aquest i a molts altres cursos de manera totalment gratuïta.

    APRENDRE AMB TAKU

    ← Torna al blog