Codi obert
llama.cpp suma suport per a l'arquitectura Spark2_5
El projecte d'inferència local llama.cpp va fusionar diumenge un canvi que permet convertir, carregar i executar models amb l'arquitectura Spark2_5. El que aquí es verifica és feina d'integració en el codi del projecte, no el llançament d'un model.
Rep el resum diari d'IA
Cada matí, l'essencial de la intel·ligència artificial al teu correu, sense fum. Al dia amb la IA.
En subscriure-t'hi acceptes rebre el butlletí d'AI Informator. Pots donar-te de baixa quan vulguis.
En resum
- La proposta 27868 es va fusionar el 6 de setembre a les 15:43:58 UTC (referència horària).
- Les fitxes GGUF (format de fitxer) publicades descriuen una compilació manual d'un fork (bifurcació del codi); no s'han verificat els binaris de distribució general.
Què afegeix el canvi
L'aportació registra l'arquitectura Spark2_5ForCausalLM en el convertidor a GGUF, el format amb què llama.cpp desa pesos i metadades d'un model en un únic fitxer. Després, aquests pesos es poden convertir en un arxiu que el programa sap llegir.
El canvi incorpora també el reconeixement del tokenitzador de Spark2_5 —la peça que divideix el text en unitats abans de processar-lo— i el circuit de càlcul que permet carregar el model i generar respostes. Segons l'autor, no va caldre programar operacions noves.
El que encara no implica
Les fitxes dels fitxers GGUF de Spark-X2.5 a Hugging Face expliquen com fer-los servir amb Ollama i LM Studio, però a partir d'una compilació manual d'un fork —una bifurcació del codi— mantingut per XHToken. No són binaris oficials.
Que el codi estigui fusionat a la branca principal tampoc no significa que les versions distribuïdes d'aquestes eines ja l'incloguin: cada projecte actualitza la seva còpia de llama.cpp al seu ritme. Les comprovacions citades corresponen a l'autor de la proposta.
Conclusió
La integració apropa Spark2_5 a l'ecosistema d'inferència local, tot i que les instruccions publicades passen per una compilació manual. Queda per verificar quan ho recolliran les versions distribuïdes de cada eina.
Fonts primàries
Rep el resum diari d'IA
Cada matí, l'essencial de la intel·ligència artificial al teu correu, sense fum. Al dia amb la IA.
En subscriure-t'hi acceptes rebre el butlletí d'AI Informator. Pots donar-te de baixa quan vulguis.
Comentarios