Código abierto
llama.cpp suma soporte para la arquitectura Spark2_5
El proyecto de inferencia local llama.cpp fusionó el domingo un cambio que permite convertir, cargar y ejecutar modelos con la arquitectura Spark2_5. Lo verificado aquí es trabajo de integración en el código del proyecto, no el lanzamiento de un modelo.
Recibe el resumen diario de IA
Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.
Al suscribirte aceptas recibir el newsletter de AI Informator. Puedes darte de baja cuando quieras.
En resumen
- La propuesta 27868 se fusionó el 6 de septiembre a las 15:43:58 UTC (referencia horaria).
- Las tarjetas GGUF (formato de archivo) publicadas describen una compilación manual de un fork (bifurcación del código); no se han verificado los binarios de distribución general.
Qué añade el cambio
La aportación registra la arquitectura Spark2_5ForCausalLM en el conversor a GGUF, el formato con el que llama.cpp guarda pesos y metadatos de un modelo en un único fichero. Después, esos pesos pueden convertirse en un archivo que el programa sabe leer.
El cambio incorpora también el reconocimiento del tokenizador de Spark2_5 —la pieza que divide el texto en unidades antes de procesarlo— y el circuito de cálculo que permite cargar el modelo y generar respuestas. Según el autor, no fue necesario programar operaciones nuevas.
Lo que aún no implica
Las tarjetas de los ficheros GGUF de Spark-X2.5 en Hugging Face explican cómo usarlos con Ollama y LM Studio, pero a partir de una compilación manual de un fork —una bifurcación del código— mantenido por XHToken. No son binarios oficiales.
Que el código esté fusionado en la rama principal tampoco significa que las versiones distribuidas de esas herramientas lo incluyan ya: cada proyecto actualiza su copia de llama.cpp a su ritmo. Las comprobaciones citadas corresponden al autor de la propuesta.
Conclusión
La integración acerca Spark2_5 al ecosistema de inferencia local, aunque las instrucciones publicadas pasan por una compilación manual. Queda por verificar cuándo lo recogerán las versiones distribuidas de cada herramienta.
Fuentes primarias
Recibe el resumen diario de IA
Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.
Al suscribirte aceptas recibir el newsletter de AI Informator. Puedes darte de baja cuando quieras.
Comentarios