Infraestructura

DeepSeek regala el motor i es queda la caixa de canvis

DeepSeek va publicar el 20 d'octubre DeepInfer, el motor d'inferència amb què serveix el seu model V4.1 Flash, amb llicència de codi obert Apache 2.0 i una versió per als xips Ascend 950 de Huawei. El va presentar com a «totalment obert», però el seu mateix repositori en deixa fora tres peces necessàries per a un servei complet i, segons l'empresa, dues depenen de la seva infraestructura interna.

Rep el resum diari d'IA

Cada matí, l'essencial de la intel·ligència artificial al teu correu, sense fum. Al dia amb la IA.

Freqüència:

Il·lustració: un cotxe de curses amb un gran llaç vermell de regal, el capó obert i la balena de DeepSeek a la matrícula reposa sobre piles de maons; un desenvolupador somriu al volant mentre un altre, ajupit, assenyala el que falta a sota, i per la pista s'allunya el mateix cotxe complet amb els colors de DeepSeek. Representa el motor d'inferència que DeepSeek publica amb llicència oberta sense les peces que el fan rendir a casa seva.
📷 Imatge generada amb IA

En resum

  • DeepSeek va publicar DeepInfer a GitHub el 20 d'octubre, amb llicència Apache 2.0, per a un sol model: DeepSeek V4.1 Flash.
  • Funciona en GPU SM100 de Nvidia i en xips Ascend 950 de Huawei.
  • Segons el README, falten tres peces per a un servei complet; DeepSeek diu que dues depenen de la seva infraestructura interna i que encara no les ha alliberat del tot.
  • Segons DeepSeek, un clúster serveix 155 bilions de tokens al dia i ingressa 38 dòlars per hora de GPU en tarifa vall.
  • El marge d'al voltant del 80 % és un càlcul de Latent Space que suposa un cost de 5 a 8 dòlars per targeta i hora; amb 5 a 10, el mateix butlletí dona entre el 73,7 % i el 86,8 %, comptant només les targetes.

Un motor, un model i dos fabricants de xips

DeepSeek és el laboratori xinès d'intel·ligència artificial que publica models oberts; va néixer del fons d'inversió quantitativa High-Flyer i el 2026 ha incorporat com a inversors el gegant tecnològic xinès Tencent i el fabricant de bateries CATL, segons el mitjà econòmic xinès Caixin. Segons el README, DeepInfer és el motor que fa funcionar els seus serveis de producció a gran escala.

Només admet un model, DeepSeek V4.1 Flash, i per defecte en descarrega la versió 1017 des de Hugging Face, la plataforma on es publiquen models d'IA per descarregar. Funciona en les GPU SM100 de Nvidia, l'arquitectura Blackwell dels seus B200 i GB200, i en els Ascend 950 de Huawei. El que s'ha publicat és inferència per lots al mateix equip, no un servei en línia a punt per atendre usuaris.

Inclou kernels optimitzats, paral·lelisme per repartir el model entre moltes GPU, sortides estructurades (JSON, expressions regulars o gramàtiques) i, en Nvidia, mostreig determinista, que repeteix el resultat davant la mateixa entrada. Segons el README, parteix sobretot del motor de codi obert vLLM, amb idees de SGLang i TensorRT-LLM. La llicència Apache 2.0 permet fer-lo servir, modificar-lo i redistribuir-lo, també amb finalitats comercials.

Tres peces fora del paquet

El que DeepSeek allibera i el que es queda
Peça A DeepInfer Per a què serveix
Kernels optimitzats i motor del model Sí Executar V4.1 Flash de pressa a cada xip
Paral·lelisme i repartiment del model Sí Repartir el model entre moltes GPU
Sortides estructurades i mostreig determinista (aquest, només en Nvidia) Sí Respostes en JSON i resultats repetibles
Suport de Nvidia SM100 i Huawei Ascend 950 Sí Triar proveïdor de xips
Sistema de memòria cau KV No Reaprofitar durant dies el que ja s'ha llegit
Separació prefill/decode No (el motor ja en porta la major part) Escalar per separat la lectura i l'escriptura
Balanceig de càrrega entre rèpliques No Repartir peticions entre servidors
Segons el README de DeepInfer (20-10-2026). DeepSeek diu que la memòria cau KV i el balanceig de càrrega depenen de la seva infraestructura interna i que encara no els ha alliberat del tot.

L'anunci de DeepSeek a X parlava d'un motor «totalment obert», segons recull Latent Space. El README, en canvi, enumera tres peces «necessàries per a un servei d'inferència complet» que aquest llançament no inclou: el sistema de memòria cau KV, la separació entre la codificació d'imatges, el prefill i el decode, i el balanceig de càrrega entre rèpliques.

El motiu l'explica DeepSeek en el seu document de preguntes i respostes sobre el desplegament: la gestió de la memòria cau KV i el balanceig de càrrega «estan estretament acoblats a la nostra infraestructura interna», així que aquest codi «encara no s'ha alliberat del tot».

La separació de fases, gairebé feta

De les tres absències, aquesta és la menor. El mateix README matisa que, de la separació de fases, «la major part de la funcionalitat necessària del motor ja està implementada»: falta la peça que la converteix en un servei.

DeepSeek promet, a més, que el codi d'inferència dels seus pròxims models i les millores de rendiment es continuaran publicant a DeepInfer.

Les xifres de DeepSeek i els comptes dels altres

Les xifres, i qui les dona
Xifra Valor Qui la dona
Tokens servits al dia per un clúster 155 bilions DeepSeek
Ingressos per hora de GPU (tarifa vall) 38 dòlars DeepSeek
Ingressos al dia Uns 22 milions de dòlars Càlcul de Latent Space
Marge d'inferència (només targetes) Al voltant del 80 % Càlcul de Latent Space
Amortització 81 dies Càlcul de Latent Space
Xifres de DeepSeek, autodeclarades i sense auditar. Els càlculs de Latent Space suposen un cost de 5 a 8 dòlars per targeta i hora i no inclouen emmagatzematge, xarxa ni personal; amb 5 a 10 dòlars, el mateix butlletí dona entre el 73,7 % i el 86,8 %.

Les dues dades de producció de la documentació són de DeepSeek: un sol clúster serveix actualment 155 bilions de tokens al dia, amb uns ingressos de 38 dòlars per hora de GPU en tarifa vall, la de menys demanda. Són xifres autodeclarades, sense auditar, i són ingressos, no beneficis.

A partir d'aquestes xifres ha fet comptes Latent Space, un butlletí tècnic per a enginyers d'IA que es publica a Substack i que va fundar swyx el 2022. Partint dels tokens servits, calcula uns 22 milions de dòlars d'ingressos al dia; i amb un cost de 5 a 8 dòlars per targeta i hora, estima un marge d'al voltant del 80 % i una amortització de 81 dies.

El mateix butlletí hi posa fre: «els ingressos no són beneficis», i amb costos de 5 a 10 dòlars per hora el càlcul dona entre el 73,7 % i el 86,8 %, no un marge únic. Aquests comptes deixen fora els discos de la memòria cau, la xarxa o l'enginyeria, i un marge alt en inferència pot conviure amb grans pèrdues de l'empresa, adverteix Latent Space.

Huawei, en el primer objectiu del disseny

El primer dels tres objectius amb què DeepSeek diu que va dissenyar el sistema d'inferència de V4.1 Flash és «donar suport a acceleradors de diversos fabricants». DeepInfer ho compleix amb dos: Nvidia, amb CUDA 13, i Huawei, amb CANN 9.2.

Huawei, el gegant xinès de les telecomunicacions, defineix els seus xips Ascend com «la base de la nostra estratègia de computació d'IA». La sèrie 950 és la primera de les tres que va presentar a Huawei Connect 2025 per als tres anys següents, i CANN és la pila de programari amb què es programen, el seu equivalent a CUDA.

Conclusió

DeepInfer posa en obert el motor amb què DeepSeek serveix V4.1 Flash, en xips de Nvidia i de Huawei. Servir a gran escala com ho fa DeepSeek, amb una memòria cau que dura dies i peticions repartides entre rèpliques, continua exigint les peces que l'empresa s'ha quedat. Segons DeepSeek, «encara» no les ha alliberat del tot; mentrestant, el motor arriba sense caixa de canvis.

Fonts primàries

Comentaris

Sigues respectuós. Els comentaris es moderen.

    Rep el resum diari d'IA

    Cada matí, l'essencial de la intel·ligència artificial al teu correu, sense fum. Al dia amb la IA.

    Freqüència:

    ← Torna al blog