Infraestructura

DeepSeek regala el motor y se guarda la caja de cambios

DeepSeek publicó el 20 de octubre DeepInfer, el motor de inferencia con el que sirve su modelo V4.1 Flash, con licencia de código abierto Apache 2.0 y versión para los chips Ascend 950 de Huawei. Lo anunció como «totalmente abierto», pero su propio repositorio deja fuera tres piezas necesarias para un servicio completo, y, según la empresa, dos de ellas dependen de su infraestructura interna.

Recibe el resumen diario de IA

Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.

Frecuencia:

Ilustración: un coche de carreras con un gran lazo rojo de regalo, el capó abierto y la ballena de DeepSeek en la matrícula descansa sobre pilas de ladrillos; un desarrollador sonríe al volante mientras otro, agachado, señala lo que falta debajo, y por la pista se aleja el mismo coche completo con los colores de DeepSeek. Representa el motor de inferencia que DeepSeek publica con licencia abierta sin las piezas que lo hacen rendir en su casa.
📷 Imagen generada con IA

En resumen

  • DeepSeek publicó DeepInfer en GitHub el 20 de octubre, con licencia Apache 2.0, para un solo modelo: DeepSeek V4.1 Flash.
  • Funciona en GPU SM100 de Nvidia y en chips Ascend 950 de Huawei.
  • Según su README, faltan tres piezas para un servicio completo; DeepSeek dice que dos dependen de su infraestructura interna y que aún no las ha liberado del todo.
  • Según DeepSeek, un clúster sirve 155 billones de tokens al día e ingresa 38 dólares por hora de GPU en tarifa valle.
  • El margen de alrededor del 80 % es un cálculo de Latent Space que supone un coste de 5 a 8 dólares por tarjeta y hora; con 5 a 10, el propio boletín da entre el 73,7 % y el 86,8 %, contando solo las tarjetas.

Un motor, un modelo y dos fabricantes de chips

DeepSeek es el laboratorio chino de inteligencia artificial que publica modelos abiertos; nació del fondo de inversión cuantitativo High-Flyer y en 2026 ha sumado como inversores al gigante tecnológico chino Tencent y al fabricante de baterías CATL, según el medio económico chino Caixin. Según su README, DeepInfer es el motor que mueve sus servicios de producción a gran escala.

Admite un solo modelo, DeepSeek V4.1 Flash, y descarga por defecto su versión 1017 desde Hugging Face, la plataforma donde se publican modelos de IA para descargar. Corre en las GPU SM100 de Nvidia, la arquitectura Blackwell de sus B200 y GB200, y en los Ascend 950 de Huawei. Lo publicado es inferencia por lotes en el propio equipo, no un servicio en línea listo para atender usuarios.

Trae kernels optimizados, paralelismo para repartir el modelo entre muchas GPU, salidas estructuradas (JSON, expresiones regulares o gramáticas) y, en Nvidia, muestreo determinista, que repite el resultado ante la misma entrada. Según el README, parte sobre todo del motor de código abierto vLLM, con ideas de SGLang y TensorRT-LLM. La licencia Apache 2.0 permite usarlo, modificarlo y redistribuirlo, también con fines comerciales.

Tres piezas fuera del paquete

Lo que DeepSeek libera y lo que se guarda
Pieza En DeepInfer Para qué sirve
Kernels optimizados y motor del modelo Sí Ejecutar V4.1 Flash rápido en cada chip
Paralelismo y reparto del modelo Sí Repartir el modelo entre muchas GPU
Salidas estructuradas y muestreo determinista (este, solo en Nvidia) Sí Respuestas en JSON y resultados repetibles
Soporte de Nvidia SM100 y Huawei Ascend 950 Sí Elegir proveedor de chips
Sistema de caché KV No Reutilizar lo ya leído durante días
Separación prefill/decode No (el motor ya trae la mayor parte) Escalar por separado leer y escribir
Balanceo de carga entre réplicas No Repartir peticiones entre servidores
Según el README de DeepInfer (20-10-2026). DeepSeek dice que la caché KV y el balanceo de carga dependen de su infraestructura interna y que aún no los ha liberado del todo.

El anuncio de DeepSeek en X hablaba de un motor «totalmente abierto», según recoge Latent Space. El README, en cambio, enumera tres piezas «necesarias para un servicio de inferencia completo» que este lanzamiento no incluye: el sistema de caché KV, la separación entre la codificación de imágenes, el prefill y el decode, y el balanceo de carga entre réplicas.

El motivo lo da DeepSeek en su documento de preguntas y respuestas sobre el despliegue: la gestión de la caché KV y el balanceo de carga «están estrechamente acoplados a nuestra infraestructura interna», así que ese código «aún no se ha liberado del todo».

La separación de fases, casi hecha

De las tres ausencias, esta es la menor. El propio README matiza que, de la separación de fases, «la mayor parte de la funcionalidad necesaria del motor ya está implementada»: falta la pieza que la convierte en un servicio.

DeepSeek promete, además, que el código de inferencia de sus próximos modelos y las mejoras de rendimiento se seguirán publicando en DeepInfer.

Las cifras de DeepSeek y las cuentas de otros

Las cifras, y quién las pone
Cifra Valor Quién la da
Tokens servidos al día por un clúster 155 billones DeepSeek
Ingresos por hora de GPU (tarifa valle) 38 dólares DeepSeek
Ingresos al día Unos 22 millones de dólares Cálculo de Latent Space
Margen de inferencia (solo tarjetas) Alrededor del 80 % Cálculo de Latent Space
Amortización 81 días Cálculo de Latent Space
Cifras de DeepSeek, autodeclaradas y sin auditar. Los cálculos de Latent Space suponen un coste de 5 a 8 dólares por tarjeta y hora y no incluyen almacenamiento, red ni personal; con 5 a 10 dólares, el propio boletín da entre el 73,7 % y el 86,8 %.

Los dos datos de producción de la documentación son de DeepSeek: un solo clúster sirve actualmente 155 billones de tokens al día, con unos ingresos de 38 dólares por hora de GPU en tarifa valle, la de menos demanda. Son cifras autodeclaradas, sin auditar, y son ingresos, no beneficio.

Sobre ellas ha echado cuentas Latent Space, un boletín técnico para ingenieros de IA que se publica en Substack y que fundó swyx en 2022. A partir de los tokens servidos, calcula unos 22 millones de dólares de ingresos al día; y con un coste de 5 a 8 dólares por tarjeta y hora, estima un margen de alrededor del 80 % y una amortización de 81 días.

El propio boletín le pone freno: «los ingresos no son beneficio», y con costes de 5 a 10 dólares por hora el cálculo da entre el 73,7 % y el 86,8 %, no un margen único. Esas cuentas dejan fuera los discos de la caché, la red o la ingeniería, y un margen alto en inferencia puede convivir con grandes pérdidas de la empresa, advierte Latent Space.

Huawei, en el primer objetivo del diseño

El primero de los tres objetivos con los que DeepSeek dice haber diseñado el sistema de inferencia de V4.1 Flash es «soportar aceleradores de varios fabricantes». DeepInfer lo cumple con dos: Nvidia, con CUDA 13, y Huawei, con CANN 9.2.

Huawei, el gigante chino de las telecomunicaciones, define sus chips Ascend como «la base de nuestra estrategia de computación de IA». La serie 950 es la primera de las tres que presentó en Huawei Connect 2025 para los tres años siguientes, y CANN es la pila de software con la que se programan, su equivalente a CUDA.

Conclusión

DeepInfer deja en abierto el motor con el que DeepSeek sirve V4.1 Flash, en chips de Nvidia y de Huawei. Servir a escala como lo hace DeepSeek, con una caché que dura días y peticiones repartidas entre réplicas, sigue exigiendo las piezas que la empresa se ha quedado. Según DeepSeek, no las ha liberado «aún» del todo; hasta entonces, el motor llega sin caja de cambios.

Fuentes primarias

Comentarios

Sé respetuoso. Los comentarios se moderan.

    Recibe el resumen diario de IA

    Cada mañana, lo esencial de la inteligencia artificial en tu correo, sin humo. Al día con la IA.

    Frecuencia:

    ← Volver al blog