NVIDIA entrena un model propi per repartir els seus escassos xips entre les seves fàbriques

De l'oblia al primer token: dos rellotges que corren alhora

NVIDIA mesura el rendiment de la seva cadena de subministrament en dos trams. El primer, el time-to-rack (temps fins al rack, l'armari de servidors muntat), va des que el silici surt de la fàbrica d'oblies fins que un sistema acabat arriba a la planta d'un centre de dades. El segon, el time-to-token (temps fins al primer token), cobreix tot el que ve després: energia, refrigeració, xarxa i la pila de programari que fa productiva aquesta infraestructura des del primer dia.

L'escala explica per què el primer tram és tan difícil de comprimir. Les plataformes NVIDIA Grace Blackwell NVL72 es basen en milions de peces i milers de proveïdors repartits per tot el món, i el sistema final el munten desenes d'OEM i ODM. Una sola safata de còmput —una de les divuit que caben en un rack— necessita dues CPU Grace, quatre GPU Blackwell i trenta-dues piles de memòria HBM3e. I la cadena de subministrament creada per a Vera Rubin és el doble de gran que la de Grace Blackwell.

Cadascun d'aquests components crítics arrossega la seva pròpia llista de materials, els seus proveïdors i els seus terminis de lliurament, i la seva disponibilitat canvia d'una setmana a l'altra: la peça que frena un muntatge aquesta setmana pot sobrar la següent. Multiplicat per cada subconjunt del rack, el problema deixa d'assemblar-se a una cadena de subministrament i comença a assemblar-se a un problema de combinatòria.

El rellotge que NVIDIA vigila: Time of Ownership

Els fabricants per contracte no poden començar a muntar fins que han arribat tots els components, i aquests venen de tres orígens diferents: peces que envia NVIDIA, peces que NVIDIA deixa en consignació i peces dels proveïdors. L'ideal és que arribin alhora; quan això no passa, el que ha arribat aviat espera el que arriba tard.

NVIDIA posa en marxa el cronòmetre en el moment en què una planta rep material i l'atura quan aquest material en surt convertit en subconjunt o producte. Aquesta mètrica l'anomena Time of Ownership (TOO). D'aquí neix el que la companyia anomena el problema d'assignació de material crític: decidir quin material i quant va a cada planta, una cosa que es refà a mà cada setmana. L'assignació cobreix el trimestre en curs i el següent, amb les setmanes més properes ja compromeses, de manera que les dades noves de cada setmana afecten sobretot el que passarà més endavant.

Un centre de comandament sobre Palantir Foundry

L'equip d'operacions de la cadena de subministrament de NVIDIA va treballar amb Palantir per construir una vista unificada de tot el que entra en una decisió d'assignació. En diuen Digital Supply Chain Intelligence, i la seva funció és fer emergir riscos, bloquejos i altres senyals que abans quedaven enterrats en fonts de dades inconnexes.

A sota, Palantir Foundry aporta el context operatiu. La seva Ontology connecta materials, plantes de fabricació, compromisos, capacitat, assignacions, producció i senyals qualitatius no estructurats en una única capa de dades governada. Està feta d'objectes i enllaços en comptes de files i taules, cosa que, segons NVIDIA, forma una representació completa de la realitat operativa.

Aquesta representació permet als planificadors simular i analitzar escenaris diferents, amb un accés molt més ampli a l'espai de decisió.

cuOpt resol la part quantitativa

El repartiment de material entre plantes comença sent un problema quantitatiu: quant de cada material restringit va a quina planta i quan. Al voltant d'aquesta pregunta s'acumula tot el que n'acota la resposta: quins fabricants poden muntar un subconjunt Blackwell determinat, quant pot absorbir cada planta un cop arriba el material i el graf de dependències de cada peça necessària traçat cap enrere, de manera que el solver (resolutor, el programa que busca la solució òptima) sàpiga que una safata de còmput la bloqueja el seu insum més escàs, no la mitjana.

Aquesta restricció que mana no és fixa: es mou entre GPU, CPU i memòria d'una setmana a l'altra, canvia amb els temps d'arribada per les tres rutes de subministrament i depèn dels compromisos ja adquirits amb clients, que determinen quant costa realment un dèficit en una planta concreta. Milers de variables i restriccions acaben resolent-se en una única assignació setmanal.

D'això se n'encarrega NVIDIA cuOpt, una llibreria de codi obert d'optimització accelerada per GPU. Pren les entrades de l'Ontology i escriu el resultat de tornada com a decisió d'assignació. El problema es planteja com un mixed-integer linear program (programa lineal enter mixt) que té per objectiu minimitzar el TOO. cuOpt retorna alguna cosa més que el repartiment: informa de quines restriccions són les que limiten, de manera que un planificador pot veure que el que va frenar la xifra de la setmana va ser la capacitat a Taiwan i no el subministrament de memòria. Com que resol de pressa, els planificadors poden explorar l'entorn de la resposta —què passaria amb un deu per cent menys de memòria, o si entrés en servei una planta nova— i passar de demanar-li una resposta al resolutor a preguntar-li pels compromisos entre alternatives.

On les matemàtiques es quedaven curtes

NVIDIA i Palantir van contrastar decisions històriques d'assignació amb el que va passar després de debò, i l'exercici va revelar un factor humà que cuOpt no estava capturant. Els planificadors treballaven amb informació invisible per al resolutor: els correus intercanviats amb els socis aquella setmana, un temporal previst en una regió clau o un esdeveniment geopolític en curs, la transcripció de l'última trucada de balanç amb un proveïdor i anys d'experiència acumulada.

Amb aquest diagnòstic, totes dues companyies van redissenyar el flux de treball al voltant dels experts humans. El sistema registra la decisió d'assignació, el raonament que hi ha al darrere, el resultat esperat i el resultat real. El coneixement institucional es converteix així en lògica de decisió explícita i revisable, i com que viu a l'Ontology, serveix de base per entrenar un model de llenguatge amb el criteri dels experts.

Un model petit entrenat amb decisions reals

NVIDIA va post-entrenar un model de llenguatge open-weight (de pesos oberts: els paràmetres del model es publiquen i qualsevol els pot ajustar) perquè apliqués aquest mateix raonament i emetés una recomanació. Després d'avaluar diversos models Nemotron, va triar Nemotron 3.5 Lightning perquè està concebut per a la capa d'execució d'un flux agèntic, dins d'un sistema de models en què les variants més grans s'ocupen de l'orquestració i de les tasques generals.

La seva arquitectura mixture-of-experts (barreja d'experts: només s'activa una fracció de la xarxa a cada pas) li dona una inferència molt eficient. Amb 30.000 milions de paràmetres i uns 3.000 milions d'actius per passada, és lleuger però encara prou gran per aprendre una política concreta. Aquesta mida és el que fa practicable el bucle de post-entrenament, perquè els models petits aprenen abans i demanen molt menys còmput per entrenar-se i desplegar-se.

Com que és obert, Nemotron es pot post-entrenar dins del perímetre de còmput de la mateixa organització, sense exposar les dades a fora. El model aprèn dels senyals que fan servir els planificadors: quant material restringit es va oferir a una planta, què es va comprometre a produir el fabricant, què va produir finalment i quina evidència operativa qualitativa hi havia disponible quan es va prendre la decisió. L'objectiu és codificar una política d'assignació capaç d'avaluar el risc de producció, recomanar un rang d'assignació, identificar els factors que sustenten la recomanació i explicar el seu raonament a l'equip.

De l'Ontology al model especialitzat

L'entrenament arrenca amb l'historial operatiu desat a l'Ontology de Palantir i passa per quatre etapes. NeMo Anonymizer elimina la informació personal identificable i ofusca els camps sensibles abans d'entrenar. NeMo Data Designer genera dades sintètiques per ampliar i equilibrar els exemples, de manera que el model vegi no només setmanes rutinàries, sinó també augments d'assignació, limitacions de capacitat i escenaris de disrupció. NeMo AutoModel fa l'ajust supervisat entrenant un conjunt petit de paràmetres LoRA mentre els pesos base queden congelats, cosa que retalla temps d'entrenament, memòria i mida dels punts de control. Finalment, un backtest point-in-time (retrospectiva amb la informació disponible a cada data) reprodueix les mateixes decisions històriques amb el model base i amb l'ajustat, per aïllar què hi va aportar el post-entrenament.

Aquest mateix registre fa de banc de proves. Cada decisió es reprodueix només amb el que era conegut aquell dia, s'amaga el resultat i es compara la recomanació del model amb la del planificador i amb el que va passar de debò. La pregunta que respon l'avaluació és directa: si aquest model hagués estat funcionant el mes passat, hauria encertat l'assignació?

Palantir Autopilot gestiona el cicle de vida de punta a punta: llança cada treball a partir de les dades de l'Ontology, supervisa el model Nemotron personalitzat ja desplegat i manté la traçabilitat des de la dada fins a la versió del model i la recomanació. Un cop en producció, el model llegeix el context operatiu actual i retorna una recomanació amb la seva justificació i els riscos associats. El planificador la revisa i pren la decisió final.

Els números del banc de proves

NVIDIA va comparar tres models sobre la mateixa tasca i les mateixes dades d'avaluació: el Nemotron 3.5 Lightning base (BF16), Nemotron 3 Ultra (NVFP4) i el seu propi Lightning postentrenat (BF16). Al benchmark de desenvolupament, el Lightning postentrenat va arribar a un 86,7% d'encert en decisions d'assignació. Ultra es va quedar al 55,5% i el Lightning base al 17,5%: 31,2 punts percentuals d'avantatge sobre Ultra i 69,2 sobre la seva pròpia versió de partida.

També va al davant en les dues mètriques que ponderen igual tots els tipus de decisió en comptes de tots els exemples. L'exactitud equilibrada, que fa la mitjana de la sensibilitat per classe perquè les decisions rares comptin tant com les freqüents, és del 58,6% davant del 42,0% d'Ultra. El macro-F1, que fa la mitjana del F1 per classe i hi incorpora la precisió perquè un model no pugui inflar la sensibilitat predient de més una classe rara, queda en 57,5% davant del 39,5%. Totes dues importen perquè, amb subministrament restringit, els planificadors retallen assignacions molt més sovint del que les apugen, de manera que l'exactitud a seques afavoriria qui es limités a apostar sempre per la classe majoritària.

La mateixa NVIDIA acota l'abast del resultat: el model petit no és més capaç en general, les seves millores es concentren en el domini en què va ser postentrenat, i la previsió de risc de producció futura va continuar resultant difícil malgrat l'ajust fi. L'especialització va millorar la tasca de decisió, però no va resoldre tots els problemes de predicció que hi estan associats. Convé recordar que aquestes xifres vénen del benchmark intern definit per les mateixes companyies, no d'una avaluació independent. L'entrenament LoRA va acabar en minuts sobre dues GPU NVIDIA B200, prou lleuger com per repetir-lo a mesura que s'acumula retroalimentació.

Una cadena de subministrament que aprèn

Cada acceptació, edició, rebuig i resultat de producció s'escriu de tornada a l'Ontology i s'acumula fins que hi ha prou dades representatives per justificar una altra ronda d'entrenament governada. NVIDIA apunta que en el futur aquesta retroalimentació es farà servir per a aprenentatge per reforç: les recomanacions acceptades i les rebutjades formarien parells de preferència amb recompenses per correcció de l'assignació, compliment de la política i fonamentació en evidències. La companyia subratlla que el model no es reentrena mai tot sol en producció.

El benefici, segons NVIDIA, es compon per dues vies: els planificadors dediquen menys temps a reconstruir decisions rutinàries, amb la qual cosa cobreixen més plantes i productes, i l'experiència d'assignació passa a ser coneixement institucional, cosa que escurça la incorporació de personal nou i propaga els aprenentatges per l'organització.

L'esquema no és exclusiu dels semiconductors. Qualsevol operació en què gent amb experiència reparteixi capacitat crítica a partir de senyals fragmentats pot muntar el mateix bucle, sempre que disposi de tres coses: una capa operativa governada, un registre de decisions que inclogui tant el raonament com el resultat, i un model obert que es pugui post-entrenar dins del seu propi perímetre de còmput segur.