Nvidia CMP 170HX – La VRAM était bien là, bridée par le firmware
Je viens d’apprendre qu’une carte Nvidia normalement dédiée au minage de cryptomonnaies, vendue avec 8 Go de mémoire en expose aujourd’hui 64 Go, sans que rien n’ait été remplacé ou soudé dessus… C’est ça la magie de Nvidia, la mémoire était bien là depuis le début, mais était juste maintenue en sommeil par le firmware.
Cette carte, la CMP 170HX est sortie il y a 5 ans pour miner de l’Ethereum. Elle est bâtie sur le GA100, le même silicium 7 nm que l’accélérateur A100 que Nvidia vend aujourd’hui autour de 3 500 dollars en version 40 Go. Et la mémoire HBM2e qu’on y trouve est physiquement présente sur la carte, quoi qu’affiche la fiche technique. Alors certes, débrider une carte Nvidia par logiciel n’a rien de neuf puisqu’on
transformait déjà des GeForce en Quadro
en 2013.
Mais cette fois, le déverrouillage exploite un bug de chargement de signature dans le BootROM du Falcon, le microcontrôleur de sécurité qui garde le démarrage de la puce. Et ce dernier se fait grâce à
, publié sous licence GPL.
Si vous voulez vous lancer, il vous faudra du Linux x86-64, un accès root et
en version 610.43.0x. Votre carte 8 Go passera ainsi à 64 Go, une carte 10 Go à 40 Go, et les unités de calcul bridées reviendront naturellement avec. Et surtout, ce patch survit au redémarrage !
Le PCIe, lui, ne se déverrouille qu’à moitié. Passer de Gen1 à Gen2 est logiciel, mais la largeur reste coincée à quatre lignes parce que Nvidia a laissé
vides sur le circuit imprimé. Aller au-delà du x4 veut donc dire les souder à la main et ça c’est pas donné à tout le monde.
Reste que ça donne environ 1 Go/s vers la carte. À titre d’exemple, un utilisateur du
a réussi à charger un modèle 70B quantifié en une quarantaine de secondes, contre une dizaine avec la modification matérielle et le Gen2 x16. Pour de l’inférence sur une seule carte, ce goulot ne se paie donc qu’au chargement.
Le même utilisateur mesure un taux de 27,3 tokens par seconde en décodage sur un modèle Qwen2.5-72B, pour 150 à 180 watts, et explique que lors de ses tests, le GPU a réclamé un reset autour de 95% d’occupation mémoire, sur de très grandes fenêtres de contexte. Rien de gênant donc. Deux réserves par contre, et elles ne sont pas décoratives…. La première c’est que l’
figure toujours dans la liste des problèmes non résolus du projet, avec le NVLink et le PCIe Gen4, alors que c’est précisément le mécanisme qui pourrait nous dire si la mémoire déverrouillée tient dans la durée. Et la seconde, c’est que le palier des 80 Go a été testé, mais rejeté car instable.
Sur la question qui fâche maintenant, à savoir celle du silicium mis au rebut qui serait bridé car défectueux, ValdikSS,
, écrit n’avoir trouvé jusqu’ici aucune carte dont la RAM soit réellement défectueuse. Le bridage ressemble donc à de la segmentation commerciale plus qu’à du recyclage de puces ratées, mais pour le moment, personne n’a fait tourner ces 64 Go assez longtemps pour le prouver.
Reste le prix… La 170HX se trouvait peu de temps avant ça, autour de 250 dollars sur eBay mais depuis que l’exploit circule, elle dépasse les 1 000 $… Bref, le verrou a sauté, et le prix est en train d’exploser !
Source :
Source : korben.info