NVIDIA · 120B au total / 12B actifs · MoE · agents
Nemotron 3 Super 120B-A12B en local : combien de VRAM et quel matériel?
Nemotron 3 Super 120B-A12B demande environ 78 Go de VRAM ou de mémoire unifiée en Q4_K_M (4 bits) et 135 Go en Q8_0 (8 bits). 11 des 18 machines que nous suivons peuvent le contenir. La machine la moins chère est le GMKtec EVO-X2 (128 Go) à 3 500 $ US, à ~25 tok/s estimés.
La plus rapide est le PNY NVIDIA RTX PRO 6000 Blackwell, à ~135 tok/s.
Combien de VRAM demande Nemotron 3 Super 120B-A12B?
| Q4_K_M (4 bits) | Q8_0 (8 bits) | |
|---|---|---|
| Mémoire nécessaire (est.) | ~78 Go | ~135 Go |
| Poids seuls | ~73 Go | ~128 Go |
| Lu à chaque jeton | ~7,3 Go | ~13 Go |
| Machines compatibles | 11 sur 18 | 1 sur 18 |
C’est un modèle à mélange d’experts : ses 120B paramètres doivent tous tenir en mémoire, mais seulement 12B sont lus à chaque jeton. Il tourne donc bien plus vite qu’un modèle dense de même taille.
Quelles machines peuvent faire tourner Nemotron 3 Super 120B-A12B?
Triées par prix le plus bas du jour. La quantification est celle que nous utiliserions sur chaque machine : Q8_0 si le modèle rentre à l’aise et dépasse encore 10 tok/s, sinon Q4_K_M.
| Machine | Prix US du jour (USD) | Quantification | Mémoire utilisée | Jetons/s est. | Acheter |
|---|---|---|---|---|---|
| GMKtec EVO-X2128 Go · 256 Go/s | 3 500 $ USGMKtec store · 2026-10-24 | Q4_K_M | ~78 sur 96 Go | ~25 est. | Voir le prix |
| Minisforum MS-S1 Max128 Go · 256 Go/s | 3 919 $ USMinisforum store · 2026-10-24 | Q4_K_M | ~78 sur 96 Go | ~25 est. | Voir le prix |
| Beelink GTR9 Pro128 Go · 256 Go/s | 4 349 $ USBeelink store · 2026-10-24 | Q4_K_M | ~78 sur 96 Go | ~25 est. | Voir le prix |
| Framework Desktop DIY128 Go · 256 Go/s | 4 839 $ USFramework store · 2026-10-24 | Q4_K_M | ~78 sur 96 Go | ~25 est. | Voir le prix |
| Lenovo ThinkStation PGX128 Go · 273 Go/s | 5 859 $ USB&H Photo · 2026-10-24 | Q4_K_M | ~78 sur 109 Go | ~26 est. | Voir le prix |
| ASUS Ascent GX10128 Go · 273 Go/s | 5 999 $ USB&H Photo · 2026-10-24 | Q4_K_M | ~78 sur 109 Go | ~26 est. | Voir le prix |
| NVIDIA DGX Spark128 Go · 273 Go/s | 6 950 $ USNVIDIA Marketplace · 2026-10-24 | Q4_K_M | ~78 sur 109 Go | ~26 est. | Voir le prix |
| HP ZGX Nano G1n128 Go · 273 Go/s | 7 699 $ USB&H Photo · 2026-10-24 | Q4_K_M | ~78 sur 109 Go | ~26 est. | Voir le prix |
| Gigabyte AI TOP ATOM128 Go · 273 Go/s | 8 499 $ USB&H Photo · 2026-10-24 | Q4_K_M | ~78 sur 109 Go | ~26 est. | Voir le prix |
| PNY NVIDIA RTX PRO 6000 Blackwell96 Go · 1 792 Go/s (carte seule, il faut un PC hôte) | 17 899 $ USB&H Photo · 2026-10-24 | Q4_K_M | ~78 sur 89 Go | ~135 est. | Voir le prix |
| Mac Studio M5 Ultra256 Go · 1 200 Go/s | Aucun prix relevé | Q8_0 | ~135 sur 192 Go | ~52 est. | Voir le prix |
Les jetons/s sont des estimations tirées de notre formule fondée sur la bande passante (un utilisateur, ~8K de contexte, moteur de type llama.cpp), pas des bancs d’essai. Prix des cartes graphiques : carte seule. Prix US en dollars américains (USD), hors taxes et livraison. Les prix changent chaque jour : vérifiez sur la page du détaillant. Notre méthode
Nemotron 3 Super 120B-A12B rentre-t-il dans chaque machine que nous suivons?
| Machine | Prix US (USD) | Q4_K_M | Q8_0 |
|---|---|---|---|
| Mac mini M5 Pro15-core CPU / 16-core GPU, 24GB | 1 699 $ US | Ne rentre pasil faut ~78 Go | Ne rentre pasil faut ~135 Go |
| GMKtec EVO-X2Ryzen AI Max+ 395, 64GB / 1TB | 2 200 $ US | Ne rentre pasil faut ~78 Go | Ne rentre pasil faut ~135 Go |
| Mac Studio M5 Max18-core CPU / 32-core GPU, 36GB | 2 499 $ US | Ne rentre pasil faut ~78 Go | Ne rentre pasil faut ~135 Go |
| Mac Studio M5 Max18-core CPU / 40-core GPU, 48GB | 3 099 $ US | Ne rentre pasil faut ~78 Go | Ne rentre pasil faut ~135 Go |
| GMKtec EVO-X2Ryzen AI Max+ 395, 128GB / 1TB | 3 500 $ US | Rentre~25 tok/s78 sur 96 Go | Ne rentre pasil faut ~135 Go |
| Minisforum MS-S1 MaxRyzen AI Max+ 395, 128GB / 2TB | 3 919 $ US | Rentre~25 tok/s78 sur 96 Go | Ne rentre pasil faut ~135 Go |
| Beelink GTR9 ProRyzen AI Max+ 395, 128GB / 2TB | 4 349 $ US | Rentre~25 tok/s78 sur 96 Go | Ne rentre pasil faut ~135 Go |
| Framework Desktop DIYRyzen AI Max+ 395, 128GB | 4 839 $ US | Rentre~25 tok/s78 sur 96 Go | Ne rentre pasil faut ~135 Go |
| Gigabyte GeForce RTX 4090 Windforce V224GB card | 4 899 $ US | Ne rentre pasil faut ~78 Go | Ne rentre pasil faut ~135 Go |
| Mac Studio M5 Ultra30-core CPU / 64-core GPU, 96GB | 5 499 $ US | Ne rentre pasil faut ~78 Go | Ne rentre pasil faut ~135 Go |
| Lenovo ThinkStation PGX1TB | 5 859 $ US | Rentre~26 tok/s78 sur 109 Go | Ne rentre pasil faut ~135 Go |
| ASUS Ascent GX101TB | 5 999 $ US | Rentre~26 tok/s78 sur 109 Go | Ne rentre pasil faut ~135 Go |
| NVIDIA DGX SparkFounders Edition, 4TB | 6 950 $ US | Rentre~26 tok/s78 sur 109 Go | Ne rentre pasil faut ~135 Go |
| HP ZGX Nano G1n4TB | 7 699 $ US | Rentre~26 tok/s78 sur 109 Go | Ne rentre pasil faut ~135 Go |
| Gigabyte AI TOP ATOM4TB | 8 499 $ US | Rentre~26 tok/s78 sur 109 Go | Ne rentre pasil faut ~135 Go |
| NVIDIA GeForce RTX 5090 Founders Edition32GB card | 8 500 $ US | Ne rentre pasil faut ~78 Go | Ne rentre pasil faut ~135 Go |
| PNY NVIDIA RTX PRO 6000 Blackwell96GB card | 17 899 $ US | Rentre~135 tok/s78 sur 89 Go | Ne rentre pasil faut ~135 Go |
| Mac Studio M5 Ultra256GB | — | Rentre~73 tok/s78 sur 192 Go | Rentre~52 tok/s135 sur 192 Go |
La compatibilité et les jetons/s sont des estimations. « Juste » signifie plus de 90 % de la mémoire utilisable : le modèle se charge, mais laisse peu de place pour un long contexte.
Questions fréquentes
Combien de mémoire faut-il pour faire tourner Nemotron 3 Super 120B-A12B en local?
Environ 78 Go en Q4_K_M (4 bits) et 135 Go en Q8_0 (8 bits). Cela comprend les poids, le surcoût du moteur et environ 8K jetons de contexte pour un utilisateur. Un contexte plus long demande plus. Ce sont des estimations.
Quel est le matériel le moins cher qui fait tourner Nemotron 3 Super 120B-A12B?
Parmi les machines que nous suivons, le GMKtec EVO-X2 128 Go à 3 500 $ US (GMKtec store, vérifié le 2026-10-24). Nous estimons environ 25 jetons/s en 4 bits.
À quelle vitesse Nemotron 3 Super 120B-A12B tourne-t-il en local?
Nous estimons environ 25 à 135 jetons/s en 4 bits selon la machine, le plus rapide étant le PNY NVIDIA RTX PRO 6000 Blackwell.
Peut-on faire tourner Nemotron 3 Super 120B-A12B sur une seule carte graphique de jeu comme la RTX 4090 ou 5090?
Pas entièrement en VRAM. Il faut environ 78 Go en 4 bits, plus qu’une carte de 24 ou 32 Go. On peut en décharger une partie vers la RAM système, mais c’est beaucoup plus lent. La machine suivie la moins chère qui le contient entièrement est le GMKtec EVO-X2 128 Go à 3 500 $ US.
Un Mac peut-il faire tourner Nemotron 3 Super 120B-A12B?
Oui. Le Mac suivi le moins cher qui le contient est le Mac Studio M5 Ultra 256 Go, à ~73 tok/s estimés. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire.
Ces vitesses sont-elles mesurées ou estimées?
Le tableau donne des estimations fondées sur la bande passante mémoire, calibrées sur 43 bancs d’essai publics llama.cpp/MLX (écart médian d’environ 5 %).