EN

NVIDIA · 120B au total / 12B actifs · MoE

Meilleur matériel pour faire tourner Nemotron 3 Super 120B-A12B en local

Pour faire tourner Nemotron 3 Super 120B-A12B en local, il faut environ 78 Go de mémoire en Q4_K_M, et 10 des 17 machines suivies avec un prix peuvent le contenir. La moins chère est le GMKtec EVO-X2 à 3 500 $ US (~25 tok/s est.); la plus rapide est le PNY NVIDIA RTX PRO 6000 Blackwell, à ~135 tok/s.

Quel est le meilleur matériel pour Nemotron 3 Super 120B-A12B?

Strix HaloDisponible

GMKtec EVO-X2

Ryzen AI Max+ 395, 128GB / 1TB

3 500 $ USchez GMKtec store

La moins chère qui le fait tourner. Le prix le plus bas vu parmi les machines suivies qui contiennent Nemotron 3 Super 120B-A12B en 4 bits (78 sur 96 Go utilisables).

Rentre~25 tok/sQ4_K_M
Voir le prix
Strix HaloDisponible

GMKtec EVO-X2

Ryzen AI Max+ 395, 128GB / 1TB

3 500 $ USchez GMKtec store

Meilleur rapport qualité-prix. Le plus bas prix par jeton/s parmi les systèmes complets où il rentre à l’aise : environ 142,18 $ US par tok/s en 4 bits. C’est la même machine que la moins chère.

Rentre~25 tok/sQ4_K_M
Voir le prix
RTX PRO 6000En rupture

PNY NVIDIA RTX PRO 6000 Blackwell

96GB card

17 899 $ USchez B&H Photo

La plus rapide. La plus grande bande passante mémoire parmi les machines où il rentre (1 792 Go/s), donc la génération la plus rapide : ~135 tok/s en 4 bits.

Rentre~135 tok/sQ4_K_M

Prix de la carte seule : il vous faut encore un PC hôte.

Voir le prix

Quelle quantification choisir?

Utilisez Q4_K_M sur la plupart des machines : il faut ~78 Go. Le Q8_0 demanderait ~135 Go, ce qui ne rentre à l’aise avec une vitesse utilisable sur aucune machine que nous suivons.

Quelles machines peuvent faire tourner Nemotron 3 Super 120B-A12B?

MachinePrix US (USD)Compatibilité et vitesse en 4 bitsQuantification conseillée$ US par tok/s
GMKtec EVO-X2Strix Halo3 500 $ US
Rentre~25 tok/s
Q4_K_M142,18 $ US
Minisforum MS-S1 MaxStrix Halo3 919 $ US
Rentre~25 tok/s
Q4_K_M159,20 $ US
Beelink GTR9 ProStrix Halo4 349 $ US
Rentre~25 tok/s
Q4_K_M176,67 $ US
Framework Desktop DIYStrix Halo4 839 $ US
Rentre~25 tok/s
Q4_K_M196,57 $ US
Lenovo ThinkStation PGXDGX Spark / GB105 859 $ US
Rentre~26 tok/s
Q4_K_M222,69 $ US
ASUS Ascent GX10DGX Spark / GB105 999 $ US
Rentre~26 tok/s
Q4_K_M228,01 $ US
NVIDIA DGX SparkDGX Spark / GB106 950 $ US
Rentre~26 tok/s
Q4_K_M264,16 $ US
HP ZGX Nano G1nDGX Spark / GB107 699 $ US
Rentre~26 tok/s
Q4_K_M292,63 $ US
Gigabyte AI TOP ATOMDGX Spark / GB108 499 $ US
Rentre~26 tok/s
Q4_K_M323,03 $ US
PNY NVIDIA RTX PRO 6000 BlackwellRTX PRO 6000 (carte seule, il faut un PC hôte)17 899 $ US
Rentre~135 tok/s
Q4_K_M132,30 $ US

Trié du moins cher au plus cher. Vitesses de génération estimées pour un utilisateur avec ~8K de contexte. Tableau complet, y compris les machines où il ne rentre pas : mémoire nécessaire pour Nemotron 3 Super 120B-A12B. Notre méthode

Questions fréquentes

Combien de mémoire faut-il pour faire tourner Nemotron 3 Super 120B-A12B en local?

Environ 78 Go en Q4_K_M et 135 Go en Q8_0, environnement d’exécution et ~8K jetons de contexte compris, pour un utilisateur. Un contexte plus long demande davantage.

Quel est le matériel le moins cher pour faire tourner Nemotron 3 Super 120B-A12B en local?

Parmi les machines que nous suivons, le GMKtec EVO-X2 à 3 500 $ US, avec ~25 tok/s estimés en 4 bits. Prix US vérifiés le 2026-10-24.

Quelle quantification utiliser pour Nemotron 3 Super 120B-A12B?

Q4_K_M est le choix par défaut : environ 78 Go. Le Q8_0 demande environ 135 Go; ne l’utilisez que si vous avez la place et gardez une vitesse utilisable.

À quelle vitesse tourne Nemotron 3 Super 120B-A12B?

Il a 12B paramètres actifs par jeton : la vitesse dépend donc de la bande passante mémoire, de ~25 tok/s sur la machine la plus lente où il rentre à ~135 tok/s sur le PNY NVIDIA RTX PRO 6000 Blackwell. Ce sont des estimations, pas des bancs d’essai.

Guides associés

Alertes baisse de prix et retour en stock

Un court courriel par semaine (en anglais pour l’instant) : ce qui a baissé, ce qui est de retour en stock et les nouveaux modèles ouverts que votre machine peut faire tourner. Désabonnement en un clic.