OpenAI · 117B au total / 5,1B actifs · MoE · raisonnement, outils
GPT-OSS 120B en local : combien de VRAM et quel matériel?
GPT-OSS 120B demande environ 67 Go de VRAM ou de mémoire unifiée en MXFP4 (native) (4 bits) et 132 Go en Q8_0 (8 bits). 12 des 18 machines que nous suivons peuvent le contenir. La machine la moins chère est le GMKtec EVO-X2 (128 Go) à 3 500 $ US, à ~55 tok/s estimés.
La plus rapide est le PNY NVIDIA RTX PRO 6000 Blackwell, à ~231 tok/s.
Combien de VRAM demande GPT-OSS 120B?
| MXFP4 (native) (4 bits) | Q8_0 (8 bits) | |
|---|---|---|
| Mémoire nécessaire (est.) | ~67 Go | ~132 Go |
| Poids seuls | ~62 Go | ~124 Go |
| Lu à chaque jeton | ~2,7 Go | ~5,4 Go |
| Machines compatibles | 12 sur 18 | 1 sur 18 |
C’est un modèle à mélange d’experts : ses 117B paramètres doivent tous tenir en mémoire, mais seulement 5,1B sont lus à chaque jeton. Il tourne donc bien plus vite qu’un modèle dense de même taille. GPT-OSS 120B est distribué nativement en MXFP4 (native) : c’est donc le format 4 bits à utiliser.
Quelles machines peuvent faire tourner GPT-OSS 120B?
Triées par prix le plus bas du jour. La quantification est celle que nous utiliserions sur chaque machine : Q8_0 si le modèle rentre à l’aise et dépasse encore 10 tok/s, sinon MXFP4 (native).
| Machine | Prix US du jour (USD) | Quantification | Mémoire utilisée | Jetons/s est. | Acheter |
|---|---|---|---|---|---|
| GMKtec EVO-X2128 Go · 256 Go/s | 3 500 $ USGMKtec store · 2026-10-24 | MXFP4 (native) | ~67 sur 96 Go | ~55 est. | Voir le prix |
| Minisforum MS-S1 Max128 Go · 256 Go/s | 3 919 $ USMinisforum store · 2026-10-24 | MXFP4 (native) | ~67 sur 96 Go | ~55 est. | Voir le prix |
| Beelink GTR9 Pro128 Go · 256 Go/s | 4 349 $ USBeelink store · 2026-10-24 | MXFP4 (native) | ~67 sur 96 Go | ~55 est. | Voir le prix |
| Framework Desktop DIY128 Go · 256 Go/s | 4 839 $ USFramework store · 2026-10-24 | MXFP4 (native) | ~67 sur 96 Go | ~55 est. | Voir le prix |
| Mac Studio M5 Ultra96 Go · 1 200 Go/s | 5 499 $ USApple Store · 2026-10-24 | MXFP4 (native) | ~67 sur 72 Go | ~109 est. | Voir le prix |
| Lenovo ThinkStation PGX128 Go · 273 Go/s | 5 859 $ USB&H Photo · 2026-10-24 | MXFP4 (native) | ~67 sur 109 Go | ~61 est. | Voir le prix |
| ASUS Ascent GX10128 Go · 273 Go/s | 5 999 $ USB&H Photo · 2026-10-24 | MXFP4 (native) | ~67 sur 109 Go | ~61 est. | Voir le prix |
| NVIDIA DGX Spark128 Go · 273 Go/s | 6 950 $ USNVIDIA Marketplace · 2026-10-24 | MXFP4 (native) | ~67 sur 109 Go | ~61 est. | Voir le prix |
| HP ZGX Nano G1n128 Go · 273 Go/s | 7 699 $ USB&H Photo · 2026-10-24 | MXFP4 (native) | ~67 sur 109 Go | ~61 est. | Voir le prix |
| Gigabyte AI TOP ATOM128 Go · 273 Go/s | 8 499 $ USB&H Photo · 2026-10-24 | MXFP4 (native) | ~67 sur 109 Go | ~61 est. | Voir le prix |
| PNY NVIDIA RTX PRO 6000 Blackwell96 Go · 1 792 Go/s (carte seule, il faut un PC hôte) | 17 899 $ USB&H Photo · 2026-10-24 | MXFP4 (native) | ~67 sur 89 Go | ~231 est. | Voir le prix |
| Mac Studio M5 Ultra256 Go · 1 200 Go/s | Aucun prix relevé | Q8_0 | ~132 sur 192 Go | ~84 est. | Voir le prix |
Les jetons/s sont des estimations tirées de notre formule fondée sur la bande passante (un utilisateur, ~8K de contexte, moteur de type llama.cpp), pas des bancs d’essai. Prix des cartes graphiques : carte seule. Prix US en dollars américains (USD), hors taxes et livraison. Les prix changent chaque jour : vérifiez sur la page du détaillant. Notre méthode
À quelle vitesse GPT-OSS 120B tourne-t-il sur du vrai matériel?
Vitesses de génération pour un utilisateur publiées pour ce modèle. Ce sont des mesures, pas nos estimations.
| Matériel | Modèle / essai | tok/s mesurés | Source |
|---|---|---|---|
| DGX Spark273 Go/s | gpt-oss-120b MXFP4llama.cpp tg32 | 58,7 | source |
| Strix Halo256 Go/s | gpt-oss-120b MXFP4llama.cpp ROCm tg128 | 47,5 | source |
| M5 Max 40c614 Go/s | gpt-oss-120b MXFP4llama.cpp 4K ctx | 87,9 | source |
| M2 Ultra 76c800 Go/s | gpt-oss-120b MXFP4llama.cpp tg128 | 79,7 | source |
| RTX PRO 60001 792 Go/s | gpt-oss-120b MXFP4llama.cpp tg128 | 196,3 | source |
| M5 Ultra1 200 Go/s | gpt-oss-120b MXFP4MLX short prompt (concurrency caveat) | 99,0 | source |
| M5 Max 40c614 Go/s | gpt-oss-120b MXFP4MLX (oMLX) 1K ctx | 92,8 | source |
| RTX PRO 60001 792 Go/s | gpt-oss-120b MXFP4llama.cpp 4K ctx (newer build) | 221,3 | source |
Tiré du jeu d’essais qui sert à calibrer notre formule de vitesse. Les 52 essais
GPT-OSS 120B rentre-t-il dans chaque machine que nous suivons?
| Machine | Prix US (USD) | MXFP4 (native) | Q8_0 |
|---|---|---|---|
| Mac mini M5 Pro15-core CPU / 16-core GPU, 24GB | 1 699 $ US | Ne rentre pasil faut ~67 Go | Ne rentre pasil faut ~132 Go |
| GMKtec EVO-X2Ryzen AI Max+ 395, 64GB / 1TB | 2 200 $ US | Ne rentre pasil faut ~67 Go | Ne rentre pasil faut ~132 Go |
| Mac Studio M5 Max18-core CPU / 32-core GPU, 36GB | 2 499 $ US | Ne rentre pasil faut ~67 Go | Ne rentre pasil faut ~132 Go |
| Mac Studio M5 Max18-core CPU / 40-core GPU, 48GB | 3 099 $ US | Ne rentre pasil faut ~67 Go | Ne rentre pasil faut ~132 Go |
| GMKtec EVO-X2Ryzen AI Max+ 395, 128GB / 1TB | 3 500 $ US | Rentre~55 tok/s67 sur 96 Go | Ne rentre pasil faut ~132 Go |
| Minisforum MS-S1 MaxRyzen AI Max+ 395, 128GB / 2TB | 3 919 $ US | Rentre~55 tok/s67 sur 96 Go | Ne rentre pasil faut ~132 Go |
| Beelink GTR9 ProRyzen AI Max+ 395, 128GB / 2TB | 4 349 $ US | Rentre~55 tok/s67 sur 96 Go | Ne rentre pasil faut ~132 Go |
| Framework Desktop DIYRyzen AI Max+ 395, 128GB | 4 839 $ US | Rentre~55 tok/s67 sur 96 Go | Ne rentre pasil faut ~132 Go |
| Gigabyte GeForce RTX 4090 Windforce V224GB card | 4 899 $ US | Ne rentre pasil faut ~67 Go | Ne rentre pasil faut ~132 Go |
| Mac Studio M5 Ultra30-core CPU / 64-core GPU, 96GB | 5 499 $ US | Juste~109 tok/s67 sur 72 Go | Ne rentre pasil faut ~132 Go |
| Lenovo ThinkStation PGX1TB | 5 859 $ US | Rentre~61 tok/s67 sur 109 Go | Ne rentre pasil faut ~132 Go |
| ASUS Ascent GX101TB | 5 999 $ US | Rentre~61 tok/s67 sur 109 Go | Ne rentre pasil faut ~132 Go |
| NVIDIA DGX SparkFounders Edition, 4TB | 6 950 $ US | Rentre~61 tok/s67 sur 109 Go | Ne rentre pasil faut ~132 Go |
| HP ZGX Nano G1n4TB | 7 699 $ US | Rentre~61 tok/s67 sur 109 Go | Ne rentre pasil faut ~132 Go |
| Gigabyte AI TOP ATOM4TB | 8 499 $ US | Rentre~61 tok/s67 sur 109 Go | Ne rentre pasil faut ~132 Go |
| NVIDIA GeForce RTX 5090 Founders Edition32GB card | 8 500 $ US | Ne rentre pasil faut ~67 Go | Ne rentre pasil faut ~132 Go |
| PNY NVIDIA RTX PRO 6000 Blackwell96GB card | 17 899 $ US | Rentre~231 tok/s67 sur 89 Go | Ne rentre pasil faut ~132 Go |
| Mac Studio M5 Ultra256GB | — | Rentre~109 tok/s67 sur 192 Go | Rentre~84 tok/s132 sur 192 Go |
La compatibilité et les jetons/s sont des estimations. « Juste » signifie plus de 90 % de la mémoire utilisable : le modèle se charge, mais laisse peu de place pour un long contexte.
Questions fréquentes
Combien de mémoire faut-il pour faire tourner GPT-OSS 120B en local?
Environ 67 Go en MXFP4 (native) (4 bits) et 132 Go en Q8_0 (8 bits). Cela comprend les poids, le surcoût du moteur et environ 8K jetons de contexte pour un utilisateur. Un contexte plus long demande plus. Ce sont des estimations.
Quel est le matériel le moins cher qui fait tourner GPT-OSS 120B?
Parmi les machines que nous suivons, le GMKtec EVO-X2 128 Go à 3 500 $ US (GMKtec store, vérifié le 2026-10-24). Nous estimons environ 55 jetons/s en 4 bits.
À quelle vitesse GPT-OSS 120B tourne-t-il en local?
Nous estimons environ 55 à 231 jetons/s en 4 bits selon la machine, le plus rapide étant le PNY NVIDIA RTX PRO 6000 Blackwell. Les essais publiés que nous avons recueillis vont de 47,5 à 221,3 tok/s.
Peut-on faire tourner GPT-OSS 120B sur une seule carte graphique de jeu comme la RTX 4090 ou 5090?
Pas entièrement en VRAM. Il faut environ 67 Go en 4 bits, plus qu’une carte de 24 ou 32 Go. On peut en décharger une partie vers la RAM système, mais c’est beaucoup plus lent. La machine suivie la moins chère qui le contient entièrement est le GMKtec EVO-X2 128 Go à 3 500 $ US.
Un Mac peut-il faire tourner GPT-OSS 120B?
Oui. Le Mac suivi le moins cher qui le contient est le Mac Studio M5 Ultra 96 Go à 5 499 $ US, à ~109 tok/s estimés. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire.
Ces vitesses sont-elles mesurées ou estimées?
Le tableau donne des estimations fondées sur la bande passante mémoire, calibrées sur 43 bancs d’essai publics llama.cpp/MLX (écart médian d’environ 5 %). Le tableau des mesures donne les essais publiés, avec leurs liens.