OpenAI · 21B au total / 3,6B actifs · MoE · raisonnement, outils
GPT-OSS 20B en local : combien de VRAM et quel matériel?
GPT-OSS 20B demande environ 13 Go de VRAM ou de mémoire unifiée en MXFP4 (native) (4 bits) et 25 Go en Q8_0 (8 bits). 18 des 18 machines que nous suivons peuvent le contenir. La machine la moins chère est le Mac mini M5 Pro (24 Go) à 1 699 $ US, à ~82 tok/s estimés.
La plus rapide est le NVIDIA GeForce RTX 5090 Founders Edition, à ~264 tok/s.
Combien de VRAM demande GPT-OSS 20B?
| MXFP4 (native) (4 bits) | Q8_0 (8 bits) | |
|---|---|---|
| Mémoire nécessaire (est.) | ~13 Go | ~25 Go |
| Poids seuls | ~11 Go | ~22 Go |
| Lu à chaque jeton | ~1,9 Go | ~3,8 Go |
| Machines compatibles | 18 sur 18 | 16 sur 18 |
C’est un modèle à mélange d’experts : ses 21B paramètres doivent tous tenir en mémoire, mais seulement 3,6B sont lus à chaque jeton. Il tourne donc bien plus vite qu’un modèle dense de même taille. GPT-OSS 20B est distribué nativement en MXFP4 (native) : c’est donc le format 4 bits à utiliser.
Quelles machines peuvent faire tourner GPT-OSS 20B?
Triées par prix le plus bas du jour. La quantification est celle que nous utiliserions sur chaque machine : Q8_0 si le modèle rentre à l’aise et dépasse encore 10 tok/s, sinon MXFP4 (native).
| Machine | Prix US du jour (USD) | Quantification | Mémoire utilisée | Jetons/s est. | Acheter |
|---|---|---|---|---|---|
| Mac mini M5 Pro24 Go · 307 Go/s | 1 699 $ USApple Store · 2026-10-24 | MXFP4 (native) | ~13 sur 17 Go | ~82 est. | Voir le prix |
| GMKtec EVO-X264 Go · 256 Go/s | 2 200 $ USGMKtec store · 2026-10-24 | Q8_0 | ~25 sur 48 Go | ~42 est. | Voir le prix |
| Mac Studio M5 Max36 Go · 460 Go/s | 2 499 $ USApple Store · 2026-10-24 | MXFP4 (native) | ~13 sur 27 Go | ~101 est. | Voir le prix |
| Mac Studio M5 Max48 Go · 614 Go/s | 3 099 $ USApple Store · 2026-10-24 | Q8_0 | ~25 sur 36 Go | ~82 est. | Voir le prix |
| GMKtec EVO-X2128 Go · 256 Go/s | 3 500 $ USGMKtec store · 2026-10-24 | Q8_0 | ~25 sur 96 Go | ~42 est. | Voir le prix |
| Minisforum MS-S1 Max128 Go · 256 Go/s | 3 919 $ USMinisforum store · 2026-10-24 | Q8_0 | ~25 sur 96 Go | ~42 est. | Voir le prix |
| Beelink GTR9 Pro128 Go · 256 Go/s | 4 349 $ USBeelink store · 2026-10-24 | Q8_0 | ~25 sur 96 Go | ~42 est. | Voir le prix |
| Framework Desktop DIY128 Go · 256 Go/s | 4 839 $ USFramework store · 2026-10-24 | Q8_0 | ~25 sur 96 Go | ~42 est. | Voir le prix |
| Gigabyte GeForce RTX 4090 Windforce V224 Go · 1 008 Go/s (carte seule, il faut un PC hôte) | 4 899 $ USNewegg · 2026-10-24 | MXFP4 (native) | ~13 sur 22 Go | ~209 est. | Voir le prix |
| Mac Studio M5 Ultra96 Go · 1 200 Go/s | 5 499 $ USApple Store · 2026-10-24 | Q8_0 | ~25 sur 72 Go | ~97 est. | Voir le prix |
| Lenovo ThinkStation PGX128 Go · 273 Go/s | 5 859 $ USB&H Photo · 2026-10-24 | Q8_0 | ~25 sur 109 Go | ~46 est. | Voir le prix |
| ASUS Ascent GX10128 Go · 273 Go/s | 5 999 $ USB&H Photo · 2026-10-24 | Q8_0 | ~25 sur 109 Go | ~46 est. | Voir le prix |
| NVIDIA DGX Spark128 Go · 273 Go/s | 6 950 $ USNVIDIA Marketplace · 2026-10-24 | Q8_0 | ~25 sur 109 Go | ~46 est. | Voir le prix |
| HP ZGX Nano G1n128 Go · 273 Go/s | 7 699 $ USB&H Photo · 2026-10-24 | Q8_0 | ~25 sur 109 Go | ~46 est. | Voir le prix |
| Gigabyte AI TOP ATOM128 Go · 273 Go/s | 8 499 $ USB&H Photo · 2026-10-24 | Q8_0 | ~25 sur 109 Go | ~46 est. | Voir le prix |
| NVIDIA GeForce RTX 5090 Founders Edition32 Go · 1 792 Go/s (carte seule, il faut un PC hôte) | 8 500 $ USNewegg · 2026-10-24 | Q8_0 | ~25 sur 30 Go | ~197 est. | Voir le prix |
| PNY NVIDIA RTX PRO 6000 Blackwell96 Go · 1 792 Go/s (carte seule, il faut un PC hôte) | 17 899 $ USB&H Photo · 2026-10-24 | Q8_0 | ~25 sur 89 Go | ~197 est. | Voir le prix |
| Mac Studio M5 Ultra256 Go · 1 200 Go/s | Aucun prix relevé | Q8_0 | ~25 sur 192 Go | ~97 est. | Voir le prix |
Les jetons/s sont des estimations tirées de notre formule fondée sur la bande passante (un utilisateur, ~8K de contexte, moteur de type llama.cpp), pas des bancs d’essai. Prix des cartes graphiques : carte seule. Prix US en dollars américains (USD), hors taxes et livraison. Les prix changent chaque jour : vérifiez sur la page du détaillant. Notre méthode
À quelle vitesse GPT-OSS 20B tourne-t-il sur du vrai matériel?
Vitesses de génération pour un utilisateur publiées pour ce modèle. Ce sont des mesures, pas nos estimations.
| Matériel | Modèle / essai | tok/s mesurés | Source |
|---|---|---|---|
| DGX Spark273 Go/s | gpt-oss-20b MXFP4llama.cpp tg32 | 83,4 | source |
| M4 Max 40c546 Go/s | gpt-oss-20b MXFP4llama.cpp tg128 | 117,8 | source |
| M3 Ultra 80c819 Go/s | gpt-oss-20b MXFP4llama.cpp tg128 | 115,5 | source |
| M2 Ultra 76c800 Go/s | gpt-oss-20b MXFP4llama.cpp tg128 | 116,1 | source |
| RTX PRO 60001 792 Go/s | gpt-oss-20b MXFP4llama.cpp tg128 | 286,9 | source |
| RTX 50901 792 Go/s | gpt-oss-20b MXFP4llama.cpp tg128 | 282,5 | source |
| RTX 40901 008 Go/s | gpt-oss-20b MXFP4llama.cpp tg128 | 222,0 | source |
| RTX 50901 792 Go/s | gpt-oss-20b MXFP4llama.cpp + GGML_CUDA_GRAPH_OPT=1 | 419,1 | source |
Tiré du jeu d’essais qui sert à calibrer notre formule de vitesse. Les 52 essais
GPT-OSS 20B rentre-t-il dans chaque machine que nous suivons?
| Machine | Prix US (USD) | MXFP4 (native) | Q8_0 |
|---|---|---|---|
| Mac mini M5 Pro15-core CPU / 16-core GPU, 24GB | 1 699 $ US | Rentre~82 tok/s13 sur 17 Go | Ne rentre pasil faut ~25 Go |
| GMKtec EVO-X2Ryzen AI Max+ 395, 64GB / 1TB | 2 200 $ US | Rentre~69 tok/s13 sur 48 Go | Rentre~42 tok/s25 sur 48 Go |
| Mac Studio M5 Max18-core CPU / 32-core GPU, 36GB | 2 499 $ US | Rentre~101 tok/s13 sur 27 Go | Juste~69 tok/s25 sur 27 Go |
| Mac Studio M5 Max18-core CPU / 40-core GPU, 48GB | 3 099 $ US | Rentre~114 tok/s13 sur 36 Go | Rentre~82 tok/s25 sur 36 Go |
| GMKtec EVO-X2Ryzen AI Max+ 395, 128GB / 1TB | 3 500 $ US | Rentre~69 tok/s13 sur 96 Go | Rentre~42 tok/s25 sur 96 Go |
| Minisforum MS-S1 MaxRyzen AI Max+ 395, 128GB / 2TB | 3 919 $ US | Rentre~69 tok/s13 sur 96 Go | Rentre~42 tok/s25 sur 96 Go |
| Beelink GTR9 ProRyzen AI Max+ 395, 128GB / 2TB | 4 349 $ US | Rentre~69 tok/s13 sur 96 Go | Rentre~42 tok/s25 sur 96 Go |
| Framework Desktop DIYRyzen AI Max+ 395, 128GB | 4 839 $ US | Rentre~69 tok/s13 sur 96 Go | Rentre~42 tok/s25 sur 96 Go |
| Gigabyte GeForce RTX 4090 Windforce V224GB card | 4 899 $ US | Rentre~209 tok/s13 sur 22 Go | Ne rentre pasil faut ~25 Go |
| Mac Studio M5 Ultra30-core CPU / 64-core GPU, 96GB | 5 499 $ US | Rentre~119 tok/s13 sur 72 Go | Rentre~97 tok/s25 sur 72 Go |
| Lenovo ThinkStation PGX1TB | 5 859 $ US | Rentre~80 tok/s13 sur 109 Go | Rentre~46 tok/s25 sur 109 Go |
| ASUS Ascent GX101TB | 5 999 $ US | Rentre~80 tok/s13 sur 109 Go | Rentre~46 tok/s25 sur 109 Go |
| NVIDIA DGX SparkFounders Edition, 4TB | 6 950 $ US | Rentre~80 tok/s13 sur 109 Go | Rentre~46 tok/s25 sur 109 Go |
| HP ZGX Nano G1n4TB | 7 699 $ US | Rentre~80 tok/s13 sur 109 Go | Rentre~46 tok/s25 sur 109 Go |
| Gigabyte AI TOP ATOM4TB | 8 499 $ US | Rentre~80 tok/s13 sur 109 Go | Rentre~46 tok/s25 sur 109 Go |
| NVIDIA GeForce RTX 5090 Founders Edition32GB card | 8 500 $ US | Rentre~264 tok/s13 sur 30 Go | Rentre~197 tok/s25 sur 30 Go |
| PNY NVIDIA RTX PRO 6000 Blackwell96GB card | 17 899 $ US | Rentre~264 tok/s13 sur 89 Go | Rentre~197 tok/s25 sur 89 Go |
| Mac Studio M5 Ultra256GB | — | Rentre~119 tok/s13 sur 192 Go | Rentre~97 tok/s25 sur 192 Go |
La compatibilité et les jetons/s sont des estimations. « Juste » signifie plus de 90 % de la mémoire utilisable : le modèle se charge, mais laisse peu de place pour un long contexte.
Questions fréquentes
Combien de mémoire faut-il pour faire tourner GPT-OSS 20B en local?
Environ 13 Go en MXFP4 (native) (4 bits) et 25 Go en Q8_0 (8 bits). Cela comprend les poids, le surcoût du moteur et environ 8K jetons de contexte pour un utilisateur. Un contexte plus long demande plus. Ce sont des estimations.
Quel est le matériel le moins cher qui fait tourner GPT-OSS 20B?
Parmi les machines que nous suivons, le Mac mini M5 Pro 24 Go à 1 699 $ US (Apple Store, vérifié le 2026-10-24). Nous estimons environ 82 jetons/s en 4 bits.
À quelle vitesse GPT-OSS 20B tourne-t-il en local?
Nous estimons environ 69 à 264 jetons/s en 4 bits selon la machine, le plus rapide étant le NVIDIA GeForce RTX 5090 Founders Edition. Les essais publiés que nous avons recueillis vont de 83,4 à 419,1 tok/s.
Peut-on faire tourner GPT-OSS 20B sur une seule carte graphique de jeu comme la RTX 4090 ou 5090?
Oui. NVIDIA GeForce RTX 5090 Founders Edition (32 Go) : ~264 tok/s estimés en 4 bits; Gigabyte GeForce RTX 4090 Windforce V2 (24 Go) : ~209 tok/s estimés en 4 bits.
Un Mac peut-il faire tourner GPT-OSS 20B?
Oui. Le Mac suivi le moins cher qui le contient est le Mac mini M5 Pro 24 Go à 1 699 $ US, à ~82 tok/s estimés. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire.
Ces vitesses sont-elles mesurées ou estimées?
Le tableau donne des estimations fondées sur la bande passante mémoire, calibrées sur 43 bancs d’essai publics llama.cpp/MLX (écart médian d’environ 5 %). Le tableau des mesures donne les essais publiés, avec leurs liens.