Alibaba Qwen · 235B au total / 22B actifs · MoE · modèle ouvert de pointe
Qwen3 235B-A22B en local : combien de VRAM et quel matériel?
Qwen3 235B-A22B demande environ 151 Go de VRAM ou de mémoire unifiée en Q4_K_M (4 bits) et 264 Go en Q8_0 (8 bits). 1 des 18 machines que nous suivons peuvent le contenir. La plus rapide est le Mac Studio M5 Ultra, à ~51 tok/s.
Combien de VRAM demande Qwen3 235B-A22B?
| Q4_K_M (4 bits) | Q8_0 (8 bits) | |
|---|---|---|
| Mémoire nécessaire (est.) | ~151 Go | ~264 Go |
| Poids seuls | ~142 Go | ~250 Go |
| Lu à chaque jeton | ~13 Go | ~23 Go |
| Machines compatibles | 1 sur 18 | 0 sur 18 |
C’est un modèle à mélange d’experts : ses 235B paramètres doivent tous tenir en mémoire, mais seulement 22B sont lus à chaque jeton. Il tourne donc bien plus vite qu’un modèle dense de même taille.
Quelles machines peuvent faire tourner Qwen3 235B-A22B?
Triées par prix le plus bas du jour. La quantification est celle que nous utiliserions sur chaque machine : Q8_0 si le modèle rentre à l’aise et dépasse encore 10 tok/s, sinon Q4_K_M.
| Machine | Prix US du jour (USD) | Quantification | Mémoire utilisée | Jetons/s est. | Acheter |
|---|---|---|---|---|---|
| Mac Studio M5 Ultra256 Go · 1 200 Go/s | Aucun prix relevé | Q4_K_M | ~151 sur 192 Go | ~51 est. | Voir le prix |
Les jetons/s sont des estimations tirées de notre formule fondée sur la bande passante (un utilisateur, ~8K de contexte, moteur de type llama.cpp), pas des bancs d’essai. Prix des cartes graphiques : carte seule. Prix US en dollars américains (USD), hors taxes et livraison. Les prix changent chaque jour : vérifiez sur la page du détaillant. Notre méthode
À quelle vitesse Qwen3 235B-A22B tourne-t-il sur du vrai matériel?
Cet essai utilisait une quantification 3 bits (IQ3_XS), plus petite que le 4 bits de notre tableau. Ce sont des mesures, pas nos estimations.
| Matériel | Modèle / essai | tok/s mesurés | Source |
|---|---|---|---|
| Strix Halo256 Go/s | Qwen3 235B-A22B IQ3_XSllama.cpp Vulkan tg128 | 18,1 | source |
Tiré du jeu d’essais qui sert à calibrer notre formule de vitesse. Les 52 essais
Qwen3 235B-A22B rentre-t-il dans chaque machine que nous suivons?
| Machine | Prix US (USD) | Q4_K_M | Q8_0 |
|---|---|---|---|
| Mac mini M5 Pro15-core CPU / 16-core GPU, 24GB | 1 699 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| GMKtec EVO-X2Ryzen AI Max+ 395, 64GB / 1TB | 2 200 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| Mac Studio M5 Max18-core CPU / 32-core GPU, 36GB | 2 499 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| Mac Studio M5 Max18-core CPU / 40-core GPU, 48GB | 3 099 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| GMKtec EVO-X2Ryzen AI Max+ 395, 128GB / 1TB | 3 500 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| Minisforum MS-S1 MaxRyzen AI Max+ 395, 128GB / 2TB | 3 919 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| Beelink GTR9 ProRyzen AI Max+ 395, 128GB / 2TB | 4 349 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| Framework Desktop DIYRyzen AI Max+ 395, 128GB | 4 839 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| Gigabyte GeForce RTX 4090 Windforce V224GB card | 4 899 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| Mac Studio M5 Ultra30-core CPU / 64-core GPU, 96GB | 5 499 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| Lenovo ThinkStation PGX1TB | 5 859 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| ASUS Ascent GX101TB | 5 999 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| NVIDIA DGX SparkFounders Edition, 4TB | 6 950 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| HP ZGX Nano G1n4TB | 7 699 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| Gigabyte AI TOP ATOM4TB | 8 499 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| NVIDIA GeForce RTX 5090 Founders Edition32GB card | 8 500 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| PNY NVIDIA RTX PRO 6000 Blackwell96GB card | 17 899 $ US | Ne rentre pasil faut ~151 Go | Ne rentre pasil faut ~264 Go |
| Mac Studio M5 Ultra256GB | — | Rentre~51 tok/s151 sur 192 Go | Ne rentre pasil faut ~264 Go |
La compatibilité et les jetons/s sont des estimations. « Juste » signifie plus de 90 % de la mémoire utilisable : le modèle se charge, mais laisse peu de place pour un long contexte.
Questions fréquentes
Combien de mémoire faut-il pour faire tourner Qwen3 235B-A22B en local?
Environ 151 Go en Q4_K_M (4 bits) et 264 Go en Q8_0 (8 bits). Cela comprend les poids, le surcoût du moteur et environ 8K jetons de contexte pour un utilisateur. Un contexte plus long demande plus. Ce sont des estimations.
À quelle vitesse Qwen3 235B-A22B tourne-t-il en local?
Nous estimons environ 51 jetons/s en 4 bits sur le Mac Studio M5 Ultra 256 Go, la seule machine suivie qui le contient. Un essai publié que nous avons recueilli a mesuré 18,1 tok/s sur Strix Halo.
Peut-on faire tourner Qwen3 235B-A22B sur une seule carte graphique de jeu comme la RTX 4090 ou 5090?
Pas entièrement en VRAM. Il faut environ 151 Go en 4 bits, plus qu’une carte de 24 ou 32 Go. On peut en décharger une partie vers la RAM système, mais c’est beaucoup plus lent.
Un Mac peut-il faire tourner Qwen3 235B-A22B?
Oui. Le Mac suivi le moins cher qui le contient est le Mac Studio M5 Ultra 256 Go, à ~51 tok/s estimés. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire.
Ces vitesses sont-elles mesurées ou estimées?
Le tableau donne des estimations fondées sur la bande passante mémoire, calibrées sur 43 bancs d’essai publics llama.cpp/MLX (écart médian d’environ 5 %). Le tableau des mesures donne les essais publiés, avec leurs liens.