Zhipu (Z.ai) · 30B au total / 3B actifs · MoE · agents de code
GLM-4.7-Flash 30B-A3B en local : combien de VRAM et quel matériel?
GLM-4.7-Flash 30B-A3B demande environ 21 Go de VRAM ou de mémoire unifiée en Q4_K_M (4 bits) et 35 Go en Q8_0 (8 bits). 17 des 18 machines que nous suivons peuvent le contenir. La machine la moins chère est le GMKtec EVO-X2 (64 Go) à 2 200 $ US, à ~72 tok/s estimés.
La plus rapide est le NVIDIA GeForce RTX 5090 Founders Edition, à ~269 tok/s.
Combien de VRAM demande GLM-4.7-Flash 30B-A3B?
| Q4_K_M (4 bits) | Q8_0 (8 bits) | |
|---|---|---|
| Mémoire nécessaire (est.) | ~21 Go | ~35 Go |
| Poids seuls | ~18 Go | ~32 Go |
| Lu à chaque jeton | ~1,8 Go | ~3,2 Go |
| Machines compatibles | 17 sur 18 | 14 sur 18 |
C’est un modèle à mélange d’experts : ses 30B paramètres doivent tous tenir en mémoire, mais seulement 3B sont lus à chaque jeton. Il tourne donc bien plus vite qu’un modèle dense de même taille.
Quelles machines peuvent faire tourner GLM-4.7-Flash 30B-A3B?
Triées par prix le plus bas du jour. La quantification est celle que nous utiliserions sur chaque machine : Q8_0 si le modèle rentre à l’aise et dépasse encore 10 tok/s, sinon Q4_K_M.
| Machine | Prix US du jour (USD) | Quantification | Mémoire utilisée | Jetons/s est. | Acheter |
|---|---|---|---|---|---|
| GMKtec EVO-X264 Go · 256 Go/s | 2 200 $ USGMKtec store · 2026-10-24 | Q8_0 | ~35 sur 48 Go | ~48 est. | Voir le prix |
| Mac Studio M5 Max36 Go · 460 Go/s | 2 499 $ USApple Store · 2026-10-24 | Q4_K_M | ~21 sur 27 Go | ~103 est. | Voir le prix |
| Mac Studio M5 Max48 Go · 614 Go/s | 3 099 $ USApple Store · 2026-10-24 | Q4_K_M | ~21 sur 36 Go | ~116 est. | Voir le prix |
| GMKtec EVO-X2128 Go · 256 Go/s | 3 500 $ USGMKtec store · 2026-10-24 | Q8_0 | ~35 sur 96 Go | ~48 est. | Voir le prix |
| Minisforum MS-S1 Max128 Go · 256 Go/s | 3 919 $ USMinisforum store · 2026-10-24 | Q8_0 | ~35 sur 96 Go | ~48 est. | Voir le prix |
| Beelink GTR9 Pro128 Go · 256 Go/s | 4 349 $ USBeelink store · 2026-10-24 | Q8_0 | ~35 sur 96 Go | ~48 est. | Voir le prix |
| Framework Desktop DIY128 Go · 256 Go/s | 4 839 $ USFramework store · 2026-10-24 | Q8_0 | ~35 sur 96 Go | ~48 est. | Voir le prix |
| Gigabyte GeForce RTX 4090 Windforce V224 Go · 1 008 Go/s (carte seule, il faut un PC hôte) | 4 899 $ USNewegg · 2026-10-24 | Q4_K_M | ~21 sur 22 Go | ~214 est. | Voir le prix |
| Mac Studio M5 Ultra96 Go · 1 200 Go/s | 5 499 $ USApple Store · 2026-10-24 | Q8_0 | ~35 sur 72 Go | ~103 est. | Voir le prix |
| Lenovo ThinkStation PGX128 Go · 273 Go/s | 5 859 $ USB&H Photo · 2026-10-24 | Q8_0 | ~35 sur 109 Go | ~54 est. | Voir le prix |
| ASUS Ascent GX10128 Go · 273 Go/s | 5 999 $ USB&H Photo · 2026-10-24 | Q8_0 | ~35 sur 109 Go | ~54 est. | Voir le prix |
| NVIDIA DGX Spark128 Go · 273 Go/s | 6 950 $ USNVIDIA Marketplace · 2026-10-24 | Q8_0 | ~35 sur 109 Go | ~54 est. | Voir le prix |
| HP ZGX Nano G1n128 Go · 273 Go/s | 7 699 $ USB&H Photo · 2026-10-24 | Q8_0 | ~35 sur 109 Go | ~54 est. | Voir le prix |
| Gigabyte AI TOP ATOM128 Go · 273 Go/s | 8 499 $ USB&H Photo · 2026-10-24 | Q8_0 | ~35 sur 109 Go | ~54 est. | Voir le prix |
| NVIDIA GeForce RTX 5090 Founders Edition32 Go · 1 792 Go/s (carte seule, il faut un PC hôte) | 8 500 $ USNewegg · 2026-10-24 | Q4_K_M | ~21 sur 30 Go | ~269 est. | Voir le prix |
| PNY NVIDIA RTX PRO 6000 Blackwell96 Go · 1 792 Go/s (carte seule, il faut un PC hôte) | 17 899 $ USB&H Photo · 2026-10-24 | Q8_0 | ~35 sur 89 Go | ~215 est. | Voir le prix |
| Mac Studio M5 Ultra256 Go · 1 200 Go/s | Aucun prix relevé | Q8_0 | ~35 sur 192 Go | ~103 est. | Voir le prix |
Les jetons/s sont des estimations tirées de notre formule fondée sur la bande passante (un utilisateur, ~8K de contexte, moteur de type llama.cpp), pas des bancs d’essai. Prix des cartes graphiques : carte seule. Prix US en dollars américains (USD), hors taxes et livraison. Les prix changent chaque jour : vérifiez sur la page du détaillant. Notre méthode
À quelle vitesse GLM-4.7-Flash 30B-A3B tourne-t-il sur du vrai matériel?
Vitesses de génération pour un utilisateur publiées pour ce modèle. Ce sont des mesures, pas nos estimations.
| Matériel | Modèle / essai | tok/s mesurés | Source |
|---|---|---|---|
| DGX Spark273 Go/s | GLM-4.7-Flash Q8_0llama.cpp tg32 | 48,7 | source |
Tiré du jeu d’essais qui sert à calibrer notre formule de vitesse. Les 52 essais
GLM-4.7-Flash 30B-A3B rentre-t-il dans chaque machine que nous suivons?
| Machine | Prix US (USD) | Q4_K_M | Q8_0 |
|---|---|---|---|
| Mac mini M5 Pro15-core CPU / 16-core GPU, 24GB | 1 699 $ US | Ne rentre pasil faut ~21 Go | Ne rentre pasil faut ~35 Go |
| GMKtec EVO-X2Ryzen AI Max+ 395, 64GB / 1TB | 2 200 $ US | Rentre~72 tok/s21 sur 48 Go | Rentre~48 tok/s35 sur 48 Go |
| Mac Studio M5 Max18-core CPU / 32-core GPU, 36GB | 2 499 $ US | Rentre~103 tok/s21 sur 27 Go | Ne rentre pasil faut ~35 Go |
| Mac Studio M5 Max18-core CPU / 40-core GPU, 48GB | 3 099 $ US | Rentre~116 tok/s21 sur 36 Go | Juste~90 tok/s35 sur 36 Go |
| GMKtec EVO-X2Ryzen AI Max+ 395, 128GB / 1TB | 3 500 $ US | Rentre~72 tok/s21 sur 96 Go | Rentre~48 tok/s35 sur 96 Go |
| Minisforum MS-S1 MaxRyzen AI Max+ 395, 128GB / 2TB | 3 919 $ US | Rentre~72 tok/s21 sur 96 Go | Rentre~48 tok/s35 sur 96 Go |
| Beelink GTR9 ProRyzen AI Max+ 395, 128GB / 2TB | 4 349 $ US | Rentre~72 tok/s21 sur 96 Go | Rentre~48 tok/s35 sur 96 Go |
| Framework Desktop DIYRyzen AI Max+ 395, 128GB | 4 839 $ US | Rentre~72 tok/s21 sur 96 Go | Rentre~48 tok/s35 sur 96 Go |
| Gigabyte GeForce RTX 4090 Windforce V224GB card | 4 899 $ US | Juste~214 tok/s21 sur 22 Go | Ne rentre pasil faut ~35 Go |
| Mac Studio M5 Ultra30-core CPU / 64-core GPU, 96GB | 5 499 $ US | Rentre~120 tok/s21 sur 72 Go | Rentre~103 tok/s35 sur 72 Go |
| Lenovo ThinkStation PGX1TB | 5 859 $ US | Rentre~83 tok/s21 sur 109 Go | Rentre~54 tok/s35 sur 109 Go |
| ASUS Ascent GX101TB | 5 999 $ US | Rentre~83 tok/s21 sur 109 Go | Rentre~54 tok/s35 sur 109 Go |
| NVIDIA DGX SparkFounders Edition, 4TB | 6 950 $ US | Rentre~83 tok/s21 sur 109 Go | Rentre~54 tok/s35 sur 109 Go |
| HP ZGX Nano G1n4TB | 7 699 $ US | Rentre~83 tok/s21 sur 109 Go | Rentre~54 tok/s35 sur 109 Go |
| Gigabyte AI TOP ATOM4TB | 8 499 $ US | Rentre~83 tok/s21 sur 109 Go | Rentre~54 tok/s35 sur 109 Go |
| NVIDIA GeForce RTX 5090 Founders Edition32GB card | 8 500 $ US | Rentre~269 tok/s21 sur 30 Go | Ne rentre pasil faut ~35 Go |
| PNY NVIDIA RTX PRO 6000 Blackwell96GB card | 17 899 $ US | Rentre~269 tok/s21 sur 89 Go | Rentre~215 tok/s35 sur 89 Go |
| Mac Studio M5 Ultra256GB | — | Rentre~120 tok/s21 sur 192 Go | Rentre~103 tok/s35 sur 192 Go |
La compatibilité et les jetons/s sont des estimations. « Juste » signifie plus de 90 % de la mémoire utilisable : le modèle se charge, mais laisse peu de place pour un long contexte.
Questions fréquentes
Combien de mémoire faut-il pour faire tourner GLM-4.7-Flash 30B-A3B en local?
Environ 21 Go en Q4_K_M (4 bits) et 35 Go en Q8_0 (8 bits). Cela comprend les poids, le surcoût du moteur et environ 8K jetons de contexte pour un utilisateur. Un contexte plus long demande plus. Ce sont des estimations.
Quel est le matériel le moins cher qui fait tourner GLM-4.7-Flash 30B-A3B?
Parmi les machines que nous suivons, le GMKtec EVO-X2 64 Go à 2 200 $ US (GMKtec store, vérifié le 2026-10-24). Nous estimons environ 72 jetons/s en 4 bits.
À quelle vitesse GLM-4.7-Flash 30B-A3B tourne-t-il en local?
Nous estimons environ 72 à 269 jetons/s en 4 bits selon la machine, le plus rapide étant le NVIDIA GeForce RTX 5090 Founders Edition. Un essai publié que nous avons recueilli a mesuré 48,7 tok/s sur DGX Spark.
Peut-on faire tourner GLM-4.7-Flash 30B-A3B sur une seule carte graphique de jeu comme la RTX 4090 ou 5090?
Oui. NVIDIA GeForce RTX 5090 Founders Edition (32 Go) : ~269 tok/s estimés en 4 bits; Gigabyte GeForce RTX 4090 Windforce V2 (24 Go) : ~214 tok/s estimés en 4 bits.
Un Mac peut-il faire tourner GLM-4.7-Flash 30B-A3B?
Oui. Le Mac suivi le moins cher qui le contient est le Mac Studio M5 Max 36 Go à 2 499 $ US, à ~103 tok/s estimés. Par défaut, macOS laisse le GPU utiliser environ 75 % de la mémoire.
Ces vitesses sont-elles mesurées ou estimées?
Le tableau donne des estimations fondées sur la bande passante mémoire, calibrées sur 43 bancs d’essai publics llama.cpp/MLX (écart médian d’environ 5 %). Le tableau des mesures donne les essais publiés, avec leurs liens.