Zhipu (Z.ai) · 30B au total / 3B actifs · MoE
Pour faire tourner GLM-4.7-Flash 30B-A3B en local, il faut environ 21 Go de mémoire en Q4_K_M, et 16 des 17 machines suivies avec un prix peuvent le contenir. La moins chère est le GMKtec EVO-X2 à 2 200 $ US (~72 tok/s est.); la plus rapide est le NVIDIA GeForce RTX 5090 Founders Edition, à ~269 tok/s.
Ryzen AI Max+ 395, 64GB / 1TB
La moins chère qui le fait tourner. Le prix le plus bas vu parmi les machines suivies qui contiennent GLM-4.7-Flash 30B-A3B en 4 bits (21 sur 48 Go utilisables).
Quantification conseillée : Q8_0 (~48 tok/s)
Voir le prix18-core CPU / 32-core GPU, 36GB
Meilleur rapport qualité-prix. Le plus bas prix par jeton/s parmi les systèmes complets où il rentre à l’aise : environ 24,22 $ US par tok/s en 4 bits.
32GB card
La plus rapide. La plus grande bande passante mémoire parmi les machines où il rentre (1 792 Go/s), donc la génération la plus rapide : ~269 tok/s en 4 bits.
Prix de la carte seule : il vous faut encore un PC hôte.
Voir le prixUtilisez Q4_K_M sur la plupart des machines : il faut ~21 Go. Le Q8_0 (~35 Go) est un peu plus précis et rentre à l’aise sur 12 de ces machines, par exemple le GMKtec EVO-X2.
| Machine | Prix US (USD) | Compatibilité et vitesse en 4 bits | Quantification conseillée | $ US par tok/s |
|---|---|---|---|---|
| GMKtec EVO-X2Strix Halo | 2 200 $ US | Rentre~72 tok/s | Q8_0 | 30,76 $ US |
| Mac Studio M5 MaxMac Studio | 2 499 $ US | Rentre~103 tok/s | Q4_K_M | 24,22 $ US |
| Mac Studio M5 MaxMac Studio | 3 099 $ US | Rentre~116 tok/s | Q4_K_M | 26,62 $ US |
| GMKtec EVO-X2Strix Halo | 3 500 $ US | Rentre~72 tok/s | Q8_0 | 48,93 $ US |
| Minisforum MS-S1 MaxStrix Halo | 3 919 $ US | Rentre~72 tok/s | Q8_0 | 54,79 $ US |
| Beelink GTR9 ProStrix Halo | 4 349 $ US | Rentre~72 tok/s | Q8_0 | 60,80 $ US |
| Framework Desktop DIYStrix Halo | 4 839 $ US | Rentre~72 tok/s | Q8_0 | 67,65 $ US |
| Gigabyte GeForce RTX 4090 Windforce V2RTX 4090 (carte seule, il faut un PC hôte) | 4 899 $ US | Juste~214 tok/s | Q4_K_M | 22,90 $ US |
| Mac Studio M5 UltraMac Studio | 5 499 $ US | Rentre~120 tok/s | Q8_0 | 45,67 $ US |
| Lenovo ThinkStation PGXDGX Spark / GB10 | 5 859 $ US | Rentre~83 tok/s | Q8_0 | 70,61 $ US |
| ASUS Ascent GX10DGX Spark / GB10 | 5 999 $ US | Rentre~83 tok/s | Q8_0 | 72,30 $ US |
| NVIDIA DGX SparkDGX Spark / GB10 | 6 950 $ US | Rentre~83 tok/s | Q8_0 | 83,76 $ US |
| HP ZGX Nano G1nDGX Spark / GB10 | 7 699 $ US | Rentre~83 tok/s | Q8_0 | 92,79 $ US |
| Gigabyte AI TOP ATOMDGX Spark / GB10 | 8 499 $ US | Rentre~83 tok/s | Q8_0 | 102,43 $ US |
| NVIDIA GeForce RTX 5090 Founders EditionRTX 5090 (carte seule, il faut un PC hôte) | 8 500 $ US | Rentre~269 tok/s | Q4_K_M | 31,64 $ US |
| PNY NVIDIA RTX PRO 6000 BlackwellRTX PRO 6000 (carte seule, il faut un PC hôte) | 17 899 $ US | Rentre~269 tok/s | Q8_0 | 66,63 $ US |
Trié du moins cher au plus cher. Vitesses de génération estimées pour un utilisateur avec ~8K de contexte. Tableau complet, y compris les machines où il ne rentre pas : mémoire nécessaire pour GLM-4.7-Flash 30B-A3B. Notre méthode
Environ 21 Go en Q4_K_M et 35 Go en Q8_0, environnement d’exécution et ~8K jetons de contexte compris, pour un utilisateur. Un contexte plus long demande davantage.
Parmi les machines que nous suivons, le GMKtec EVO-X2 à 2 200 $ US, avec ~72 tok/s estimés en 4 bits. Prix US vérifiés le 2026-10-24.
Q4_K_M est le choix par défaut : environ 21 Go. Le Q8_0 demande environ 35 Go; ne l’utilisez que si vous avez la place et gardez une vitesse utilisable.
Il a 3B paramètres actifs par jeton : la vitesse dépend donc de la bande passante mémoire, de ~72 tok/s sur la machine la plus lente où il rentre à ~269 tok/s sur le NVIDIA GeForce RTX 5090 Founders Edition. Ce sont des estimations, pas des bancs d’essai.
Un court courriel par semaine (en anglais pour l’instant) : ce qui a baissé, ce qui est de retour en stock et les nouveaux modèles ouverts que votre machine peut faire tourner. Désabonnement en un clic.
