Meta · 816B au total / 42B actifs · MoE · code, agents de longue durée
Muse Spark Open 816B-A42B en local : combien de VRAM et quel matériel?
Il faut environ 521 Go en Q4_K_M (4 bits) et 912 Go en Q8_0, soit plus que n’importe quelle machine que nous suivons (le maximum est ~192 Go utilisables sur le Mac Studio M5 Ultra). Il faudrait plusieurs machines en grappe, une quantification plus forte ou un serveur.
Combien de VRAM demande Muse Spark Open 816B-A42B?
| Q4_K_M (4 bits) | Q8_0 (8 bits) | |
|---|---|---|
| Mémoire nécessaire (est.) | ~521 Go | ~912 Go |
| Poids seuls | ~495 Go | ~867 Go |
| Lu à chaque jeton | ~25 Go | ~45 Go |
| Machines compatibles | 0 sur 18 | 0 sur 18 |
C’est un modèle à mélange d’experts : ses 816B paramètres doivent tous tenir en mémoire, mais seulement 42B sont lus à chaque jeton. Il tourne donc bien plus vite qu’un modèle dense de même taille.
Muse Spark Open 816B-A42B rentre-t-il dans chaque machine que nous suivons?
| Machine | Prix US (USD) | Q4_K_M | Q8_0 |
|---|---|---|---|
| Mac mini M5 Pro15-core CPU / 16-core GPU, 24GB | 1 699 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| GMKtec EVO-X2Ryzen AI Max+ 395, 64GB / 1TB | 2 200 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| Mac Studio M5 Max18-core CPU / 32-core GPU, 36GB | 2 499 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| Mac Studio M5 Max18-core CPU / 40-core GPU, 48GB | 3 099 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| GMKtec EVO-X2Ryzen AI Max+ 395, 128GB / 1TB | 3 500 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| Minisforum MS-S1 MaxRyzen AI Max+ 395, 128GB / 2TB | 3 919 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| Beelink GTR9 ProRyzen AI Max+ 395, 128GB / 2TB | 4 349 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| Framework Desktop DIYRyzen AI Max+ 395, 128GB | 4 839 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| Gigabyte GeForce RTX 4090 Windforce V224GB card | 4 899 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| Mac Studio M5 Ultra30-core CPU / 64-core GPU, 96GB | 5 499 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| Lenovo ThinkStation PGX1TB | 5 859 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| ASUS Ascent GX101TB | 5 999 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| NVIDIA DGX SparkFounders Edition, 4TB | 6 950 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| HP ZGX Nano G1n4TB | 7 699 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| Gigabyte AI TOP ATOM4TB | 8 499 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| NVIDIA GeForce RTX 5090 Founders Edition32GB card | 8 500 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| PNY NVIDIA RTX PRO 6000 Blackwell96GB card | 17 899 $ US | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
| Mac Studio M5 Ultra256GB | — | Ne rentre pasil faut ~521 Go | Ne rentre pasil faut ~912 Go |
La compatibilité et les jetons/s sont des estimations. « Juste » signifie plus de 90 % de la mémoire utilisable : le modèle se charge, mais laisse peu de place pour un long contexte.
Questions fréquentes
Combien de mémoire faut-il pour faire tourner Muse Spark Open 816B-A42B en local?
Environ 521 Go en Q4_K_M (4 bits) et 912 Go en Q8_0 (8 bits). Cela comprend les poids, le surcoût du moteur et environ 8K jetons de contexte pour un utilisateur. Un contexte plus long demande plus. Ce sont des estimations.
Un seul ordinateur de bureau peut-il faire tourner Muse Spark Open 816B-A42B?
Pas en 4 bits. Il faut environ 521 Go, plus que n’importe quelle machine que nous suivons.
Peut-on faire tourner Muse Spark Open 816B-A42B sur une seule carte graphique de jeu comme la RTX 4090 ou 5090?
Pas entièrement en VRAM. Il faut environ 521 Go en 4 bits, plus qu’une carte de 24 ou 32 Go. On peut en décharger une partie vers la RAM système, mais c’est beaucoup plus lent.
Un Mac peut-il faire tourner Muse Spark Open 816B-A42B?
Pas les Mac que nous suivons : il faut environ 521 Go en 4 bits, et macOS laisse le GPU utiliser environ 75 % de la mémoire par défaut.
Ces vitesses sont-elles mesurées ou estimées?
Le tableau donne des estimations fondées sur la bande passante mémoire, calibrées sur 43 bancs d’essai publics llama.cpp/MLX (écart médian d’environ 5 %).