EN

Guide mémoire · 96 Go de mémoire unifiée

Quels LLM faire tourner avec 96 Go de mémoire unifiée?

Avec 96 Go de mémoire unifiée, 12 des 16 modèles ouverts populaires de notre sélecteur rentrent sans déborder dans la RAM système, le plus gros étant GPT-OSS 120B. La vitesse va d’environ 23 à 120 jetons/s selon le modèle et la machine.

La machine suivie la moins chère avec 96 Go de mémoire unifiée est le Mac Studio M5 Ultra à 5 499 $ US.

Quels modèles rentrent dans 96 Go de mémoire unifiée?

ModèleMémoire en 4 bitsMac Studio M5 Ultra1 200 Go/s
Qwen3.5 9Bdense · 9B actifs · chat, petits agents~7 Go
Rentre~89 tok/sQ8_0
Gemma 4 12Bdense · 12B actifs · chat, vision~9 Go
Rentre~69 tok/sQ8_0
GPT-OSS 20BMoE · 3.6B actifs · raisonnement, outils~13 Go
Rentre~97 tok/sQ8_0
Gemma 4 26B-A4BMoE · 3.8B actifs · chat général rapide~18 Go
Rentre~95 tok/sQ8_0
Qwen3.8 27Bdense · 27B actifs · code, vision, usage général~19 Go
Rentre~33 tok/sQ8_0
GLM-4.7-Flash 30B-A3BMoE · 3B actifs · agents de code~21 Go
Rentre~103 tok/sQ8_0
Gemma 4 31Bdense · 31B actifs · général, vision~21 Go
Rentre~29 tok/sQ8_0
Qwen3.6 35B-A3BMoE · 3B actifs · code et chat rapides~24 Go
Rentre~103 tok/sQ8_0
Llama 3.3 70Bdense · 70B actifs · usage général~46 Go
Rentre~23 tok/sQ4_K_M
Qwen3-Next 80B-A3BMoE · 3B actifs · long contexte, rapide~52 Go
Rentre~120 tok/sQ4_K_M
Llama 4 Scout 109B-A17BMoE · 17B actifs · multimodal, long contexte~71 Go
Juste~60 tok/sQ4_K_M
GPT-OSS 120BMoE · 5.1B actifs · raisonnement, outils~67 Go
Juste~109 tok/sMXFP4 (native)

Chaque colonne indique la quantification que nous choisirions (8 bits si le modèle rentre à l’aise et tourne encore à 10 tok/s ou plus, sinon 4 bits) et la vitesse de génération estimée pour un utilisateur, avec ~8K de contexte. Notre méthode

Juste hors de portée : Nemotron 3 Super 120B-A12B (~78 Go en 4 bits), Qwen3.5 122B-A10B (~79 Go en 4 bits), Qwen3 235B-A22B (~151 Go en 4 bits).

Quelle machine suivie a 96 Go de mémoire unifiée?

Aussi 96 Go, mais sur une carte graphique dédiée : PNY NVIDIA RTX PRO 6000 Blackwell. La part utilisable et la bande passante diffèrent : consultez sa page.

Questions fréquentes

Quel est le plus gros LLM qu’on peut faire tourner avec 96 Go de mémoire unifiée?

Parmi les modèles que nous suivons, GPT-OSS 120B est le plus gros qui rentre entièrement dans 96 Go de mémoire unifiée (MXFP4 (native), environ 67 Go avec l’environnement d’exécution et ~8K de contexte).

Quelle est la machine la moins chère avec 96 Go de mémoire unifiée?

Parmi les machines que nous suivons, le Mac Studio M5 Ultra à 5 499 $ US (Apple Store, vérifié le 2026-10-24). Prix US en USD.

Peut-on faire tourner Llama 3.3 70B avec 96 Go de mémoire unifiée?

Oui. En 4 bits, il faut environ 46 Go, environnement d’exécution et ~8K de contexte compris.

Comment la compatibilité et la vitesse sont-elles estimées?

Mémoire nécessaire = poids + 1,5 Go + 5 % des poids. Vitesse de génération ≈ 1 ÷ (poids actifs en Go ÷ (efficacité × bande passante mémoire) + un petit surcoût fixe par jeton), l’efficacité et le surcoût étant calibrés par plateforme sur 43 bancs d’essai publics llama.cpp/MLX (erreur médiane d’environ 5 %). Ce sont des estimations, pas des bancs d’essai.

Autres tailles de mémoire

Meilleur matériel pour…

Alertes baisse de prix et retour en stock

Un court courriel par semaine (en anglais pour l’instant) : ce qui a baissé, ce qui est de retour en stock et les nouveaux modèles ouverts que votre machine peut faire tourner. Désabonnement en un clic.