Mac miniDisponible
Mac mini M5 Pro
15-core CPU / 16-core GPU, 24GB
1 699 $ USchez Apple Store
24 Go · 307 Go/s
Voir le prixGuide mémoire · 16 Go de VRAM
Quels LLM faire tourner avec 16 Go de VRAM?
Avec 16 Go de VRAM, 3 des 16 modèles ouverts populaires de notre sélecteur rentrent sans déborder dans la RAM système, le plus gros étant GPT-OSS 20B. La vitesse dépend de la bande passante de votre carte : nous donnons une fourchette pour les cartes de 300 à 900 Go/s.
Nous ne suivons pas encore de machine avec 16 Go de VRAM : utilisez les tableaux ci-dessous avec la bande passante de votre carte.
Quels modèles rentrent dans 16 Go de VRAM?
| Modèle | Quantification | Mémoire nécessaire | Vitesse est., carte à 300–900 Go/s |
|---|---|---|---|
| Qwen3.5 9Bdense · 9B actifs · chat, petits agents | Q8_0 | ~12 Go | ~25–72 tok/s |
| Gemma 4 12Bdense · 12B actifs · chat, vision | Q4_K_M | ~9 Go | ~33–93 tok/s |
| GPT-OSS 20BMoE · 3.6B actifs · raisonnement, outils | MXFP4 (native) | ~13 Go | ~98–198 tok/s |
Nous ne suivons aucune carte de 16 Go : la vitesse est donc donnée pour une carte NVIDIA typique de 300 à 900 Go/s (les cartes lentes en bas de la fourchette, les rapides en haut). Nous supposons qu’environ 93 % de la VRAM est utilisable. Notre méthode
Juste hors de portée : Gemma 4 26B-A4B (~18 Go en 4 bits), Qwen3.8 27B (~19 Go en 4 bits), GLM-4.7-Flash 30B-A3B (~21 Go en 4 bits).
Besoin de plus de 16 Go?
Nous ne suivons pas encore de carte de 16 Go. Voici les machines suivies les moins chères avec plus de mémoire.
Strix HaloDisponible
GMKtec EVO-X2
Ryzen AI Max+ 395, 64GB / 1TB
2 200 $ USchez GMKtec store
64 Go · 256 Go/s
Voir le prix
Mac StudioDisponible
Mac Studio M5 Max
18-core CPU / 32-core GPU, 36GB
2 499 $ USchez Apple Store
36 Go · 460 Go/s
Voir le prixQuestions fréquentes
Quel est le plus gros LLM qu’on peut faire tourner avec 16 Go de VRAM?
Parmi les modèles que nous suivons, GPT-OSS 20B est le plus gros qui rentre entièrement dans 16 Go de VRAM (MXFP4 (native), environ 13 Go avec l’environnement d’exécution et ~8K de contexte).
Peut-on faire tourner Llama 3.3 70B avec 16 Go de VRAM?
Pas entièrement en mémoire. En 4 bits, il faut environ 46 Go, environnement d’exécution et ~8K de contexte compris.
Comment la compatibilité et la vitesse sont-elles estimées?
Mémoire nécessaire = poids + 1,5 Go + 5 % des poids. Vitesse de génération ≈ 1 ÷ (poids actifs en Go ÷ (efficacité × bande passante mémoire) + un petit surcoût fixe par jeton), l’efficacité et le surcoût étant calibrés par plateforme sur 43 bancs d’essai publics llama.cpp/MLX (erreur médiane d’environ 5 %). Ce sont des estimations, pas des bancs d’essai.