Mac miniDisponible
Mac mini M5 Pro
15-core CPU / 16-core GPU, 24GB
1 699 $ USchez Apple Store
24 Go · 307 Go/s
Voir le prixGuide mémoire · 12 Go de VRAM
Quels LLM faire tourner avec 12 Go de VRAM?
Avec 12 Go de VRAM, 2 des 16 modèles ouverts populaires de notre sélecteur rentrent sans déborder dans la RAM système, le plus gros étant Gemma 4 12B. La vitesse dépend de la bande passante de votre carte : nous donnons une fourchette pour les cartes de 300 à 900 Go/s.
Nous ne suivons pas encore de machine avec 12 Go de VRAM : utilisez les tableaux ci-dessous avec la bande passante de votre carte.
Quels modèles rentrent dans 12 Go de VRAM?
| Modèle | Quantification | Mémoire nécessaire | Vitesse est., carte à 300–900 Go/s |
|---|---|---|---|
| Qwen3.5 9Bdense · 9B actifs · chat, petits agents | Q4_K_M | ~7 Go | ~44–120 tok/s |
| Gemma 4 12Bdense · 12B actifs · chat, vision | Q4_K_M | ~9 Go | ~33–93 tok/s |
Nous ne suivons aucune carte de 12 Go : la vitesse est donc donnée pour une carte NVIDIA typique de 300 à 900 Go/s (les cartes lentes en bas de la fourchette, les rapides en haut). Nous supposons qu’environ 93 % de la VRAM est utilisable. Notre méthode
Juste hors de portée : GPT-OSS 20B (~13 Go en 4 bits), Gemma 4 26B-A4B (~18 Go en 4 bits), Qwen3.8 27B (~19 Go en 4 bits).
Besoin de plus de 12 Go?
Nous ne suivons pas encore de carte de 12 Go. Voici les machines suivies les moins chères avec plus de mémoire.
Strix HaloDisponible
GMKtec EVO-X2
Ryzen AI Max+ 395, 64GB / 1TB
2 200 $ USchez GMKtec store
64 Go · 256 Go/s
Voir le prix
Mac StudioDisponible
Mac Studio M5 Max
18-core CPU / 32-core GPU, 36GB
2 499 $ USchez Apple Store
36 Go · 460 Go/s
Voir le prixQuestions fréquentes
Quel est le plus gros LLM qu’on peut faire tourner avec 12 Go de VRAM?
Parmi les modèles que nous suivons, Gemma 4 12B est le plus gros qui rentre entièrement dans 12 Go de VRAM (Q4_K_M, environ 9 Go avec l’environnement d’exécution et ~8K de contexte).
Peut-on faire tourner Llama 3.3 70B avec 12 Go de VRAM?
Pas entièrement en mémoire. En 4 bits, il faut environ 46 Go, environnement d’exécution et ~8K de contexte compris.
Comment la compatibilité et la vitesse sont-elles estimées?
Mémoire nécessaire = poids + 1,5 Go + 5 % des poids. Vitesse de génération ≈ 1 ÷ (poids actifs en Go ÷ (efficacité × bande passante mémoire) + un petit surcoût fixe par jeton), l’efficacité et le surcoût étant calibrés par plateforme sur 43 bancs d’essai publics llama.cpp/MLX (erreur médiane d’environ 5 %). Ce sont des estimations, pas des bancs d’essai.