RTX 5090En rupture
NVIDIA GeForce RTX 5090 Founders Edition
32GB card
8 500 $ USchez Newegg
1 792 Go/s (carte seule, il faut un PC hôte)
Voir le prixGuide mémoire · 32 Go de VRAM
Quels LLM faire tourner avec 32 Go de VRAM?
Avec 32 Go de VRAM, 8 des 16 modèles ouverts populaires de notre sélecteur rentrent sans déborder dans la RAM système, le plus gros étant Qwen3.6 35B-A3B. La vitesse va d’environ 73 à 269 jetons/s selon le modèle et la machine.
La machine suivie la moins chère avec 32 Go de VRAM est le NVIDIA GeForce RTX 5090 Founders Edition à 8 500 $ US (carte seule, il faut un PC hôte).
Quels modèles rentrent dans 32 Go de VRAM?
| Modèle | Mémoire en 4 bits | NVIDIA GeForce RTX 5090 Founders Edition1 792 Go/s |
|---|---|---|
| Qwen3.5 9Bdense · 9B actifs · chat, petits agents | ~7 Go | Rentre~135 tok/sQ8_0 |
| Gemma 4 12Bdense · 12B actifs · chat, vision | ~9 Go | Rentre~104 tok/sQ8_0 |
| GPT-OSS 20BMoE · 3.6B actifs · raisonnement, outils | ~13 Go | Rentre~197 tok/sQ8_0 |
| Gemma 4 26B-A4BMoE · 3.8B actifs · chat général rapide | ~18 Go | Rentre~247 tok/sQ4_K_M |
| Qwen3.8 27Bdense · 27B actifs · code, vision, usage général | ~19 Go | Rentre~83 tok/sQ4_K_M |
| GLM-4.7-Flash 30B-A3BMoE · 3B actifs · agents de code | ~21 Go | Rentre~269 tok/sQ4_K_M |
| Gemma 4 31Bdense · 31B actifs · général, vision | ~21 Go | Rentre~73 tok/sQ4_K_M |
| Qwen3.6 35B-A3BMoE · 3B actifs · code et chat rapides | ~24 Go | Rentre~269 tok/sQ4_K_M |
Chaque colonne indique la quantification que nous choisirions (8 bits si le modèle rentre à l’aise et tourne encore à 10 tok/s ou plus, sinon 4 bits) et la vitesse de génération estimée pour un utilisateur, avec ~8K de contexte. Notre méthode
Juste hors de portée : Llama 3.3 70B (~46 Go en 4 bits), Qwen3-Next 80B-A3B (~52 Go en 4 bits), Llama 4 Scout 109B-A17B (~71 Go en 4 bits).
Quelle machine suivie a 32 Go de VRAM?
Questions fréquentes
Quel est le plus gros LLM qu’on peut faire tourner avec 32 Go de VRAM?
Parmi les modèles que nous suivons, Qwen3.6 35B-A3B est le plus gros qui rentre entièrement dans 32 Go de VRAM (Q4_K_M, environ 24 Go avec l’environnement d’exécution et ~8K de contexte).
Quelle est la machine la moins chère avec 32 Go de VRAM?
Parmi les machines que nous suivons, le NVIDIA GeForce RTX 5090 Founders Edition à 8 500 $ US (Newegg, vérifié le 2026-10-24) (carte seule, il faut un PC hôte). Prix US en USD.
Peut-on faire tourner Llama 3.3 70B avec 32 Go de VRAM?
Pas entièrement en mémoire. En 4 bits, il faut environ 46 Go, environnement d’exécution et ~8K de contexte compris.
Comment la compatibilité et la vitesse sont-elles estimées?
Mémoire nécessaire = poids + 1,5 Go + 5 % des poids. Vitesse de génération ≈ 1 ÷ (poids actifs en Go ÷ (efficacité × bande passante mémoire) + un petit surcoût fixe par jeton), l’efficacité et le surcoût étant calibrés par plateforme sur 43 bancs d’essai publics llama.cpp/MLX (erreur médiane d’environ 5 %). Ce sont des estimations, pas des bancs d’essai.