RTX 4090En stock
Gigabyte GeForce RTX 4090 Windforce V2
24GB card
4 899 $ USchez Newegg
1 008 Go/s (carte seule, il faut un PC hôte)
Voir le prixGuide mémoire · 24 Go de VRAM
Quels LLM faire tourner avec 24 Go de VRAM?
Avec 24 Go de VRAM, 7 des 16 modèles ouverts populaires de notre sélecteur rentrent sans déborder dans la RAM système, le plus gros étant Gemma 4 31B. La vitesse va d’environ 43 à 214 jetons/s selon le modèle et la machine.
La machine suivie la moins chère avec 24 Go de VRAM est le Gigabyte GeForce RTX 4090 Windforce V2 à 4 899 $ US (carte seule, il faut un PC hôte).
Quels modèles rentrent dans 24 Go de VRAM?
| Modèle | Mémoire en 4 bits | Gigabyte GeForce RTX 4090 Windforce V21 008 Go/s |
|---|---|---|
| Qwen3.5 9Bdense · 9B actifs · chat, petits agents | ~7 Go | Rentre~80 tok/sQ8_0 |
| Gemma 4 12Bdense · 12B actifs · chat, vision | ~9 Go | Rentre~62 tok/sQ8_0 |
| GPT-OSS 20BMoE · 3.6B actifs · raisonnement, outils | ~13 Go | Rentre~209 tok/sMXFP4 (native) |
| Gemma 4 26B-A4BMoE · 3.8B actifs · chat général rapide | ~18 Go | Rentre~190 tok/sQ4_K_M |
| Qwen3.8 27Bdense · 27B actifs · code, vision, usage général | ~19 Go | Rentre~49 tok/sQ4_K_M |
| GLM-4.7-Flash 30B-A3BMoE · 3B actifs · agents de code | ~21 Go | Juste~214 tok/sQ4_K_M |
| Gemma 4 31Bdense · 31B actifs · général, vision | ~21 Go | Juste~43 tok/sQ4_K_M |
Chaque colonne indique la quantification que nous choisirions (8 bits si le modèle rentre à l’aise et tourne encore à 10 tok/s ou plus, sinon 4 bits) et la vitesse de génération estimée pour un utilisateur, avec ~8K de contexte. Notre méthode
Juste hors de portée : Qwen3.6 35B-A3B (~24 Go en 4 bits), Llama 3.3 70B (~46 Go en 4 bits), Qwen3-Next 80B-A3B (~52 Go en 4 bits).
Quelle machine suivie a 24 Go de VRAM?
Aussi 24 Go, mais en mémoire unifiée : Mac mini M5 Pro. La part utilisable et la bande passante diffèrent : consultez sa page.
Questions fréquentes
Quel est le plus gros LLM qu’on peut faire tourner avec 24 Go de VRAM?
Parmi les modèles que nous suivons, Gemma 4 31B est le plus gros qui rentre entièrement dans 24 Go de VRAM (Q4_K_M, environ 21 Go avec l’environnement d’exécution et ~8K de contexte).
Quelle est la machine la moins chère avec 24 Go de VRAM?
Parmi les machines que nous suivons, le Gigabyte GeForce RTX 4090 Windforce V2 à 4 899 $ US (Newegg, vérifié le 2026-10-24) (carte seule, il faut un PC hôte). Prix US en USD.
Peut-on faire tourner Llama 3.3 70B avec 24 Go de VRAM?
Pas entièrement en mémoire. En 4 bits, il faut environ 46 Go, environnement d’exécution et ~8K de contexte compris.
Comment la compatibilité et la vitesse sont-elles estimées?
Mémoire nécessaire = poids + 1,5 Go + 5 % des poids. Vitesse de génération ≈ 1 ÷ (poids actifs en Go ÷ (efficacité × bande passante mémoire) + un petit surcoût fixe par jeton), l’efficacité et le surcoût étant calibrés par plateforme sur 43 bancs d’essai publics llama.cpp/MLX (erreur médiane d’environ 5 %). Ce sont des estimations, pas des bancs d’essai.