Mac mini M5 Pro
15-core CPU / 16-core GPU, 24GB
24 Go · 307 Go/s
Voir le prixGuide mémoire · 8 Go de VRAM
Avec 8 Go de VRAM, 1 des 16 modèles ouverts populaires de notre sélecteur rentre sans déborder dans la RAM système, le plus gros étant Qwen3.5 9B. La vitesse dépend de la bande passante de votre carte : nous donnons une fourchette pour les cartes de 300 à 900 Go/s.
Nous ne suivons pas encore de machine avec 8 Go de VRAM : utilisez les tableaux ci-dessous avec la bande passante de votre carte.
| Modèle | Quantification | Mémoire nécessaire | Vitesse est., carte à 300–900 Go/s |
|---|---|---|---|
| Qwen3.5 9Bdense · 9B actifs · chat, petits agents | Q4_K_M | ~7 Go | ~44–120 tok/s |
Nous ne suivons aucune carte de 8 Go : la vitesse est donc donnée pour une carte NVIDIA typique de 300 à 900 Go/s (les cartes lentes en bas de la fourchette, les rapides en haut). Nous supposons qu’environ 93 % de la VRAM est utilisable. Notre méthode
Juste hors de portée : Gemma 4 12B (~9 Go en 4 bits), GPT-OSS 20B (~13 Go en 4 bits), Gemma 4 26B-A4B (~18 Go en 4 bits).
Nous ne suivons pas encore de carte de 8 Go. Voici les machines suivies les moins chères avec plus de mémoire.
15-core CPU / 16-core GPU, 24GB
24 Go · 307 Go/s
Voir le prixRyzen AI Max+ 395, 64GB / 1TB
64 Go · 256 Go/s
Voir le prix18-core CPU / 32-core GPU, 36GB
36 Go · 460 Go/s
Voir le prixParmi les modèles que nous suivons, Qwen3.5 9B est le plus gros qui rentre entièrement dans 8 Go de VRAM (Q4_K_M, environ 7 Go avec l’environnement d’exécution et ~8K de contexte).
Pas entièrement en mémoire. En 4 bits, il faut environ 46 Go, environnement d’exécution et ~8K de contexte compris.
Mémoire nécessaire = poids + 1,5 Go + 5 % des poids. Vitesse de génération ≈ 1 ÷ (poids actifs en Go ÷ (efficacité × bande passante mémoire) + un petit surcoût fixe par jeton), l’efficacité et le surcoût étant calibrés par plateforme sur 43 bancs d’essai publics llama.cpp/MLX (erreur médiane d’environ 5 %). Ce sont des estimations, pas des bancs d’essai.
Un court courriel par semaine (en anglais pour l’instant) : ce qui a baissé, ce qui est de retour en stock et les nouveaux modèles ouverts que votre machine peut faire tourner. Désabonnement en un clic.