Méthode
Notre méthode : compatibilité des LLM, jetons/s et prix
Nous estimons la mémoire nécessaire comme les poids, plus le surcoût de l’environnement d’exécution, plus ~8K jetons de contexte, et la vitesse de génération comme la bande passante mémoire divisée par les poids lus à chaque jeton, avec des constantes par plateforme calibrées sur 43 bancs d’essai publics (erreur médiane 5 %).
Les prix sont copiés des pages des détaillants par script, avec la date.
Chiffres clés
- Nous suivons 18 machines pour l’IA locale dans 7 familles de matériel (DGX Spark / GB10, Mac Studio, Mac mini, RTX 4090, RTX 5090, RTX PRO 6000, Strix Halo); 17 avaient un prix chez un détaillant lors de notre dernière vérification (2026-10-24).
- Nous estimons la mémoire et la vitesse de 22 modèles à poids ouverts, en 4 bits et en 8 bits.
- La machine la moins chère que nous suivons avec 128 Go de mémoire ou plus est le GMKtec EVO-X2 à 3 500 $ US (GMKtec store, vérifié le 2026-10-24).
- Llama 3.3 70B demande environ 46 Go en 4 bits (Q4_K_M), environnement d’exécution et ~8K de contexte compris; la machine avec prix la moins chère qui le fait tourner est le GMKtec EVO-X2 à 2 200 $ US.
- Notre formule de jetons par seconde tombe à 5 % de la vitesse mesurée (médiane) sur 43 bancs d’essai publics llama.cpp/MLX, et à ±15 % près sur 37 des 43; nous publions les 52 essais comparés.
- Règle simple : en 4 bits, un modèle demande environ 0,6 Go par milliard de paramètres, plus environ 1,5 Go pour l’environnement d’exécution et ~5 % de plus pour 8K de contexte; la vitesse de génération est plafonnée par la bande passante mémoire ÷ les poids actifs.
Mis à jour le 2026-10-24. Citation libre avec un lien vers bestlocalairig.com. Méthode : comment nous mesurons.
D’où viennent les prix et les stocks?
Un script consulte la page de chaque détaillant et note le prix et le texte de stock tels qu’affichés, avec la date. Si nous n’avons pas vu de prix, nous écrivons « inconnu » plutôt que de deviner. Le prix des GPU est celui de la carte seule. Ce sont des prix de détaillants américains, en dollars US (USD), hors taxes et livraison; au Canada ou en Europe, le prix local, les taxes et les frais d’importation peuvent être très différents. Confirmez toujours sur la page du détaillant avant d’acheter.
Comment savoir si un modèle va rentrer?
mémoire nécessaire (Go) = poids + 1,5 Go + 5 % des poidspoids = paramètres totaux (milliards) × bits par poids ÷ 8
Q4_K_M: 4,85 bits par poids, environ 4,85 bits par poids en moyenne pour le Q4_K_M de llama.cpp.Q8_0: 8,5 bits par poids, environ 8,5 bits par poids pour le Q8_0 de llama.cpp.- Le terme 1,5 Go + 5 % couvre à peu près l’environnement d’exécution et le cache KV pour environ 8K jetons de contexte, pour un utilisateur. Les longs contextes (32K à 1M) peuvent demander beaucoup plus; les modèles à attention glissante ou compressée en demandent moins.
La mémoire utilisable correspond à la mémoire installée multipliée par une fraction propre à chaque machine. Les GPU dédiés ont environ 93 %, car le pilote et l’affichage prennent le reste. Les boîtiers DGX Spark/GB10 ont environ 85 %, car la mémoire est partagée avec le système. Les Mac et les Strix Halo ont environ 75 % : macOS et le pilote AMD plafonnent par défaut la mémoire utilisable par le GPU. Ce plafond peut être relevé par réglage, donc un « Ne rentre pas » proche de la limite veut dire « peut-être ».
Un modèle obtient Rentre sous 90 % de la mémoire utilisable, Juste entre 90 % et 100 %, et Ne rentre pas au-delà. Nous ne comptons pas le déchargement vers la RAM système, qui fonctionne mais est beaucoup plus lent.
Comment estimons-nous les jetons par seconde?
secondes par jeton ≈ poids actifs (Go) ÷ (efficacité × bande passante mémoire (Go/s)) + surcoût fixepoids actifs (Go) = paramètres actifs (milliards) × bits par poids ÷ 8jetons/s = 1 ÷ secondes par jeton
Générer chaque jeton oblige à lire une fois tous les poids actifs en mémoire : la bande passante fixe donc le plafond. Pour les modèles à mélange d’experts (MoE), seuls les paramètres actifs comptent. Voilà pourquoi un MoE de 120B peut être plus rapide qu’un modèle dense de 70B. En plus des lectures mémoire, chaque jeton a un petit coût fixe : lancement des noyaux GPU, attention et, pour les MoE, routage vers les experts. Ce coût compte peu pour un modèle dense de 70B, mais il représente l’essentiel du temps pour un petit MoE sur un GPU rapide. C’est pourquoi gpt-oss-120b tourne à environ 200 tok/s sur une RTX PRO 6000, et non aux 400 que prédirait une formule fondée uniquement sur la bande passante.
Quelle est la précision des estimations de vitesse?
Nous avons calibré l’efficacité et le surcoût de chaque plateforme sur 43 bancs d’essai publics de génération pour un utilisateur (llama-bench tg128/tg32 de llama.cpp, plus quelques essais MLX), avec des modèles denses et MoE sur chaque plateforme listée :
| Plateforme | Efficacité de la bande passante | Surcoût, dense | Surcoût, MoE |
|---|---|---|---|
| NVIDIA GeForce / RTX PRO (CUDA) | 83 % | 1,0 ms | 2,5 ms |
| DGX Spark / GB10 (CUDA) | 77 % | 0,0 ms | 3,4 ms |
| AMD Strix Halo (Vulkan / ROCm) | 80 % | 0,1 ms | 5,1 ms |
| Apple M Pro / Max (Metal / MLX) | 90 % | 1,2 ms | 5,3 ms |
| Apple M Ultra (Metal / MLX) | 84 % | 1,8 ms | 6,5 ms |
Sur ces 43 essais, l’estimation médiane tombe à 5 % de la vitesse mesurée, et 37 sur 43 sont à ±15 % près (pire cas : 24 % trop optimiste, sur un modèle Qwen3-Next à attention hybride). Notre ancienne formule à facteur unique (0,6 × bande passante ÷ poids actifs) avait une erreur médiane de 26 % et pouvait être deux fois trop optimiste pour les MoE sur GPU rapides et sur Mac. L’analyse complète, avec chaque essai et un graphique : nos estimations de vitesse comparées à 52 vrais bancs d’essai.
Cela reste des estimations pour un utilisateur, à contexte court, avec des environnements de type llama.cpp. Les longs contextes sont plus lents (souvent 20 à 40 % à 32K). Les nouvelles versions des environnements, le décodage spéculatif/MTP et le traitement par lots peuvent être plus rapides, et les nouvelles architectures (attention hybride ou linéaire, très grand nombre d’experts) peuvent différer. Il s’agit de la vitesse de génération. Le traitement du prompt (prefill) dépend de la puissance de calcul, pas de la bande passante : c’est là que les GPU NVIDIA et le DGX Spark devancent les Mac et les Strix Halo.
Sources des bancs d’essai (en anglais) : bancs llama.cpp DGX Spark, fil llama.cpp DGX Spark/Strix Halo, fil llama.cpp Apple Silicon, tableau CUDA de llama.cpp, guide gpt-oss de llama.cpp, fil llama.cpp génération CUDA, llm-tracker Strix Halo, llm-tracker RTX PRO 6000, jeu de données RTX 5090, M5 Max llama.cpp vs MLX, Hardware Corner M5 Max, oMLX M3 Ultra, quantized.uk et un compte rendu Strix Halo sur r/LocalLLM.
Que veulent dire les étiquettes de stock?
En stock le détaillant indique qu’on peut commander maintenant. Précommande précommande ou délai annoncé. En rupture le détaillant indique une rupture de stock. Stock inconnu nous n’avons pas pu lire le stock. Survolez une étiquette pour voir le texte exact du détaillant (en anglais).
Quelles sources utilisons-nous?
La bande passante mémoire vient des fiches techniques des fabricants. Les données de calibration de vitesse viennent des bancs d’essai publics cités plus haut. Le nombre de paramètres des modèles vient de leurs créateurs et de catalogues publics. Les images des produits viennent des pages produits et des dossiers de presse des fabricants et des détaillants; chaque source est notée dans notre fichier de données. Les corrections sont bienvenues : répondez à une infolettre ou écrivez à hello@bestlocalairig.com.
Quand les données sont-elles mises à jour?
- Prix et stocks : revérifiés par script, la dernière fois le 2026-10-24. Chaque prix du site affiche sa propre date de vérification.
- Calibration de la vitesse : ajustée en octobre 2026 sur 43 essais, avec un jeu de validation; voir l’analyse des bancs d’essai.
- Liste et fiches des modèles : mises à jour à la sortie de nouveaux modèles ouverts; cette page a été régénérée le 2026-10-24.
Qui est derrière ce site?
L’équipe Best Local AI Rig. Voir À propos pour notre politique éditoriale et d’affiliation, et écrivez à hello@bestlocalairig.com pour toute correction.