EN

Google DeepMind · 12B au total / 12B actifs · dense

Meilleur matériel pour faire tourner Gemma 4 12B en local

Pour faire tourner Gemma 4 12B en local, il faut environ 9 Go de mémoire en Q4_K_M, et 17 des 17 machines suivies avec un prix peuvent le contenir.

La moins chère est le Mac mini M5 Pro à 1 699 $ US (~36 tok/s est.); la plus rapide est le NVIDIA GeForce RTX 5090 Founders Edition, à ~170 tok/s.

Quel est le meilleur matériel pour Gemma 4 12B?

Mac miniDisponible

Mac mini M5 Pro

15-core CPU / 16-core GPU, 24GB

1 699 $ USchez Apple Store

La moins chère qui le fait tourner. Le prix le plus bas vu parmi les machines suivies qui contiennent Gemma 4 12B en 4 bits (9 sur 17 Go utilisables).

Rentre~36 tok/sQ4_K_M

Quantification conseillée : Q8_0 (~21 tok/s)

Voir le prix
Mac StudioDisponible

Mac Studio M5 Max

18-core CPU / 40-core GPU, 48GB

3 099 $ USchez Apple Store

Meilleur rapport qualité-prix. Le plus bas prix par jeton/s parmi les systèmes complets où il rentre à l’aise : environ 44,52 $ US par tok/s en 4 bits.

Rentre~70 tok/sQ4_K_M

Quantification conseillée : Q8_0 (~41 tok/s)

Voir le prix
RTX 5090En rupture

NVIDIA GeForce RTX 5090 Founders Edition

32GB card

8 500 $ USchez Newegg

La plus rapide. La plus grande bande passante mémoire parmi les machines où il rentre (1 792 Go/s), donc la génération la plus rapide : ~170 tok/s en 4 bits.

Rentre~170 tok/sQ4_K_M

Quantification conseillée : Q8_0 (~104 tok/s)

Prix de la carte seule : il vous faut encore un PC hôte.

Voir le prix

Quelle quantification choisir?

Utilisez Q4_K_M sur la plupart des machines : il faut ~9 Go. Le Q8_0 (~15 Go) est un peu plus précis et rentre à l’aise sur 17 de ces machines, par exemple le Mac mini M5 Pro.

Quelles machines peuvent faire tourner Gemma 4 12B?

MachinePrix US (USD)Compatibilité et vitesse en 4 bitsQuantification conseillée$ US par tok/s
Mac mini M5 ProMac mini1 699 $ US
Rentre~36 tok/s
Q8_046,77 $ US
GMKtec EVO-X2Strix Halo2 200 $ US
Rentre~28 tok/s
Q8_078,37 $ US
Mac Studio M5 MaxMac Studio2 499 $ US
Rentre~53 tok/s
Q8_046,91 $ US
Mac Studio M5 MaxMac Studio3 099 $ US
Rentre~70 tok/s
Q8_044,52 $ US
GMKtec EVO-X2Strix Halo3 500 $ US
Rentre~28 tok/s
Q8_0124,68 $ US
Minisforum MS-S1 MaxStrix Halo3 919 $ US
Rentre~28 tok/s
Q8_0139,60 $ US
Beelink GTR9 ProStrix Halo4 349 $ US
Rentre~28 tok/s
Q8_0154,92 $ US
Framework Desktop DIYStrix Halo4 839 $ US
Rentre~28 tok/s
Q8_0172,38 $ US
Gigabyte GeForce RTX 4090 Windforce V2RTX 4090 (carte seule, il faut un PC hôte)4 899 $ US
Rentre~103 tok/s
Q8_047,50 $ US
Mac Studio M5 UltraMac Studio5 499 $ US
Rentre~111 tok/s
Q8_049,59 $ US
Lenovo ThinkStation PGXDGX Spark / GB105 859 $ US
Rentre~29 tok/s
Q8_0202,77 $ US
ASUS Ascent GX10DGX Spark / GB105 999 $ US
Rentre~29 tok/s
Q8_0207,61 $ US
NVIDIA DGX SparkDGX Spark / GB106 950 $ US
Rentre~29 tok/s
Q8_0240,53 $ US
HP ZGX Nano G1nDGX Spark / GB107 699 $ US
Rentre~29 tok/s
Q8_0266,45 $ US
Gigabyte AI TOP ATOMDGX Spark / GB108 499 $ US
Rentre~29 tok/s
Q8_0294,14 $ US
NVIDIA GeForce RTX 5090 Founders EditionRTX 5090 (carte seule, il faut un PC hôte)8 500 $ US
Rentre~170 tok/s
Q8_050,08 $ US
PNY NVIDIA RTX PRO 6000 BlackwellRTX PRO 6000 (carte seule, il faut un PC hôte)17 899 $ US
Rentre~170 tok/s
Q8_0105,45 $ US

Trié du moins cher au plus cher. Vitesses de génération estimées pour un utilisateur avec ~8K de contexte. Tableau complet, y compris les machines où il ne rentre pas : mémoire nécessaire pour Gemma 4 12B. Notre méthode

Questions fréquentes

Combien de mémoire faut-il pour faire tourner Gemma 4 12B en local?

Environ 9 Go en Q4_K_M et 15 Go en Q8_0, environnement d’exécution et ~8K jetons de contexte compris, pour un utilisateur. Un contexte plus long demande davantage.

Quel est le matériel le moins cher pour faire tourner Gemma 4 12B en local?

Parmi les machines que nous suivons, le Mac mini M5 Pro à 1 699 $ US, avec ~36 tok/s estimés en 4 bits. Prix US vérifiés le 2026-10-24.

Quelle quantification utiliser pour Gemma 4 12B?

Q4_K_M est le choix par défaut : environ 9 Go. Le Q8_0 demande environ 15 Go; ne l’utilisez que si vous avez la place et gardez une vitesse utilisable.

À quelle vitesse tourne Gemma 4 12B?

Il a 12B paramètres actifs par jeton : la vitesse dépend donc de la bande passante mémoire, de ~28 tok/s sur la machine la plus lente où il rentre à ~170 tok/s sur le NVIDIA GeForce RTX 5090 Founders Edition. Ce sont des estimations, pas des bancs d’essai.

Guides associés

Alertes baisse de prix et retour en stock

Un court courriel par semaine (en anglais pour l’instant) : ce qui a baissé, ce qui est de retour en stock et les nouveaux modèles ouverts que votre machine peut faire tourner. Désabonnement en un clic.