Configuration · Ollama et LM Studio
Ollama et LM Studio : quelle config pour l’IA locale?
Ollama et LM Studio demandent environ 7 Go de VRAM ou de mémoire unifiée pour un modèle de 9B en 4 bits, ~13 Go pour un 20B et ~46 Go pour un 70B. Une carte graphique n’est pas obligatoire, mais la bande passante fixe la vitesse. Minimum par modèle ci-dessous.
Mémoire minimale par modèle dans Ollama
| Modèle | 4 bits | 8 bits | Plus petite carte | Plus petite mémoire unifiée | Machine suivie la moins chère |
|---|---|---|---|---|---|
| Qwen3.5 9Bchat, petits agents | ~7 Go | ~12 Go | 8 Go | 16 Go | Mac mini M5 Pro1 699 $ US |
| Gemma 4 12Bchat, vision | ~9 Go | ~15 Go | 12 Go | 16 Go | Mac mini M5 Pro1 699 $ US |
| GPT-OSS 20Braisonnement, outils | ~13 Go | ~25 Go | 16 Go | 24 Go | Mac mini M5 Pro1 699 $ US |
| Gemma 4 26B-A4Bchat général rapide | ~18 Go | ~30 Go | 24 Go | 24 Go | GMKtec EVO-X2 64GB2 200 $ US |
| Qwen3.8 27Bcode, vision, usage général | ~19 Go | ~32 Go | 24 Go | 32 Go | GMKtec EVO-X2 64GB2 200 $ US |
| Gemma 3 27Bgénéral, vision | ~19 Go | ~32 Go | 24 Go | 32 Go | GMKtec EVO-X2 64GB2 200 $ US |
| GLM-4.7-Flash 30B-A3Bagents de code | ~21 Go | ~35 Go | 24 Go | 32 Go | GMKtec EVO-X2 64GB2 200 $ US |
| Qwen3 30B-A3Bchat et code rapides | ~21 Go | ~36 Go | 24 Go | 32 Go | GMKtec EVO-X2 64GB2 200 $ US |
| Gemma 4 31Bgénéral, vision | ~21 Go | ~36 Go | 24 Go | 32 Go | GMKtec EVO-X2 64GB2 200 $ US |
| Qwen3 32Bgénéral, code, raisonnement | ~22 Go | ~38 Go | 32 Go | 32 Go | GMKtec EVO-X2 64GB2 200 $ US |
| DeepSeek R1 Distill Qwen 32Braisonnement | ~22 Go | ~38 Go | 32 Go | 32 Go | GMKtec EVO-X2 64GB2 200 $ US |
| Qwen3.6 35B-A3Bcode et chat rapides | ~24 Go | ~41 Go | 32 Go | 32 Go | GMKtec EVO-X2 64GB2 200 $ US |
| Llama 3.3 70Busage général | ~46 Go | ~80 Go | 96 Go | 64 Go | GMKtec EVO-X2 64GB2 200 $ US |
| DeepSeek R1 Distill Llama 70Braisonnement | ~46 Go | ~80 Go | 96 Go | 64 Go | GMKtec EVO-X2 64GB2 200 $ US |
| Qwen3-Next 80B-A3Blong contexte, rapide | ~52 Go | ~91 Go | 96 Go | 96 Go | GMKtec EVO-X2 128GB3 500 $ US |
| Llama 4 Scout 109B-A17Bmultimodal, long contexte | ~71 Go | ~123 Go | 96 Go | 96 Go | GMKtec EVO-X2 128GB3 500 $ US |
| GPT-OSS 120Braisonnement, outils | ~67 Go | ~132 Go | 96 Go | 96 Go | GMKtec EVO-X2 128GB3 500 $ US |
| Mistral Small 4 119B-A6Bchat, raisonnement, code, vision | ~78 Go | ~135 Go | 96 Go | 128 Go | GMKtec EVO-X2 128GB3 500 $ US |
| Nemotron 3 Super 120B-A12Bagents | ~78 Go | ~135 Go | 96 Go | 128 Go | GMKtec EVO-X2 128GB3 500 $ US |
| Qwen3.5 122B-A10Btrès bon en général et en code | ~79 Go | ~138 Go | 96 Go | 128 Go | GMKtec EVO-X2 128GB3 500 $ US |
| Qwen3 235B-A22Bmodèle ouvert de pointe | ~151 Go | ~264 Go | plusieurs GPU | 256 Go | — |
| Muse Spark Open 816B-A42Bcode, agents de longue durée | ~521 Go | ~912 Go | plusieurs GPU | — | — |
Plus petite taille de VRAM courante (8, 12, 16, 24, 32, 48, 96 Go, ~93 % utilisables) et plus petite mémoire unifiée (~75 % utilisables) qui contiennent le modèle en 4 bits avec ~8K de contexte.
À quelle vitesse Ollama tourne-t-il selon le matériel?
Une machine représentative par famille (la moins chère avec un prix, ou l’Ultra pour le Mac Studio).
| Modèle | Mac mini M5 Pro | Mac Studio M5 Ultra 96GB | GMKtec EVO-X2 64GB | Lenovo ThinkStation PGX | Gigabyte GeForce RTX 4090 Windforce V2 | NVIDIA GeForce RTX 5090 Founders Edition | PNY NVIDIA RTX PRO 6000 Blackwell |
|---|---|---|---|---|---|---|---|
| Qwen3.5 9B~7 Go en Q4_K_M | Rentre~48 tok/s | Rentre~139 tok/s | Rentre~37 tok/s | Rentre~39 tok/s | Rentre~133 tok/s | Rentre~214 tok/s | Rentre~214 tok/s |
| GPT-OSS 20B~13 Go en MXFP4 (native) | Rentre~82 tok/s | Rentre~119 tok/s | Rentre~69 tok/s | Rentre~80 tok/s | Rentre~209 tok/s | Rentre~264 tok/s | Rentre~264 tok/s |
| Qwen3.6 35B-A3B~24 Go en Q4_K_M | Ne rentre pas | Rentre~120 tok/s | Rentre~72 tok/s | Rentre~83 tok/s | Ne rentre pas | Rentre~269 tok/s | Rentre~269 tok/s |
| Qwen3.8 27B~19 Go en Q4_K_M | Ne rentre pas | Rentre~55 tok/s | Rentre~12 tok/s | Rentre~13 tok/s | Rentre~49 tok/s | Rentre~83 tok/s | Rentre~83 tok/s |
| Llama 3.3 70B~46 Go en Q4_K_M | Ne rentre pas | Rentre~23 tok/s | Juste~5 tok/s | Rentre~5 tok/s | Ne rentre pas | Ne rentre pas | Rentre~34 tok/s |
| GPT-OSS 120B~67 Go en MXFP4 (native) | Ne rentre pas | Juste~109 tok/s | Ne rentre pas | Rentre~61 tok/s | Ne rentre pas | Ne rentre pas | Rentre~231 tok/s |
Génération estimée pour un utilisateur, ~8K de contexte; pour les cartes graphiques, le modèle doit tenir entièrement en VRAM. Notre méthode
Ollama a-t-il besoin d’une carte graphique?
Non : Ollama et LM Studio tournent aussi sur processeur seul, mais la génération est limitée par la bande passante mémoire, et la RAM double canal d’un PC ordinaire est plusieurs fois plus lente que celle d’une carte graphique ou que la mémoire unifiée Apple/Strix Halo. C’est une carte graphique ou une machine à mémoire unifiée qui rend les modèles de 20B+ utilisables.
Les téléchargements par défaut d’Ollama sont en 4 bits (Q4_K_M) pour la plupart des modèles : c’est l’hypothèse de notre colonne 4 bits. Qwen3.5 9B demande ~7 Go, GPT-OSS 20B ~13 Go, Llama 3.3 70B ~46 Go et GPT-OSS 120B ~67 Go.
LM Studio
LM Studio utilise le même moteur llama.cpp (plus MLX sur Mac) : les besoins en mémoire sont identiques. Sur Apple Silicon, il peut aussi lancer des versions MLX au lieu du GGUF.
Si un modèle ne tient pas en VRAM, Ollama répartit les couches entre le GPU et la RAM système : il tourne quand même, mais la vitesse chute vers celle du processeur. Nos tableaux supposent que tout tient en VRAM ou en mémoire unifiée.
Essais Ollama mesurés
Résultats publics de génération pour un utilisateur, ceux qui servent à calibrer notre formule. Les essais diffèrent (version, réglages) : comparez à conditions égales.
| Matériel | Modèle / essai | tok/s mesurés | Notre formule | Source |
|---|---|---|---|---|
| Strix Halo256 Go/s | Qwen3.6 35B-A3B Q4_K_MOllama/llama.cpp | 63,0 | 71,5 | source |
| Framework Desktop (Strix Halo)256 Go/s | Llama 3.1 70B Q4_K_MOllama (Geerling) | 5,0 | 4,8 | source |
| Dell Pro Max GB10273 Go/s | Llama 3.1 70B Q4_K_MOllama (Geerling) | 4,7 | 4,9 | source |
| M3 Ultra 512GB819 Go/s | Llama 3.1 70B Q4_K_MOllama (Geerling) | 14,1 | 15,7 | source |
Questions fréquentes
Quelle est la configuration minimale pour Ollama?
Ollama est léger : c’est le modèle qui fixe le besoin. Qwen3.5 9B en 4 bits demande ~7 Go de VRAM ou de mémoire unifiée : une carte de 8 à 12 Go ou un Mac de 16 Go est le minimum pratique pour les modèles de 7 à 9 milliards.
Ollama peut-il tourner sans carte graphique?
Oui, sur processeur seul, mais lentement : la RAM double canal d’un PC ordinaire a une fraction de la bande passante d’une carte graphique; la génération est bien plus lente que sur une carte graphique ou une machine à mémoire unifiée.
Combien de VRAM faut-il à Ollama pour Llama 70B?
Environ 46 Go avec la quantification 4 bits par défaut : une carte de 96 Go, deux cartes de 32 Go, ou une machine à mémoire unifiée de 64 Go et plus.
LM Studio est-il plus rapide qu’Ollama?
Ils partagent le moteur llama.cpp : à fichier GGUF égal, les vitesses sont proches. Sur Mac, LM Studio peut aussi lancer des modèles MLX; voir les essais MLX et llama.cpp mesurés dans nos bancs d’essai.
Ollama utilise-t-il la mémoire unifiée sur Mac ou Strix Halo?
Oui. Sur Mac, il passe par Metal et le GPU peut utiliser environ 75 % de la mémoire unifiée par défaut; sur Strix Halo, la part utilisable dépend de l’allocation BIOS/pilote.