Quels modèles d'IA roulent vraiment sur ta machine?
Ce guide explique, en langage simple, quels modèles d'intelligence artificielle
fonctionnent directement sur un ordinateur ou un petit serveur — sans passer par le nuage.
L'avantage : tes données ne quittent jamais ta machine. Pour un
professionnel, ça veut dire qu'un dossier client, un relevé ou un enregistrement de
rencontre reste privé. Pis quand une tâche mérite un gros modèle hébergé, Luge te
laisse brancher ta propre clé — Anthropic, OpenAI, Azure, et maintenant xAI (Grok),
en texte comme en voix : le local pis le nuage se choisissent tâche par tâche.
Prix en CAD, à jour en août 2026 — ce domaine évolue vite.
Pressé? Saute direct à la matrice de recommandation —
quoi acheter selon ton budget, en un tableau.
Photo d'août 2026 : les modèles locaux utiles au bureau vont de 2,4 Go (Qwen3.5-4B) à ~81 Go (Qwen3.5-122B). Un MacBook Pro M5 Pro 48 Go fait rouler confortablement la classe 35B MoE qu'on recommande (Ornith 1.0, Qwen3.5-35B-A3B), un PC RTX 4090 24 Go y arrive en Q4, pis la transcription (Cohere Transcribe, ~5 Go) passe presque partout. Retiens une affaire : c'est la mémoire disponible qui décide.
La notion clé : la mémoire détermine tout
Un modèle d'IA doit tenir en entier dans la mémoire rapide de la
machine. C'est comme un bureau de travail : si le document est trop gros pour tenir
dessus, tout ralentit.
Sur Windows, cette mémoire est la VRAM de la carte graphique — séparée et limitée (12, 16, 24 ou 32 Go). Si le modèle ne rentre pas entièrement, la performance chute de 10 à 30 fois.
Sur Mac, la mémoire est unifiée : le processeur et la puce graphique partagent le même réservoir. Un Mac 64 Go peut consacrer presque tout au modèle. Avantage structurel majeur.
Sur les petits serveurs comme le DGX Spark : mémoire unifiée aussi (128 Go), donc de très gros modèles possibles.
Deux termes utiles :
Quantification (Q4, Q5, Q8) : compression du modèle pour qu'il prenne moins de place. Q4 est le standard (bon équilibre qualité/taille); Q8 est plus fidèle mais deux fois plus lourd.
MoE (mélange d'experts) : le modèle contient beaucoup de connaissances mais n'en active qu'une petite partie à chaque mot — la qualité d'un gros modèle à la vitesse d'un petit. Attention : le modèle complet doit quand même tenir en mémoire. Le MoE économise du calcul, pas de la mémoire.
Les modèles couverts
Ornith 1.0 — spécialiste du coding agentique (DeepReinforce, MIT)
Sorti le 25 juin 2026. Conçu pour le coding agentique : il ne se contente pas d'écrire
du code, il planifie, lance des outils, teste et corrige seul. Note terrain : sur un
MacBook Pro M5 Max, Ornith 1.0 35B surpasse Qwen3.6 pour le coding et les
workflows agentiques — la valeur de la spécialisation. Licence MIT, usage
commercial sans restriction. Disponible en GGUF (Ollama, LM Studio).
Modèle
Mémoire Q4
SWE-Bench
Pour qui
Ornith-1.0-9B
~6 Go
69,4
Point d'entrée, machines modestes
Ornith-1.0-31B
~20 Go
—
Dense, stable
Ornith-1.0-35B MoE
~25 Go
75,6
Recommandé pour la majorité
Ornith-1.0-397B MoE
~200 Go FP8
82,4
Serveurs, production
Qwen3.5 / Qwen3.6 — le généraliste multimodal (Alibaba, Apache 2.0)
Excellent en français, multimodal, contexte de 262 000 tokens. Là où Ornith excelle
sur le code, Qwen est imbattable pour le langage : résumés, questions sur des
documents, analyse de contrats, rédaction. Qwen3.6 a la même empreinte mémoire que 3.5
— remplacement direct.
Modèle
Mémoire Q4
Pour qui
Qwen3.5/3.6-4B
~2,4 Go
Machines très modestes, tâches simples
Qwen3.5/3.6-9B
~5,5 Go
Point d'entrée sérieux
Qwen3.5/3.6-27B
~16,5 Go
Excellent all-rounder, tient sur 24 Go
Qwen3.5/3.6-35B-A3B MoE
~21-22 Go
La vedette : qualité 35B, vitesse 3B
Qwen3.5/3.6-122B-A10B MoE
~74-81 Go
Classe frontière, bat GPT-5 mini en tool use
Qwen3.5/3.6-397B MoE
~242 Go
Serveurs très puissants
Qwen pour : documents, dossiers, rédaction, résumés. Ornith pour : code, automatisation, agents, scripts.
Cohere Transcribe — la transcription vocale (Apache 2.0)
Nº 1 du Open ASR Leaderboard (Hugging Face) : 5,42 % d'erreur contre 7,44 % pour
Whisper Large v3. 14 langues dont le français, ~5 Go, roule sur presque n'importe quel
matériel récent, ~525 minutes d'audio transcrites par minute. Limites à connaître :
le modèle seul n'identifie pas les locuteurs et n'horodate pas nativement — mais la
plateforme fait l'attribution autrement. Dans les salons Luge, chaque personne est
écoutée séparément : l'attribution est réelle, pas devinée. Et la diarisation
(pyannote) reste disponible en opt-in sur le nœud edge. Autre limite : il est
entraîné surtout sur du français européen — teste-le avec tes propres
enregistrements québécois, surtout si tu alternes français-anglais dans la
même phrase.
Les valeurs sûres classiques
Llama 3.3 70B (Meta) : ~40-43 Go en Q4. Généraliste éprouvé, le plus grand écosystème. Exige deux GPU ou un Mac à grande mémoire.
Mistral Small 24B (Mistral) : ~13-14 Go en Q4. Excellent en français, tient sur 16 Go.
Mac — la mémoire unifiée, le grand avantage
✅ fonctionne bien · 🟡 fonctionne mais serré ou lent · ❌ ne fonctionne pas. Le format MLX (natif Apple) est ~10-15 % plus économe que GGUF et souvent 15-30 % plus rapide.
MacBook Air M4 (sans ventilateur — idéal transcription et petits modèles)
Modèle
16 Go
32 Go
Cohere Transcribe
✅
✅
Qwen3.5-9B / Ornith-1.0-9B
✅
✅
Qwen3.5-27B
❌
✅
Mistral Small 24B
🟡
✅
Qwen3.5-35B-A3B / Ornith-1.0-35B
❌
🟡
Llama 3.3 70B
❌
❌
MacBook Pro M5 Pro
Modèle
24 Go
48 Go
Cohere Transcribe
✅
✅
Qwen3.5-27B
✅
✅
Qwen3.5-35B-A3B MoE
✅
✅
Ornith-1.0-35B MoE
🟡
✅
Llama 3.3 70B (Q4)
❌
🟡
Qwen3.5-122B-A10B
❌
❌
MacBook Pro M5 Max
Modèle
48 Go
64 Go
128 Go
Cohere Transcribe
✅
✅
✅
Qwen3.5-35B-A3B
✅
✅
✅
Ornith-1.0-35B MoE
✅
✅
✅
Llama 3.3 70B (Q4)
🟡
✅
✅
Qwen3.5-122B-A10B (~74-81 Go)
❌
❌
✅
Qwen3.5-397B
❌
❌
❌
Le M5 Max 128 Go est le seul laptop capable de charger le Qwen3.5-122B-A10B — un
modèle de classe frontière qui surpasse GPT-5 mini de 30 % sur le tool use.
Mac mini M4 / M4 Pro et Mac Studio
Modèle
mini M4 (16-32 Go)
mini M4 Pro (24-64 Go)
Studio M4 Max (128 Go)
Studio Ultra (192-256 Go)
Cohere Transcribe
✅
✅
✅
✅
Qwen3.5-27B
🟡 (32 Go)
✅
✅
✅
Ornith-1.0-35B / Qwen3.5-35B-A3B
❌
✅ (48-64 Go)
✅
✅
Llama 3.3 70B
❌
🟡 (64 Go)
✅
✅
Qwen3.5-122B-A10B
❌
❌
✅
✅
Qwen3.5-397B
❌
❌
❌
✅ (256 Go+)
Le Mac mini M4 Pro (jusqu'à 64 Go) est un excellent petit poste de travail IA à prix abordable.
Windows grand public — la VRAM décide
✅ fonctionne bien · 🟡 fonctionne mais serré ou lent · ❌ ne fonctionne pas. Rappel : le modèle doit tenir entièrement dans la VRAM, sinon la performance chute de 10 à 30 fois.
Modèle
RTX 4070 (12 Go) PC ~1 500-2 000 $
RTX 5060 Ti (16 Go) PC ~1 500-2 000 $
RTX 4090 (24 Go) PC ~3 000-4 000 $
RTX 5090 (32 Go) PC ~4 500-6 000 $
Cohere Transcribe
✅
✅
✅
✅
Qwen3.5-9B / Ornith-1.0-9B
✅
✅
✅
✅
Mistral Small 24B
❌
🟡
✅
✅
Qwen3.5-27B
❌
🟡
✅ (Q4)
✅ (Q8)
Qwen3.5-35B-A3B
❌
❌
✅ (Q4)
✅
Ornith-1.0-35B
❌
❌
🟡 (très serré)
✅
Llama 3.3 70B
❌
❌
❌
🟡 (Q3 serré)
Qwen3.5-122B-A10B
❌
❌
❌
❌
La carte 16 Go est nettement plus utile que la 12 Go. La RTX 5090 (1,79 To/s de bande
passante — presque 3× le M5 Max) excelle jusqu'à 32B, mais même 32 Go ne suffisent pas
pour un 70B propre : c'est la limite structurelle du GPU discret face à la mémoire
unifiée d'Apple.
Les petits serveurs de bureau
NVIDIA DGX Spark (~7 348 $) — 128 Go de mémoire unifiée, jusqu'à ~200 milliards de paramètres. Point faible important : bande passante de 273 Go/s seulement — un Llama 3.3 70B dense y génère ~2-3 tokens/seconde en conversation. Il brille sur les modèles MoE et le traitement en lot. Linux seulement (DGX OS).
PC serveur double RTX 4090 (48 Go VRAM) — le Llama 3.3 70B en Q4 à ~10-15 tokens/seconde. Solution éprouvée pour les modèles denses jusqu'à 70B.
Mac Studio M4 Ultra (192 Go) — ~819 Go/s de bande passante : charge sans effort le 122B-A10B et le 70B en pleine précision. Silencieux, économe, nettement plus rapide que le DGX Spark sur les gros modèles.
La matrice de recommandation
Besoin
Matériel conseillé
Modèle suggéré
Transcrire des rencontres client en français
Mac 16 Go ou PC avec GPU 8 Go+
Cohere Transcribe
Assistant texte quotidien (résumés, documents)
MacBook Pro M5 Pro 48 Go ou Mac mini M4 Pro 64 Go
Qwen3.5-35B-A3B
Coding agentique, automatisation, agents locaux
MacBook Pro M5 Max, Mac Studio ou PC RTX 4090+
Ornith-1.0-35B MoE
Budget minimal, découverte
MacBook Air M4 16 Go ou PC RTX 5060 Ti 16 Go
Qwen3.5-9B ou Ornith-1.0-9B
Qualité maximale par réponse, débit moins pressé (dense)
Mac 32 Go+ ou PC RTX 4090 24 Go
Qwen3.8-27B (17,9 Go) — tous les paramètres actifs à chaque mot, là où les MoE n'en activent qu'une fraction
Le meilleur poste fixe abordable
PC RTX 4090 24 Go ou Mac mini M4 Pro 64 Go
Qwen3.5-35B-A3B ou Ornith-1.0-35B
Charger la classe frontière (122B) en local
MacBook Pro M5 Max 128 Go ou Mac Studio
Qwen3.5-122B-A10B
Laboratoire IA partagé pour une équipe
NVIDIA DGX Spark 128 Go
Modèles jusqu'à 122B
70B dense rapide pour plusieurs utilisateurs
PC double RTX 4090 ou Mac Studio Ultra
Llama 3.3 70B
Pis une fois le modèle choisi?
Pas besoin de monter un serveur. Tu branches ton poste sur Luge avec une seule
commande — luge-edge pair — pis tu choisis ton modèle dans le catalogue
du nœud edge, épinglé par SHA-256 : le fichier téléchargé est vérifié au bit près.
Deux listes, deux jobs. Dans le catalogue edge : le sous-ensemble épinglé, les
modèles qu'on installe pis qu'on vérifie pour toi. Dans ce guide : tout ce qui roule
sur ta machine, peu importe l'outil. Pis si un chiffre diffère entre les deux —
2,4 Go ici, 2,7 Go là pour le même petit Qwen —, c'est que le guide parle de la
mémoire occupée une fois le modèle chargé, pis le catalogue du poids du fichier sur
le disque. Télécharge Luge : le nœud edge
vient avec.
Mises en garde
Les prix fluctuent. Une pénurie de mémoire GPU en 2026 a poussé les cartes au-dessus du prix officiel. Vérifie avant d'acheter.
Benchmarks des fabricants. Les scores Ornith et Qwen viennent en partie de leurs propres évaluations. Teste sur tes propres tâches avant la production.
La quantification a un coût. Un 27B en Q4 est souvent meilleur qu'un 70B en Q2. Ne force pas un modèle trop gros.
La spécialisation bat parfois la taille. Ornith-1.0-35B, spécialisé code, surpasse Qwen3.6 35B en programmation. Pour le texte général, l'inverse peut être vrai.
Cohere Transcribe et le québécois. Entraîné surtout sur du français européen; l'alternance FR-EN dans une phrase peut poser problème. Teste avec tes enregistrements.
Ce domaine évolue très vite. Ce guide est une photo d'août 2026.
C'est cette classe de modèles — celle qui roule sur un très bon poste de travail —
qui motorise les modules souverains gérés de Luge :
des petites étapes vérifiées, sur infrastructure canadienne, pour la Loi 25 et la LPRPDE.
Pis si tu veux les rouler toi-même : télécharge Luge,
le catalogue est dans l'app.
Le catalogue est dans l'app.
Le nœud edge vient avec Luge : une ligne à coller, un code à taper, pis tu télécharges tes modèles depuis l'interface — sans terminal.