D'habitude, quand tu poses une question à une IA, ta demande part vers de gros ordinateurs lointains, puis la réponse revient. Faire tourner une IA directement chez soi, sans cette étape, est un vieux rêve. Le problème, c'est la taille : les modèles les plus puissants sont énormes et demandent beaucoup de mémoire.
Dans un article publié le 18 novembre 2026 sur le blog de Hugging Face (France / États-Unis), Tarek Ziadé raconte une expérience étonnante. Il explique vouloir dépendre moins des services en ligne et utiliser davantage de modèles sur ses propres machines. Il a un PC avec deux cartes graphiques RTX 4090 à la maison, et un MacBook M5 de 32 Go de mémoire pour le travail.
Comment ça marche
L'article s'intéresse aux modèles dits « MoE », une abréviation anglaise. Imagine un cabinet avec des dizaines de spécialistes. Pour chaque question, seuls quelques-uns travaillent, pas tous en même temps. Dans ces modèles, ces spécialistes s'appellent des « experts ».
Selon l'auteur, les experts représentent plus de 90 % du poids total du modèle. Un moteur nommé Strata en tire parti. Il garde dans la mémoire rapide de la carte graphique seulement les experts les plus sollicités. Les autres sont rangés ailleurs : dans la mémoire de l'ordinateur, ou même sur le disque. C'est comme garder sur le plan de travail les trois outils que tu utilises tout le temps, et ranger le reste dans un tiroir. Résultat, d'après l'article, un modèle de 180 milliards de paramètres peut tourner sur une carte graphique bien moins gourmande en mémoire.
L'auteur cite un autre billet de blog où ce principe fonctionne sur un Mac M4 de 32 Go. Il produit alors 13,5 « tokens » par seconde, un token étant un petit morceau de mot. Ce billet affirme que c'est plus rapide qu'un autre outil courant, llama.cpp.
Lui a testé une voie différente avec la bibliothèque Transformers : aller chercher les experts directement sur le disque SSD, au fur et à mesure. Il annonce avoir fait tourner ainsi 121 Go d'experts sur un Mac de 32 Go de mémoire. Pour la vitesse de génération du texte, il se retrouve à 6 % près de Strata.
Ce que ça change
Pour toi, rien à installer ce soir : ces travaux s'adressent d'abord à des développeurs. Mais l'idée de fond est encourageante. Des modèles qui semblaient réservés à des machines coûteuses pourraient tourner sur du matériel courant. À terme, cela pourrait permettre des assistants utilisables chez soi, sans envoyer ses questions à l'extérieur. L'article ne l'annonce pas : c'est une piste, pas une promesse.
Les limites
L'auteur reste honnête. Pour son usage, des assistants qui l'aident à écrire du code, les 13,5 tokens par seconde sont trop lents. Il présente son essai comme une expérience qui l'intriguait, pas comme une solution finie. Il parle aussi d'un « écart à combler » avec les meilleurs moteurs. Retiens que la technique progresse vite, mais qu'elle demande encore des compétences techniques et un peu de patience.