Quel modèle IA selon votre RAM
Choisir un modèle IA open source selon la mémoire vive de votre ordinateur : ce qui tourne sur 8, 16, 32 ou 48 Go, la quantification expliquée simplement, et un poste de travail qui garde vos données sur place.
L’essentiel en 5 points
- Le critère principal n’est pas le GPU, mais la mémoire disponible et sa bande passante.
- La quantification fait tenir un modèle dans quatre fois moins de mémoire, avec une perte de qualité presque imperceptible en 4-bit et 8-bit.
- À chaque palier son usage réaliste : 8 Go pour l’assistance de code et l’extraction, 48 Go et plus pour une qualité proche des meilleurs modèles propriétaires.
- Qu’un modèle tienne en mémoire ne signifie pas qu’il soit fluide : la capacité lui permet de se charger, la bande passante le rend agréable à utiliser.
- L’écosystème open source (Qwen, GLM, Kimi, Mistral, Gemma, DeepSeek, Llama) est désormais au niveau des modèles propriétaires pour une large part des usages.
La réponse rapide
Le bon modèle n’est pas le plus gros que vous puissiez télécharger, c’est le plus gros qui tient confortablement dans votre mémoire tout en laissant de la place au contexte. Pour estimer ce qui rentre, une règle simple suffit : un modèle quantifié en 4-bit occupe environ un demi-octet par paramètre.
Un modèle de 7 milliards de paramètres pèse donc à peu près 4 Go, auxquels s’ajoutent le contexte et le système. C’est pour cela qu’un poste à 8 Go fait déjà tourner un assistant de code utile, tandis qu’une machine à 48 Go fait tourner des modèles dix fois plus gros.
Pour un modèle à mélange d’experts (MoE), la mémoire doit accueillir tous les paramètres, mais seule une partie intervient à chaque fragment généré, ce qui peut améliorer la fluidité.
La suite de cet article détaille les paliers de mémoire, explique la quantification sans jargon et distingue deux questions souvent confondues : le modèle tient-il en mémoire, et est-il fluide ?
Vous voulez installer un modèle local pour votre équipe ? La formation IA locale de Colombani.ai couvre le choix du modèle selon la mémoire disponible, son installation et son usage sur vos documents, sans envoi de données vers le cloud.
Pourquoi la RAM décide de tout
Un modèle de langage est un très grand ensemble de nombres, appelés paramètres. Pour générer du texte, la machine doit lire ces nombres à chaque étape. Deux propriétés matérielles comptent alors, et elles ne se confondent pas.
La première est la capacité : le modèle doit tenir en mémoire, sinon il ne se charge pas, ou il pagine depuis le disque et devient très lent. La seconde est la bande passante mémoire : la vitesse à laquelle la machine lit ces nombres, qui détermine le nombre de mots générés par seconde. Un Mac à mémoire unifiée doit sa réputation en inférence locale à cette bande passante élevée, pas à un GPU dédié.
Le GPU, justement, aide mais n’est pas indispensable. Des projets d’inférence en 1-bit permettent de faire tourner de très gros modèles sur un simple processeur, et l’écosystème Apple Silicon a fait du Mac une plateforme d’inférence sérieuse. La vraie question de dimensionnement reste donc la mémoire, pas la carte graphique.
La quantification, expliquée simplement
Par défaut, chaque paramètre d’un modèle est stocké avec une précision de 16 bits, soit 2 octets. Multipliez par plusieurs milliards de paramètres et l’empreinte mémoire devient vite hors de portée d’un poste de travail.
La quantification consiste à stocker ces mêmes paramètres avec moins de bits. En 8 bits, l’empreinte est divisée par deux ; en 4 bits, par quatre. Un modèle qui réclamait 28 Go en pleine précision tient alors dans 7 Go environ. Les nombres perdent un peu de finesse, mais pour la plupart des tâches professionnelles la différence reste presque imperceptible jusqu’en 4 bits. En dessous, la qualité se dégrade nettement, sauf pour les architectures conçues pour la basse précision.
En pratique, raisonnez toujours sur la taille quantifiée d’un modèle, jamais sur sa taille brute. C’est elle qui décide de ce que votre machine peut accueillir.
Le guide par palier de mémoire
8 Go : l’assistance ciblée. Un modèle de 7 à 9 milliards de paramètres en 4-bit tient et laisse de la place au contexte. Les usages réalistes sont l’autocomplétion de code, l’extraction d’informations d’un document, la classification, le résumé et le tool-calling léger. Les petits modèles Qwen, Gemma et Llama sont taillés pour ce palier, et certains rivalisent avec des modèles bien plus gros sur des tâches ciblées.
16 Go : l’assistant généraliste. Ce palier accueille des modèles de 13 à 27 milliards de paramètres quantifiés. Le raisonnement devient correct, le RAG local sur vos documents fonctionne bien, et l’assistant tient une conversation de travail cohérente. C’est le palier d’entrée confortable pour un usage quotidien.
32 Go : le coding et le raisonnement sérieux. Des modèles de 30 à 45 milliards de paramètres quantifiés en 4 bits deviennent accessibles ; un 70 milliards, à 35 Go de poids avant le contexte, déborde. À ce palier, le coding agentique, le tool-calling et le raisonnement en plusieurs étapes deviennent fiables. Les familles Kimi (orientée coding agentique), DeepSeek (raisonnement) et Mistral sont adaptées à ce palier.
48 Go et plus : une qualité proche des meilleurs modèles propriétaires. À ce niveau, un modèle large quantifié en 8-bit atteint une qualité que des praticiens jugent proche des meilleurs modèles propriétaires, tool-calling compris. Les familles GLM et Qwen dans leurs grandes déclinaisons visent ce palier. C’est le seuil du poste de travail souverain, capable de traiter des dossiers sensibles sans jamais solliciter le cloud.
Un modèle qui tient n’est pas forcément fluide
C’est la confusion la plus fréquente. Un modèle de 35 milliards de paramètres se charge sur une machine à 16 Go en paginant depuis le disque : il déborde de la mémoire physique, le système va chercher le reste sur le disque, et chaque mot se fait attendre. À l’inverse, le même modèle sur une machine à forte bande passante génère à une vitesse confortable.
La leçon de dimensionnement : ne visez pas la limite de capacité. Gardez de la marge pour le contexte et pour le confort de génération. Un modèle un cran en dessous du maximum théorique, mais fluide, rend plus de services au quotidien qu’un modèle plus gros et lent. Sur un poste de travail, un outil lent finit vite abandonné.
Les modèles à experts : volumineux en mémoire, plus légers à exécuter
Certains modèles répartissent leurs paramètres entre plusieurs groupes appelés experts. À chaque fragment de texte généré, une sélection de ces groupes intervient, avec les parties communes du modèle. Cette architecture, appelée mélange d’experts ou MoE, réduit le travail nécessaire à chaque étape.
Par exemple, Qwen3-30B-A3B, annoncé en avril 2025 sous licence Apache 2.0, possède 30,5 milliards de paramètres, dont 3,3 milliards actifs par fragment généré, répartis en 128 experts dont 8 sollicités à la fois. Son fichier quantifié Q4_K_M pèse environ 18,6 Go. Il faut encore prévoir la mémoire du contexte, du logiciel et du système.
Pour dimensionner votre poste, regardez donc deux chiffres : les paramètres totaux pour estimer la mémoire nécessaire, les paramètres actifs pour apprécier le travail de génération. Pour éviter les chargements à la demande, tous les experts doivent rester en mémoire, même ceux momentanément inutilisés.
Un modèle à experts peut ainsi générer plus vite qu’un modèle classique de taille totale comparable. La vitesse dépend toutefois du matériel, du logiciel et du contexte : le rapport entre paramètres totaux et actifs ne se traduit pas en accélération équivalente, il faut mesurer. Sur un poste de 32 Go, cet exemple mérite un essai avec vos documents et vos tâches habituelles.
Le cas d’usage entreprise : le poste de travail souverain
Le palier de 48 Go permet ce que le cloud ne peut pas offrir : un poste dont les données ne quittent jamais la machine.
Pour une profession réglementée, un cabinet juridique, un acteur de la santé ou de la finance, cet argument pèse davantage que le coût. Les contentieux récents autour du partage de données par des services d’IA en ligne rappellent que dès qu’une donnée quitte l’appareil, elle échappe au contrôle et peut fuiter par des canaux non prévus.
Un poste de travail souverain répond à cette exigence : le modèle tourne en local, les documents sensibles restent sur l’appareil, et la conformité au RGPD s’apprécie à l’échelle d’une machine plutôt qu’à celle d’un fournisseur tiers. Le modèle frontière cloud reste disponible pour la petite fraction de requêtes qui le justifient, mais il n’est plus le passage obligé de tout le travail.
Pour une organisation qui veut héberger ses modèles sur ses propres machines ou chez un hébergeur européen, l’offre architecture souveraine de Colombani.ai en définit le dimensionnement et la sécurité.
Par où commencer
Plutôt que de télécharger le plus gros modèle possible, partez de votre matériel et de vos usages. Mesurez la mémoire réellement disponible sur les postes concernés, identifiez les tâches à couvrir, puis choisissez le modèle quantifié le plus capable qui reste fluide sur ce matériel.
Colombani.ai forme les équipes techniques à cette démarche dans sa formation IA locale, vos données restent chez vous (choix de modèle par contrainte matérielle, quantification, environnement d’inférence local), dispensée par un organisme certifié Qualiopi, finançable par votre OPCO. Pour dimensionner un parc de postes de travail souverains, Colombani.ai conçoit des architectures IA souveraines qui gardent vos données en Europe et sur vos machines. L’expertise mobilisée est certifiée par Anthropic (Claude Certified Architect).
Sources
Questions fréquentes
Quelle taille de modèle IA puis-je faire tourner avec 8 Go de RAM ?
Avec 8 Go, un modèle open source de 7 à 9 milliards de paramètres quantifié en 4-bit tient en mémoire et laisse la place au contexte. C'est suffisant pour de l'autocomplétion de code, de l'extraction d'informations, de la classification, du résumé et du tool-calling léger. Les familles Qwen, Gemma et Llama proposent des modèles de cette taille pensés pour le matériel contraint.
Qu'est-ce que la quantification d'un modèle IA ?
La quantification réduit la précision avec laquelle chaque paramètre du modèle est stocké. En 16-bit, un paramètre occupe 2 octets ; en 4-bit, environ un demi-octet, soit quatre fois moins de mémoire. La perte de précision reste presque imperceptible en 8 et 4 bits pour la plupart des tâches. C'est ce qui permet à un modèle volumineux de tenir sur une machine grand public.
Faut-il un GPU pour faire tourner un modèle IA en local ?
Non, pas obligatoirement. Un Mac à mémoire unifiée exécute très correctement des modèles quantifiés grâce à sa bande passante mémoire élevée. Sur PC, un GPU accélère fortement l'inférence, mais des projets d'inférence 1-bit permettent aussi de faire tourner de gros modèles sur un simple processeur. La question n'est pas tant le GPU que la mémoire disponible et sa bande passante.
Quelle est la différence entre un modèle qui tient et un modèle fluide ?
Un modèle tient si sa taille rentre dans la mémoire disponible : c'est une question de capacité. Il est fluide s'il génère le texte à une vitesse confortable, ce qui dépend de la bande passante mémoire. Une machine peut faire tenir un gros modèle en paginant depuis le disque, mais la génération sera lente. Pour un usage quotidien, viser la fluidité, pas seulement la capacité.
Un modèle open source local égale-t-il les modèles propriétaires ?
Sur beaucoup d'usages professionnels courants, oui. À l'été 2026, plusieurs familles open source atteignent le niveau des modèles frontière sur les évaluations standard, et des praticiens décrivent une qualité proche des meilleurs modèles propriétaires sur une machine à 48 Go. Le modèle frontière dans le cloud reste utile pour les rares requêtes les plus complexes, pas pour l'ensemble du travail.
Un modèle à mélange d'experts (MoE) demande-t-il moins de mémoire ?
À nombre total de paramètres et quantification identiques, les poids occupent une place comparable : tous les experts doivent être conservés pour une exécution entièrement en mémoire. Seule une partie intervient à chaque fragment généré, ce qui peut accélérer la réponse. Qwen3-30B-A3B compte ainsi 30,5 milliards de paramètres, dont 3,3 milliards actifs. Son fichier Q4_K_M pèse environ 18,6 Go, auxquels s'ajoutent le contexte, le logiciel et le système. La vitesse réelle dépend du matériel et du logiciel utilisés.