Quand une fiche affiche 7B ou 27B, elle parle du nombre de paramètres du modèle. Ce chiffre oriente la mémoire et souvent la finesse, sans garantir à lui seul la qualité sur votre tâche.
Définition
Dans un réseau de neurones, les paramètres (souvent appelés poids) sont les valeurs numériques que l’entraînement a réglées. Un grand modèle de langage en contient des milliards. L’étiquette « 27B » signifie typiquement environ vingt-sept milliards de paramètres. Plus ce volume est élevé, plus le modèle peut encoder de régularités — et plus il demande en général de mémoire (VRAM ou RAM) et de calcul pour l’inférence locale.
Ce que le mot ne désigne pas : ce n’est pas le nombre de documents lus, ni le nombre de langues « maîtrisées », ni une note sur dix. Ce n’est pas non plus la quantification : un même modèle 27B existe souvent en plusieurs fichiers quantifiés. Ce n’est pas non plus le nombre de paramètres actifs d’un MoE, qui peut être bien plus petit que le total annoncé. Lisez toujours la fiche complète.
Le lien avec la qualité est réel mais non linéaire. Un modèle plus petit, bien entraîné et bien cadré, peut battre un géant mal choisi sur une tâche précise. Le nombre de paramètres oriente le potentiel et le coût ; votre usage, vos données et votre relecture décident du résultat utile.
Un exemple du quotidien
Imaginez une boîte à outils. Une petite boîte tient dans un sac et suffit pour bricoler chez soi. Une grande boîte d’atelier couvre plus de situations, mais elle est lourde à transporter. Les paramètres jouent un rôle voisin : plus il y en a, plus le modèle peut couvrir de motifs linguistiques complexes, au prix de la place et de la vitesse. Choisir 7B ou 27B, c’est souvent choisir entre mobilité et amplitude, pas entre « nul » et « génial ».
Sur une boutique d’applications d’IA locale, deux variantes du même nom de famille peuvent afficher des tailles différentes. Vous n’achetez pas une personnalité marketing : vous chargez un volume de poids. Si votre machine râle, descendre en paramètres (ou quantifier davantage) est un geste aussi rationnel que réduire la résolution d’une vidéo pour la regarder sans saccades.
Un exemple en Hauts-de-France
À Lens, un lycée technique veut montrer l’IA locale en salle informatique. Les postes n’ont pas de cartes haut de gamme. L’enseignant choisit un modèle de quelques milliards de paramètres, bien quantifié, plutôt qu’un 70B qui ne démarrera pas. Les élèves reformulent un compte-rendu de TP. La leçon porte sur le compromis taille / machine, pas sur le record du plus gros modèle.
Dans une mairie de l’Aisne, un agent teste un assistant pour structurer des réponses types (sans données personnelles). Un modèle moyen suffit pour la forme ; les faits restent ceux du service. Le critère « B » aide à parler avec le prestataire informatique : « notre parc tient plutôt tel ordre de grandeur ». Cela évite d’acheter une promesse cloud déguisée en solution sur mesure sans précision technique.
On confond souvent
Première confusion : lire « 27B » comme « 27 fois plus intelligent ». Non. C’est un volume de paramètres. La qualité dépend de l’entraînement, des données, de l’alignement, du prompt système, de la température, et de votre vérification. Un modèle plus grand hallucine aussi. Il peut simplement halluciner avec plus de style.
Deuxième confusion : confondre paramètres totaux et paramètres actifs, surtout avec les architectures MoE. Une fiche peut annoncer un total très élevé tout en n’activant qu’une fraction à chaque jeton. L’empreinte mémoire et la vitesse ne se lisent alors pas comme pour un modèle dense classique. Autre mélange fréquent : croire que « B » signifie octets. Ici, B veut dire billions au sens anglais : milliards.
En pratique, que faire avec ce mot
Quand vous choisissez un outil, notez trois infos ensemble : nombre de paramètres (ou classe de taille), quantification, mémoire conseillée. Partez d’un modèle qui charge confortablement, mesurez la qualité sur vos textes, puis montez seulement si le gain est clair. Pour une démo publique, préférez la fiabilité perçue à la taille affichée.
Documentez le choix pour vos collègues (« on utilise tel tag Ollama / tel fichier GGUF »). Croisez avec VRAM, quantification et matériel. Si vous suivez le tutoriel Qwen, vous verrez qu’un 27B dense demande un dimensionnement sérieux : lisez la fiche avant de télécharger. Et rappelez-vous : plus de paramètres n’autorise pas plus de données sensibles.
Termes voisins
- VRAM
- Mémoire GPU souvent limitante pour charger les paramètres. Voir VRAM.
- Quantification
- Compresse les paramètres pour tenir sur une machine. Voir quantification.
- MoE
- Architecture où seuls certains experts s’activent ; total ≠ actifs. Voir MoE.
- Distillation
- Autre voie vers un modèle plus petit, par apprentissage. Voir distillation.
Pour aller plus loin
Pour dimensionner concrètement, lisez le matériel et l’inférence locale. Ateliers : l’agenda. Communauté : l’inscription.
Questions fréquentes
Que veut dire 27B ?
En général, environ vingt-sept milliards de paramètres — les nombres internes du modèle. C’est un ordre de grandeur de taille, pas une note de qualité. Un 27B demande souvent plus de mémoire qu’un 7B ou 8B, surtout en dense. Lisez toujours quantification et mémoire conseillée sur la fiche, car deux fichiers « 27B » peuvent avoir des empreintes très différentes selon le schéma de compression. Notez le choix, testez sur vos textes, et faites relire un humain avant tout envoi engageant.
Un modèle plus gros est-il toujours meilleur ?
Non. Sur une tâche simple, un modèle plus petit bien cadré peut suffire et répondre plus vite. Un gros modèle mal dimensionné pour votre machine sera lent ou instable. La « meilleure » taille est celle qui tient, qui reste assez juste sur vos exemples, et que vous savez relire. Testez avec les mêmes consignes avant de conclure. Notez le choix, testez sur vos textes, et faites relire un humain avant tout envoi engageant.
Paramètres et tokens, c’est pareil ?
Non. Les paramètres sont les poids du modèle, fixés après entraînement (sauf fine-tuning). Les tokens sont les unités de texte traitées à l’inférence : votre prompt, la réponse, le contexte. On parle de tokens par seconde pour la vitesse, et de fenêtre de contexte pour la longueur. Mélanger les deux mots rend les fiches techniques illisibles. Notez le choix, testez sur vos textes, et faites relire un humain avant tout envoi engageant.
Comment parler paramètres à un décideur non tech ?
Traduisez en contraintes : plus c’est gros, plus il faut de mémoire et d’électricité, et plus le poste doit être adapté. Proposez deux options testées sur une tâche métier réelle. Évitez les records. Reliez au risque données et au besoin de relecture humaine. L’objectif est un usage maîtrisé, pas un chiffre à coller dans un diaporama. Notez le choix, testez sur vos textes, et faites relire un humain avant tout envoi engageant.
Où trouver le nombre de paramètres ?
Sur la fiche du modèle (Hugging Face, documentation éditeur, catalogue Ollama / LM Studio). Cherchez « parameters », « 7B », « 27B », ou la section modèle. Si la fiche est floue, ne devinez pas : choisissez une autre variante documentée. Pour les poids ouverts, Hugging Face reste une source fréquente, toujours à croiser avec la licence. Notez le choix, testez sur vos textes, et faites relire un humain avant tout envoi engageant.