MCP (Model Context Protocol) est un standard pour connecter une IA à des outils et des sources de données de façon plus homogène. Ce n’est ni un modèle, ni une magie d’accès total. Voici ce que ça change pour brancher des capacités, avec les précautions de permissions indispensables avant tout usage sensible.
Un modèle de raisonnement « réfléchit » plus longtemps avant de répondre : il génère souvent une trace de réflexion interne, puis une réponse. Utile sur des problèmes structurés ; plus coûteux en temps et en tokens. Voici comment le situer sans mythe, et quand un modèle classique reste préférable au quotidien.
La distillation transfère une partie des capacités d’un grand modèle (enseignant) vers un modèle plus petit (élève). Ce n’est pas la même chose que compresser les bits. Voici la définition utile pour choisir un modèle local sans confondre les étiquettes, ni croire qu’un petit fichier égale automatiquement le géant.
Les tokens par seconde (tokens/s) mesurent la vitesse de génération d’une IA. C’est un indicateur de confort, pas une note de qualité. Voici comment le lire, ce qui le fait chuter, et comment en parler sans faux tableaux universels ni chiffres magiques inventés pour toutes les machines et tous les usages.
L’inférence locale, c’est exécuter un modèle d’IA sur votre matériel (PC, serveur interne) plutôt que d’envoyer chaque requête à un cloud. Avantages de maîtrise, limites de puissance et de maintenance : voici le cadre clair pour décider sans promesse magique de souveraineté automatique ni conformité instantanée.
Un contexte d’un million de tokens promet d’avaler l’équivalent de centaines de pages d’un coup. Utile en théorie ; coûteux en mémoire et pas magique en compréhension. Voici ce que ça veut dire vraiment, les limites d’attention du modèle, et quand préférer un [[gl17|RAG]] bien cadré sur vos documents.
YaRN est une technique pour étendre la longueur de contexte d’un modèle au-delà de son entraînement d’origine. Elle apparaît souvent dans les fiches de modèles long context. Voici ce que ça désigne pour décoder une card technique, sans promettre une lecture parfaite d’un million de tokens sur votre machine.
Hugging Face est la grande plateforme de partage de modèles, datasets et démos d’IA, surtout open weights. Ce n’est pas un modèle unique. Voici comment s’orienter pour trouver un fichier fiable, lire une licence, et éviter les pièges du catalogue immense quand on débute l’[[gt21|inférence locale]] chez soi.
vLLM est un moteur conçu pour servir efficacement un modèle d’IA à plusieurs requêtes. Ce n’est pas un chatbot grand public. Voici ce qu’il change face à [[gt07|Ollama]], quand une structure HdF devrait s’y intéresser, et pourquoi la plupart des débutants peuvent attendre avant de l’installer tout de suite.
