Un modèle MoE (mélange d’experts) n’active qu’une fraction de ses paramètres à chaque jeton. La fiche peut afficher un total énorme et un chiffre « actifs » bien plus petit. Voici ce que cela signifie pour la qualité perçue, la mémoire et vos choix de machine en local.
GGUF est un format de fichier très courant pour faire tourner des modèles locaux avec llama.cpp, Ollama ou LM Studio. Voici ce qu’il emballe, comment le distinguer de la quantification, et comment éviter de télécharger le mauvais variant pour votre machine.
Ollama est un logiciel qui simplifie le téléchargement et l’exécution de modèles d’IA sur votre machine. Voici ce qu’il fait, ce qu’il ne remplace pas, et comment le situer face à LM Studio, aux fichiers GGUF et à une interface comme Open WebUI.
Open WebUI est une interface web, souvent installée en local, qui donne une expérience proche d’un chat type ChatGPT tout en s’appuyant sur des modèles que vous contrôlez (via Ollama ou d’autres backends). Voici ce qu’elle apporte, ce qu’elle n’est pas, et comment l’utiliser sans mélanger les couches.
Le chunking découpe vos documents en morceaux indexables pour un RAG. Trop gros, le modèle noie le signal ; trop petit, le sens se brise. Voici ce que le mot désigne, comment l’ajuster, et pourquoi c’est souvent le vrai levier avant d’acheter du matériel.
Le reranker reclasse une liste de passages candidats pour garder les plus pertinents avant de les donner au modèle. Voici ce qu’il apporte après une première recherche, ce qu’il ne répare pas, et comment l’évaluer honnêtement sur votre corpus.
Une base de données vectorielle stocke des représentations numériques du sens (embeddings) pour retrouver des passages proches d’une question. Voici ce que ça change par rapport à une base classique, comment ça s’articule avec le chunking, et quels exemples connaître sans en faire une religion.
La recherche hybride combine une recherche par mots-clés et une recherche sémantique (vecteurs). Elle aide quand votre RAG rate des numéros, références et noms propres. Voici ce que le mot désigne, quand l’activer, et comment l’évaluer sans tableaux magiques.
LoRA (Low-Rank Adaptation) permet de spécialiser un modèle en entraînant un petit adaptateur plutôt que tous les poids. Voici ce que ça change, ce que ça ne remplace pas, et quand une TPE a plutôt besoin d’un RAG ou d’une bonne consigne que d’un fine-tuning.
La température est un réglage d’échantillonnage qui influence le caractère plus déterministe ou plus exploratoire des réponses d’un modèle. Voici ce qu’elle fait vraiment, ce qu’elle ne répare pas, et comment la choisir selon que vous rédigez un poème ou une procédure.
Le prompt système (system prompt) donne à l’IA un cadre permanent : rôle, ton, limites, format. Ce n’est ni un message utilisateur ordinaire, ni une garantie de vérité. Voici ce que ça change vraiment, avec des exemples concrets pour cadrer un assistant sans jargon inutile, que vous soyez en local ou dans le cloud.
L’appel d’outils (tool calling ou function calling) permet à un modèle de demander l’exécution d’une action : calculatrice, recherche, agenda, API. Ce n’est plus seulement du texte généré. Voici ce que ça désigne, ses limites, et comment l’aborder sans confusion ni permissions trop larges dès le premier essai.
