Guides, tutoriels, glossaire, retours d’expérience et outils testés par des membres des Hauts-de-France. Écrits pour être compris sans connaissances techniques.
GGUF est un format de fichier très courant pour faire tourner des modèles locaux avec llama.cpp, Ollama ou LM Studio. Voici ce qu’il emballe, comment le distinguer de la quantification, et comment éviter de télécharger le mauvais variant pour votre machine.
Ollama est un logiciel qui simplifie le téléchargement et l’exécution de modèles d’IA sur votre machine. Voici ce qu’il fait, ce qu’il ne remplace pas, et comment le situer face à LM Studio, aux fichiers GGUF et à une interface comme Open WebUI.
Open WebUI est une interface web, souvent installée en local, qui donne une expérience proche d’un chat type ChatGPT tout en s’appuyant sur des modèles que vous contrôlez (via Ollama ou d’autres backends). Voici ce qu’elle apporte, ce qu’elle n’est pas, et comment l’utiliser sans mélanger les couches.
Le chunking découpe vos documents en morceaux indexables pour un RAG. Trop gros, le modèle noie le signal ; trop petit, le sens se brise. Voici ce que le mot désigne, comment l’ajuster, et pourquoi c’est souvent le vrai levier avant d’acheter du matériel.
Le reranker reclasse une liste de passages candidats pour garder les plus pertinents avant de les donner au modèle. Voici ce qu’il apporte après une première recherche, ce qu’il ne répare pas, et comment l’évaluer honnêtement sur votre corpus.
Une base de données vectorielle stocke des représentations numériques du sens (embeddings) pour retrouver des passages proches d’une question. Voici ce que ça change par rapport à une base classique, comment ça s’articule avec le chunking, et quels exemples connaître sans en faire une religion.
La recherche hybride combine une recherche par mots-clés et une recherche sémantique (vecteurs). Elle aide quand votre RAG rate des numéros, références et noms propres. Voici ce que le mot désigne, quand l’activer, et comment l’évaluer sans tableaux magiques.
LoRA (Low-Rank Adaptation) permet de spécialiser un modèle en entraînant un petit adaptateur plutôt que tous les poids. Voici ce que ça change, ce que ça ne remplace pas, et quand une TPE a plutôt besoin d’un RAG ou d’une bonne consigne que d’un fine-tuning.
La température est un réglage d’échantillonnage qui influence le caractère plus déterministe ou plus exploratoire des réponses d’un modèle. Voici ce qu’elle fait vraiment, ce qu’elle ne répare pas, et comment la choisir selon que vous rédigez un poème ou une procédure.
Le prompt système (system prompt) donne à l’IA un cadre permanent : rôle, ton, limites, format. Ce n’est ni un message utilisateur ordinaire, ni une garantie de vérité. Voici ce que ça change vraiment, avec des exemples concrets pour cadrer un assistant sans jargon inutile, que vous soyez en local ou dans le cloud.
L’appel d’outils (tool calling ou function calling) permet à un modèle de demander l’exécution d’une action : calculatrice, recherche, agenda, API. Ce n’est plus seulement du texte généré. Voici ce que ça désigne, ses limites, et comment l’aborder sans confusion ni permissions trop larges dès le premier essai.
MCP (Model Context Protocol) est un standard pour connecter une IA à des outils et des sources de données de façon plus homogène. Ce n’est ni un modèle, ni une magie d’accès total. Voici ce que ça change pour brancher des capacités, avec les précautions de permissions indispensables avant tout usage sensible.
