Guides, tutoriels, glossaire, retours d’expérience et outils testés par des membres des Hauts-de-France. Écrits pour être compris sans connaissances techniques.
Ollama suffit à la plupart des usages. Quand vous devez comprendre ce qui se passe sous le capot — backend CUDA, Metal ou Vulkan, nombre de couches offloadées, taille de contexte — llama.cpp devient l’outil de référence. Ce tutoriel s’adresse aux profils développeurs : compiler, lancer `llama-server`, lire les flags, et mesurer chez vous. Pas de tableau de records : une méthode pour gagner en contrôle sur un PC de Douai, un Mac de Lille ou un serveur associatif à Amiens.
Beaucoup de tours de PC en Hauts-de-France embarquent une Radeon plutôt qu’une carte NVIDIA. Bonne nouvelle : l’IA locale n’est pas réservée au camp vert. Moins bonne : la compatibilité dépend du modèle de GPU, de l’OS et du backend (ROCm ou Vulkan). Ce tutoriel pose une méthode honnête pour faire tourner Ollama ou llama.cpp sur AMD, sans inventer de palmarès face à NVIDIA. L’objectif : savoir si votre machine de Valenciennes, Lille ou Beauvais peut servir — et comment le prouver.
Votre Open WebUI est installé, vos PDF sont indexés, et pourtant l’assistant invente une aide qui n’existe pas ou rate l’article du règlement sous ses yeux. Ce n’est pas (toujours) la faute du LLM : c’est souvent le pipeline RAG. Ce tutoriel explique chaque réglage utile — taille de chunks, overlap, embedding, top-k, recherche hybride, reranker — et propose une méthode A/B sans faux pourcentages. Prérequis : instance Open WebUI déjà en place ([[ta02|install Docker]]) et idéalement la chaîne de [[ta01|Qwen + RAG]].
Dans un RAG, le LLM attire la lumière, mais l’embedding décide quels passages il verra. Sur des documents français — guides d’aides, règlements, délibérations — un mauvais choix se traduit par des réponses à côté malgré un excellent modèle de chat. Ce tutoriel pose le rôle de l’embedding, présente des familles candidates (bge-m3, multilingual-e5, nomic-embed et autres), et détaille un protocole de test que vous pouvez rejouer sur votre corpus. Pas de scores recall inventés : une méthode pour trancher chez vous, à Lille, Amiens ou Valenciennes.
Beaucoup d’archives municipales, de délibérations et de dossiers associatifs en Hauts-de-France existent surtout en PDF scannés. Sans OCR, votre RAG indexe du vide : l’assistant répond à côté ou invente. Ce tutoriel suit le chemin complet — détecter le scan, extraire le texte, contrôler la qualité, puis brancher le résultat sur votre pipeline d’indexation — avec des commandes de principe et des gestes de vérification que vous pourrez refaire sur un lot réel.
Un RAG qui « a l’air intelligent » peut citer la mauvaise page. Ce tutoriel vous montre comment prouver — ou infirmer — la fiabilité de votre assistant documentaire : constituer un jeu de questions ancré dans vos PDF, définir ce que vous appelez une bonne réponse, automatiser une passe d’évaluation (script maison ou Ragas), puis corriger chunks, OCR ou consignes. Exemple fil rouge : la base documentaire d’une PME industrielle près de Valenciennes et le règlement d’une asso à Amiens.
Quand Open WebUI ne suffit plus, coder son RAG donne le contrôle : quels fichiers entrer, comment découper, où stocker les vecteurs, quelle consigne imposer au modèle. Ce tutoriel dessine une architecture LlamaIndex (avec un clin d’œil LangChain), un Qdrant local via Docker, et un LLM servi par Ollama. Fil rouge : la documentation interne d’une TPE logistique à Dunkerque. Prérequis : Python à l’aise, Docker disponible, et des documents déjà en texte (sinon [[ta09|OCRisez d’abord]]).
Tout le monde n’a pas une équipe Python à temps plein. Flowise et Langflow permettent d’assembler un assistant RAG en relient des nœuds : chargeur de documents, base vectorielle, modèle, mémoire, sortie chat. Ce tutoriel compare les deux pistes, pose un déploiement Docker de principe, construit un flux RAG minimal, puis prépare l’intégration vers un site. Fil rouge : une Maison des associations à Roubaix qui veut un assistant sur son règlement intérieur et ses fiches d’activités — sans coller de dossiers adhérents nominatifs.
Répondre automatiquement aux visiteurs, oui — mais uniquement à partir de contenus que vous maîtrisez, avec un filet humain et un hébergement choisi. Ce tutoriel couvre l’architecture, la préparation des FAQ et guides, la construction du RAG, l’intégration web, les mentions et le cadre données (principes, pas un conseil juridique). Fil rouge : une mairie de taille moyenne dans l’Aisne qui publie un assistant sur les démarches courantes, et une PME commerçante à Saint-Quentin qui indexe fiches produits et SAV.
Installer Open WebUI pour soi est une chose ; le donner à toute une équipe en est une autre. Comptes, groupes, droits sur les modèles et les bases de connaissances, bonnes pratiques de partage : ce tutoriel s’adresse aux PME et associations des Hauts-de-France qui veulent un portail IA interne sans chaos. Prérequis : une instance déjà installée (voir [[ta02|installer Open WebUI]]). Matériel : dimensionnez selon la charge concurrente et la doc des modèles — parlez en ordres de grandeur, pas en mesure de labo.
Ouvrir Open WebUI sur Internet sans reverse proxy ni HTTPS, c’est offrir une interface d’IA (et souvent ses documents) à des scanners automatiques. Ce tutoriel détaille une posture prudente pour une PME ou une collectivité des Hauts-de-France : risques, Caddy ou Nginx, certificats, authentification / SSO, pare-feu, sauvegardes, mises à jour. Prérequis : Linux de base, Docker, et une instance déjà utile en local ([[ta02|installation]], [[ta14|usage équipe]]).
Une IA locale qui ne connaît que ses poids reste muette sur l’actualité. SearXNG, métamoteur auto-hébergé, permet à Open WebUI d’aller chercher des pages web sans passer par une boîte de recherche propriétaire unique. Ce tutoriel couvre le pourquoi, l’installation Docker de principe, la connexion, les tests, et les limites honnêtes. Fil rouge : une rédaction associative à Boulogne-sur-Mer et un service communication de communauté de communes près d’Abbeville.
