Vous voulez interroger vos PDF, notes et règlements sans coller le contenu dans un chat cloud, et sans assembler Docker, Knowledge et prompts système à la main. AnythingLLM propose un RAG « sans code » : interface graphique, espaces de travail, documents attachés, modèle local via Ollama. Ce tutoriel suit le plan Installer → Workspaces → Documents → Réglages → comparaison avec Open WebUI. L’exemple fil rouge : une association amiénoise ou une TPE de Roubaix qui indexe des documents déjà publics (statuts, guides d’aides, procédures internes non confidentielles) sur un PC avec environ 16 Go de mémoire vive. IAHDF n’est pas lié à Mintplex Labs : on décrit le geste, pas un partenariat.
Ce que vous allez mettre en place
Plan du tutoriel : (1) comprendre ce qu’AnythingLLM fait et ne fait pas, (2) installer et ouvrir l’interface, (3) créer des workspaces, (4) brancher Ollama, (5) importer et indexer des documents, (6) régler le comportement du chat, (7) comparer honnêtement avec Open WebUI. Les étapes détaillées suivent. Si vous préférez la chaîne « complète » modèle + interface + Knowledge, le parcours voisin est Qwen + Open WebUI + RAG. Pour juger la qualité des réponses après installation, le banc de test en 20 prompts complète ce tuto.
Pourquoi un RAG « sans code »
Le RAG (Retrieval-Augmented Generation) découpe vos fichiers, les indexe, retrouve des passages utiles, puis demande au modèle de rédiger une réponse ancrée dans ces passages. Sans RAG, un LLM invente volontiers une date de délibération ou un critère d’aide. Avec un mauvais RAG, il invente aussi — mais en citant parfois une mauvaise source. AnythingLLM emballe ces étapes dans une interface : vous n’écrivez ni Python, ni LangChain, ni requête SQL vectorielle.
« Sans code » ne veut pas dire « sans jugement ». Vous devez encore choisir quels fichiers entrer, quels dossiers rester dehors, et comment vérifier une réponse. Sur un poste de Lens ou de Cambrai, le risque n’est pas d’oublier une bibliothèque npm : c’est d’indexer trop vite un dossier RH ou un marché non public. Relisez les données à ne pas confier avant de glisser des PDF sensibles dans un workspace.
Matériel et prérequis
Le CSV de ce parcours indique un PC avec environ 16 Go de mémoire vive, sans prérequis logiciel particulier au-delà de savoir installer une application et laisser Ollama tourner en local. C’est un ordre de grandeur de confort pour expérimenter, pas une mesure de laboratoire IAHDF. Avec moins de mémoire, réduisez la taille du modèle ou fermez les autres logiciels lourds. Avec plus, vous gagnerez surtout en confort, pas en « score ».
Prérequis pratiques : un compte administrateur local pour installer, de l’espace disque pour le modèle et les index, et idéalement Ollama déjà opérationnel. Si Ollama n’est pas encore là, installez-le depuis le site officiel, tirez un petit modèle de test avec le tag exact affiché sur ollama.com/library, puis revenez. Ne inventez jamais le nom du tag : les suffixes de quantification changent.
Pas à pas : d’AnythingLLM au premier RAG utile
Choisir le mode d’installation et l’ouvrir
Rendez-vous sur le site et la documentation officiels d’AnythingLLM (Mintplex Labs). Choisissez le mode adapté à votre poste : application bureau si vous voulez démarrer vite sur Windows ou macOS, ou le déploiement documenté (conteneur, etc.) si votre structure impose déjà Docker. Notez la version installée dans un fichier README interne. Lancez l’application, créez le compte local demandé, et vérifiez que l’interface charge sans erreur. Sur un portable de mission à Arras, faites ce premier lancement sur le réseau de confiance : les téléchargements de modèles saturent vite un Wi-Fi partagé. Ne importez encore aucun document confidentiel.
Créer un premier workspace nommé et borné
Un workspace (espace de travail) isole un corpus et souvent un réglage de chat. Créez-en un avec un nom explicite : « Guides aides 2026 – public » plutôt que « Test ». Décrivez en une phrase ce qui a le droit d’y entrer. Un workspace = un périmètre. Ne mélangez pas statuts d’asso, factures fournisseurs et notes personnelles dans le même espace. À Lille comme à Valenciennes, ce découpage évite qu’une question anodine sur les horaires ne « retrouve » un extrait hors sujet. Si l’interface propose un prompt système par workspace, préparez déjà la consigne : répondre uniquement à partir des documents, citer le fichier, dire « je ne sais pas » si l’info manque.
Brancher Ollama et sélectionner un modèle
Dans les réglages de fournisseur de LLM, choisissez Ollama (ou l’option locale équivalente documentée). Indiquez l’URL locale telle que la doc AnythingLLM et Ollama la décrivent pour votre OS. Listez les modèles disponibles : si la liste est vide, Ollama ne tourne pas ou n’est pas joignable — corrigez avant toute indexation. Sélectionnez un modèle dont vous avez tiré le tag exact depuis ollama.com/library. Pour un premier essai français, un modèle documenté pour le multilinguisme suffit ; montez en taille seulement si la machine reste confortable. Notez le tag dans le README : dans six mois, vous saurez ce qui tournait sur le poste de Boulogne.
Importer un corpus petit, propre et déjà autorisé
Commencez par cinq à quinze fichiers que vous avez le droit d’indexer : PDF texte (pas seulement scannés sans OCR), Markdown, textes. Évitez les scans illisibles et les archives ZIP fourre-tout. Preférez des documents déjà publics ou internes non sensibles. Lancez l’upload dans le workspace, laissez l’indexation se terminer, et vérifiez que chaque fichier apparaît comme traité. Si un PDF échoue, sortez-le du lot plutôt que de « forcer » : un mauvais fichier pollue la récupération. Pour un RAG plus technique et finement réglé, gardez en tête les curseurs Open WebUI même si ici l’interface est différente.
Poser des questions de contrôle avec sources visibles
Préparez dix questions dont vous connaissez déjà la réponse dans le corpus (« Quel est le délai mentionné page… », « Où est définie la notion X ? »). Posez-les dans le chat du workspace. Exigez que l’interface affiche les sources ou citations si l’option existe. Quand la source est absente ou hors sujet, la réponse n’est pas fiable — même si le style est fluide. Notez pour chaque question : OK, partiel, ou échec. Ce protocole rejoint l’esprit de votre banc de test maison : vous jugez sur vos tâches, pas sur une démo marketing.
Ajuster les réglages sans tout casser
Changez un paramètre à la fois : température / créativité plus basse pour les textes réglementaires, consigne système plus stricte, éventuel fournisseur d’embedding si l’interface le propose. Après chaque changement, rejouez les mêmes dix questions. Si les bonnes pages ne remontent plus, revenez en arrière avant d’accuser le modèle. Documentez le réglage retenu. N’ouvrez pas encore l’accès à toute l’équipe : validez d’abord sur votre poste. Quand le geste est stable, vous pourrez décider si AnythingLLM suffit, ou s’il faut monter vers une stack type parcours installation locale plus large.
Workspaces : un corpus, une intention
Le workspace est l’unité de sens. Créez « Procédures adhérents », « Veille aides publiques », « Formation bénévoles » plutôt qu’un espace unique « Tout ». Chaque espace peut avoir son ton : factuel et strict pour un règlement, plus pédagogique pour un guide interne. Séparez aussi les essais : un workspace « Bac à sable » reçoit les PDF douteux ; le workspace « Prod interne » ne reçoit que ce qui a passé la relecture humaine.
Dans une asso des Hauts-de-France, un bon réflexe consiste à nommer le workspace avec l’année et le statut des documents (« public », « interne »). Ainsi un nouveau bénévole à Amiens comprend immédiatement ce qu’il a le droit d’y poser comme question — et ce qu’il ne doit pas y uploader.
Documents : qualité avant volume
Un corpus de trente pages propres bat souvent trois cents pages de scans flous et de doublons. Avant l’upload : retirez les brouillons, unifiez les versions, convertissez si besoin les fichiers purement image. Si le texte extrait est illisible, le RAG retrouvera de l’illisible.
N’indexez pas « tout le disque partagé ». Liste courte, versionnée, date de revue. Quand un document change, remplacez-le et retestez deux questions clés. L’oubli classique : laisser l’ancienne version à côté de la nouvelle, puis s’étonner de réponses contradictoires.
Tu es un assistant de documentation pour une structure des Hauts-de-France. Tu réponds uniquement à partir des extraits de documents fournis par le système (RAG). Règles : - Si l’information n’apparaît pas dans les extraits, réponds exactement : « Je ne trouve pas cette information dans les documents fournis. » - Cite le nom du fichier (et la section ou page si disponible) pour chaque affirmation importante. - N’invente ni date, ni montant, ni critère d’éligibilité, ni article de règlement. - Si deux documents se contredisent, signale la contradiction et cite les deux sources. - Réponds en français, de façon concise, avec des puces pour les conditions. - Interdiction de compléter avec ta connaissance générale quand le document est silencieux.
Réglages utiles (sans chiffres inventés)
Baissez la créativité pour règles, délais et procédures. Gardez une consigne « je ne sais pas ». Si un embedding est proposé, choisissez un modèle multilingue documenté et copiez le tag officiel. Changer d’embedding impose en général de ré-indexer.
Pour chunks et nombre de passages : partez des défauts du produit, ajustez seulement si vos questions de contrôle échouent. Votre protocole de questions reste le juge — pas une mesure de labo IAHDF.
| Critère | AnythingLLM | Open WebUI |
|---|---|---|
| Public cible | Souvent plus direct pour un usage documentaire sans coder | Plus large : chat, comptes, outils, pipelines |
| Mise en route RAG | Workspace + documents dans l’UI | Knowledge + modèle personnalisé + réglages RAG |
| Équipe / droits | Vérifiez ce que votre version expose (solo vs multi-utilisateurs) | Comptes, groupes et permissions plus matures côté équipes |
| Profondeur des curseurs RAG | Suffisante pour démarrer ; moins « labo » | Plus de leviers (chunks, hybride, rerank…) selon version |
| Quand choisir | Besoin d’interroger vite un corpus borné | Besoin d’une plateforme locale polyvalente |
AnythingLLM ou Open WebUI ?
Ce n’est pas un match à points. Pour coller des PDF et poser des questions, AnythingLLM réduit la friction. Pour comptes d’équipe, outils et stack plus technique, Open WebUI (voir installation Docker et Open WebUI en équipe) reste souvent plus « plateforme ». Comparez sur vos dix questions écrites, le même corpus, le même jour — pas sur une démo.
Limites honnêtes
AnythingLLM n’élimine pas les hallucinations : il les réduit quand la récupération est bonne et la consigne stricte. Il ne remplace pas un juriste ni la lecture du document source. La conformité reste à votre charge. Ce tuto décrit le geste durable (workspace, corpus, Ollama, protocole de test), pas une capture d’écran figée.
Questions fréquentes
Faut-il savoir coder pour utiliser AnythingLLM ?
Non pour le parcours décrit ici : installer, créer un workspace, brancher Ollama, importer des fichiers. Savoir lire une doc et noter un tag de modèle suffit. Le code revient si vous automatisez des pipelines hors de l’interface.
Puis-je me passer d’Ollama ?
AnythingLLM peut aussi se brancher sur d’autres fournisseurs selon la doc officielle. Pour rester local et limiter la sortie de données, Ollama (ou un runtime local équivalent) est le chemin le plus cohérent avec l’esprit de ce tuto.
16 Go de RAM suffisent-ils toujours ?
C’est un ordre de grandeur pour expérimenter, pas une garantie. Tout dépend du modèle, des autres logiciels ouverts et de la taille des index. Si la machine swap ou devient inutilisable, descendez de taille de modèle plutôt que d’inventer un « score VRAM ».
AnythingLLM remplace-t-il Open WebUI ?
Pas forcément. Remplacez si votre besoin est surtout documentaire et que l’interface vous convient. Gardez Open WebUI si vous avez besoin d’une plateforme plus riche. Testez les deux sur le même corpus avant de trancher.
Que faire si le modèle cite mal les sources ?
Vérifiez d’abord l’indexation et la qualité des fichiers, resserrez la consigne système, baissez la créativité, puis rejouez vos questions de contrôle. Si les passages affichés sont déjà faux, le modèle n’y peut rien : réparez le corpus.