Quel logiciel pour mon IA locale ? Ollama, LM Studio, Jan, GPT4All, AnythingLLM : cinq portes d’entrée fréquentes, cinq philosophies. Facilité d’install, perf ressentie, RAG documentaire, multi-utilisateurs, licences : ce comparatif de septembre 2026 décrit un protocole d’installation et d’épreuve sur machine de référence, sans notes sur dix ni promesses de « ChatGPT offline ». IAHDF est indépendant. Le matériel compte autant que le logo — voir aussi la notion de [[gl23|GPU]].
Faire tourner un modèle chez soi, c’est contrôler davantage où va le texte — à condition de comprendre ce qui reste local et ce qui peut encore appeler le réseau (téléchargement de modèles, mises à jour, télémetrie éventuelle). Lisez les options de chaque application à la date du jour.
Les noms cités illustrent des familles d’outils largement utilisés fin 2026 dans les ateliers. Ce ne sont pas des partenaires IAHDF. D’autres logiciels existent ; le protocole reste valable.
À quoi sert chaque famille
Ollama : approche souvent appréciée des profils techniques — modèles en ligne de commande, API locale pour brancher d’autres apps. LM Studio : interface pour télécharger, configurer, chatter, parfois exposer un serveur local. Jan : app bureau orientée simplicité d’usage local. GPT4All : entrée grand public historique pour essayer des modèles locaux. AnythingLLM : angle workspace documentaire / RAG, pour interroger des fichiers avec un modèle (local ou distant selon config).
Ces descriptions sont des orientations, pas des fiches marketing. Vérifiez les fonctions actuelles sur le site de chaque projet.
Protocole : installation et mesure sur machine de référence
Machine de référence typique d’atelier : PC Windows récent avec GPU grand public si disponible, sinon CPU seulement (plus lent). Notez : CPU/GPU, RAM, espace disque libre, version OS. Installez un outil à la fois pour éviter les conflits de ports.
Déroulement
Préparer le disque
Les modèles pèsent lourd. Prévoyez de l’espace et un dossier dédié. Notez où les fichiers sont stockés.
Installer depuis la source officielle
Site ou dépôt officiel du projet. Évitez les « crack » et les exécutables douteux.
Télécharger le même modèle (si possible)
Pour comparer l’outil, pas seulement le modèle. Même quantification si la notion s’applique.
Épreuve chat courte
Même prompt de reformulation. Chronométrez le premier token ressenti et la fin de réponse.
Épreuve document (si RAG)
Un PDF public court + question aiguille. Voir aussi longs documents.
Repérer réseau et licences
Télémétrie, comptes, licence du modèle, licence de l’app. Notez dans un tableau.
Prompts d’épreuves
Reformule ce paragraphe en vouvoiement, 80 mots maximum, sans ajouter de faits : [coller un paragraphe neutre non personnel] Indique en fin de réponse : « FIN ».
À partir des documents indexés dans cet espace uniquement : Réponds à : [question factuelle]. Cite un extrait court. Si absent, dis « non trouvé ». N’utilise pas de connaissance externe.
(Via curl ou client HTTP local) Envoie un chat.completions minimal avec le même message que l’épreuve latence. Vérifie : réponse locale, pas d’appel distant inattendu (firewall / wireshark selon ton niveau).
Tableau comparatif qualitatif
| Critère | Ollama | LM Studio | Jan | GPT4All | AnythingLLM |
|---|---|---|---|---|---|
| Profil souvent à l’aise | Tech / CLI / API | Expérimentateur GUI | Usage bureau simple | Découverte grand public | Docs + RAG workspace |
| Facilité ressentie | Courbe CLI à apprendre | GUI guidée | GUI accessible | Entrée rapide | Plus de concepts (workspace, ingest) |
| RAG documents | Via apps tierces souvent | Selon fonctions du moment | Selon fonctions du moment | Limité / variable | Cœur de proposition |
| Multi-utilisateurs | Possible via service soigné | Plutôt mono poste | Plutôt mono poste | Plutôt mono poste | Orienté équipes selon déploiement |
| Perf | Très liée machine + modèle | Idem | Idem | Idem | Idem + coût d’indexation |
| Licence / attention | App + modèles : lire les deux | Idem | Idem | Idem | Idem + fichiers ingérés |
Par profil
Développeur qui veut brancher une app : regardez en priorité une API locale stable (souvent l’écosystème Ollama ou un serveur local exposé par une GUI). Débutant curieux : une GUI (LM Studio, Jan, GPT4All) pour voir un modèle répondre hors cloud. Équipe documentaire : workspace type AnythingLLM, avec discipline sur les fichiers ingérés (pas de RH).
Pour coder avec assistance, croisez assistants de code. Pour le coût cloud API évité, rappelez-vous que le local déplace la dépense vers le matériel (GPU, électricité, temps).
Performances : ce qu’on mesure vraiment
Temps jusqu’au premier token, tokens / seconde ressentis, stabilité (crash, surchauffe), qualité sur vos prompts — pas un benchmark viral. Un modèle quantifié plus petit peut être plus utile au quotidien. Notez la température de la machine et si le GPU est réellement utilisé.
Licences : double lecture
Licence de l’application et licence / conditions du modèle téléchargé. Un outil libre peut servir un modèle aux conditions restrictives (usage commercial, attribution, interdits). Lisez avant un usage pro. IAHDF ne fournit pas d’avis juridique.
Cas Hauts-de-France
Fablab / atelier numérique : postes partagés avec modèles légers pour démontrer la différence cloud / local sans coller de données personnelles. Règle affichée : documents d’exemple publics seulement.
TPE qui veut un brouillon hors cloud : GUI locale sur un PC dédié, pas sur le poste caisse. Sauvegardes chiffrées du disque. Pas de liste clients indexée.
Dev freelance : Ollama + éditeur pour prototypes ; bascule cloud seulement si le contrat client l’autorise. Échanges de retours via l’agenda IAHDF ; inscription pour l’espace.
Dans une médiathèque de Saint-Quentin, le même essai sur trois postes (un portable 16 Go, un mini-PC, un Mac partagé) montre vite que l’outil le plus simple à lancer n’est pas celui qui tient une après-midi d’atelier. Notez qui a réussi à charger un modèle sans aide, et qui a abandonné au premier message d’erreur. Ce critère d’accueil compte autant que la fluidité du texte.
Limites de ce test
Une machine de référence ne dit pas la vôtre. Les fonctions RAG, serveurs et boutiques de modèles évoluent. Nous n’avons pas mesuré de scores chiffrés publiables comme vérité annuelle. Les noms de forks et d’interfaces dérivées se multiplient : vérifiez l’éditeur réel.
Local ne signifie pas « anonymat absolu » si vous synchronisez des dossiers vers un cloud personnel ou si l’app rappelle un compte. Configurez volontairement.
Pour aller plus loin
Confidentialité des réglages cloud restants : confidentialité. Documents longs : épreuve aiguille. Budget cloud si vous mixez : postes de coût API. Matériel : GPU.
Matériel : préparer le terrain
Avant d’installer cinq applications, mesurez la RAM libre réelle, l’espace disque, et la présence d’un GPU reconnu par le système. Fermez les applications lourdes pendant l’épreuve. Un modèle trop gros pour votre machine transforme n’importe quelle GUI en expérience frustrante, ce qui fausse le comparatif d’outils.
Prévoyez un dossier dédié aux modèles et un autre aux données d’exemple. Nommez clairement les fichiers publics d’atelier. Évitez de pointer l’indexation vers votre dossier Documents personnel entier : vous ingéreriez malgré vous des éléments privés.
Sur portable, branchez l’alimentation. Les pics de charge GPU vident les batteries et déclenchent des limitations thermiques qui changent la latence au milieu du test. Notez ces conditions dans votre journal d’épreuve.
Réseau et télémetrie
Local ne veut pas dire « jamais de réseau ». Téléchargement initial des modèles, vérifications de mise à jour, éventuelle télémétrie : lisez les options. Désactivez ce qui n’est pas nécessaire à votre usage. Sur un poste d’entreprise, validez avec la DSI avant d’exposer un serveur local sur le réseau local.
Exposer une API locale sur 0.0.0.0 sans contrôle d’accès est un risque. Gardez le bind sur localhost tant que vous n’avez pas de besoin clair et de protection adaptée. Documentez le port utilisé pour éviter les conflits entre Ollama, LM Studio et d’autres services.
Si vous testez « hors ligne », coupez le réseau après téléchargement et recommencez l’épreuve chat. Vous saurez si l’outil tente encore un appel distant. Ce test simple vaut mieux qu’une promesse marketing.
RAG local : discipline documentaire
Indexer pour apprendre est légitime sur des PDF publics. Indexer la paie, les contrats salariés ou les dossiers usagers l’est rarement sur un poste non cadré. Définissez une liste blanche de dossiers. Purgez l’index après atelier si l’ordinateur est partagé.
Évaluez la qualité avec l’aiguille : question dont la réponse est dans un passage non trivial. Si l’outil répond à côté, améliorez le découpage ou la question avant d’accuser le seul modèle. Croisez longs documents.
AnythingLLM et outils similaires brillent quand le workspace est propre. Ils déçoivent quand on verse un chaos de fichiers. Le logiciel n’efface pas le besoin de classement humain.
Animer un atelier local sans chaos
Préinstallez un seul outil et un seul petit modèle sur les postes. Distribuez le même prompt d’épreuve. Interdisez l’indexation de dossiers personnels. Prévoir un temps de désinstallation ou de purge en fin de session sur les machines partagées.
Affichez un schéma simple : téléchargement du modèle, dossier de stockage, bouton chat, option réseau. Beaucoup de freins viennent de la peur de « casser le PC ». Montrer le dossier modèles rassure et responsabilise.
Préparez un plan B hors ligne : si le GPU chauffe ou si le modèle refuse de charger, basculez sur un modèle plus petit plutôt que d’improviser un compte cloud devant le public. L’honnêteté sur les limites fait partie du message IAHDF.
Recueillez trois verbatims en fin d’atelier : ce qui a surpris, ce qui a freiné, ce que les gens tenteront chez eux. Ces retours nourrissent les prochaines sessions mieux qu’un sondage de satisfaction générique.
Choisir un modèle adapté à la machine
Commencez petit. Un modèle léger qui répond en quelques secondes enseigne les gestes. Un modèle trop gros qui fait chauffer le ventilateur pendant trois minutes décourage les débutants et fausse le jugement sur l’outil. Montez en taille seulement quand le petit modèle montre ses limites sur vos prompts réels.
Vérifiez la quantification et le format supporté par l’application. Deux outils peuvent lister le même nom de modèle avec des builds différents. Notez l’identifiant exact dans votre journal. Pour les usages pro, lisez aussi les conditions d’usage commercial du modèle avant d’en faire une démo client.
Si plusieurs personnes partagent un poste, créez des profils ou des dossiers séparés pour éviter de mélanger les historiques et les index documentaires. La séparation des espaces est une mesure de confidentialité aussi importante que le choix de la marque.
Gardez une clé USB ou un disque de modèles pré-téléchargés pour les ateliers hors connexion fiable. Le téléchargement initial reste le vrai frein logistique en médiathèque ou en salle municipale. Anticiper ce frein change la qualité de la médiation.
Quand le local sert de contrepoint pédagogique au cloud, dites-le clairement au public : ce n’est pas forcément « mieux », c’est un autre lieu de calcul avec d’autres responsabilités. Cette phrase évite le basculement idéologique stérile.
En synthèse opérationnelle : un outil, un petit modèle, une épreuve chronométrée, une lecture de licence, une règle sur les fichiers. Ensuite seulement, comparez une deuxième interface. Cette patience évite d’équiper un atelier de cinq logiciels mal compris. Elle aligne aussi les discours cloud et local sur des faits observables plutôt que sur des slogans de souveraineté improvisés.
Questions fréquentes
Ollama ou LM Studio : que choisir ?
Si vous voulez une API locale et un flux plutôt technique pour brancher d’autres applications, Ollama est souvent cité dans les équipes de développement. Si vous voulez une interface pour télécharger, configurer et tester des modèles sans vivre dans le terminal, LM Studio séduit beaucoup d’expérimentateurs. Le meilleur choix est celui que vous arrivez à maintenir à jour et dont vous comprenez les options réseau et l’emplacement des fichiers. Testez le même modèle sur votre PC avant d’en parler en absolu dans une réunion. Aucun des deux n’est partenaire IAHDF, et d’autres outils restent légitimes selon votre geste.
Jan et GPT4All suffisent-ils pour débuter ?
Oui comme portes d’entrée pour voir un modèle répondre hors navigateur cloud, à condition d’avoir assez de mémoire vive, d’espace disque, et de lire où les fichiers sont stockés. Ils ne réglent pas à eux seuls un besoin RAG d’équipe ni un usage de production critique. Passez à un workspace documentaire seulement quand vous avez une discipline claire sur les fichiers autorisés à l’indexation. Gardez des documents d’exemple publics pour apprendre, jamais la paie ni les listes d’adhérents. Notez la latence et la stabilité avant d’équiper tout un atelier numérique.
AnythingLLM remplace-t-il un chat cloud pour les PDF ?
Il cible l’interrogation documentaire dans un workspace, avec un modèle branché derrière, local ou non selon votre configuration du moment. Ce n’est pas une magie : qualité d’OCR, découpage, embeddings et formulation de la question restent décisifs pour trouver une aiguille dans un long fichier. Refaites l’épreuve des longs documents avec une question hors introduction. N’ingérez pas de dossiers nominatifs pour voir. Sur un poste partagé, purgez l’index après la session. Le cloud peut rester pertinent pour d’autres gestes ; le local documentaire est un choix de contrôle, pas un trophée à coller sur une plaquette.
Ai-je besoin d’un GPU ?
Un GPU adapté accélère fortement beaucoup de modèles grand public ; un processeur seul peut suffire pour des modèles petits, avec patience et des attentes réalistes. Lisez la fiche vocabulaire sur le GPU pour éviter les confusions d’achat. Avant d’acheter du matériel, mesurez un modèle léger sur votre machine actuelle avec le même prompt d’épreuve. Le coût d’un GPU sous-utilisé dépasse souvent un usage cloud occasionnel bien cadré — calculez chez vous, sans chiffre inventé dans cet article. Pensez aussi à l’alimentation, au bruit et à la chaleur sur un poste de bureau partagé.
Où trouver de l’aide en Hauts-de-France ?
Les ateliers et permanences annoncés sur l’agenda IAHDF sont conçus pour venir avec la configuration de votre machine — mémoire, carte graphique, système — et un objectif clair : chat simple, RAG documentaire, ou API locale. L’inscription ouvre l’espace membre pour poursuivre les échanges et retrouver les comptes rendus de méthode. Nous restons indépendants des éditeurs d’outils locaux : ce comparatif décrit des protocoles et des critères, pas des médailles sponsorisées. Apportez votre journal d’installation plutôt qu’une liste de souhaits marketing. Vous repartirez avec une checklist réutilisable chez vous la semaine suivante, y compris pour choisir la taille du premier modèle.