{"id":533,"date":"2025-09-21T16:25:56","date_gmt":"2025-09-21T15:25:56","guid":{"rendered":"http:\/\/elcep.legtux.org\/?p=533"},"modified":"2025-09-21T16:25:56","modified_gmt":"2025-09-21T15:25:56","slug":"mon-royaume-pour-une-ia-en-localhost","status":"publish","type":"post","link":"https:\/\/elcep.legtux.org\/?p=533","title":{"rendered":"Mon royaume pour une IA en localhost"},"content":{"rendered":"\n

Depuis la sortie en 2022 de chatGPT, les solutions bas\u00e9es sur des IA sont partout. La question n’est plus, il me semble : \u00ab\u00a0comment vivre sans ?\u00a0\u00bb, ou encore \u00ab\u00a0est-ce qu’il est souhaitable de mettre de l’IA partout ? \u00a0\u00bb une question qui ne nous a jamais \u00e9t\u00e9 pos\u00e9e collectivement.<\/p>\n\n\n\n

Xavier De La Porte r\u00e9sume tr\u00e8s bien mon \u00e9tat d’esprit dans l’intro de son podcast (le code a changer : S\u00e9rie \u00ab Humains-machines : nos langues entrem\u00eal\u00e9es \u00bb \u00c9pisode 1\/2 : Une histoire d’interruption<\/a> ) : \u00ab\u00a0je crois que je n\u2019en peux d\u00e9j\u00e0 plus des discussions autour de ce que nous racontent les IA. Je n\u2019en peux d\u00e9j\u00e0 plus d\u2019entendre des gens s\u2019extasier de tout ce que savent les IA, ou, a contrario, se plaindre de leurs hallucinations. Je n\u2019en peux plus des gens qui me d\u00e9taillent ce qu\u2019ils font avec GPT, Claude, Perplexity ou Le Chat<\/em>.\u00a0\u00bb<\/p>\n\n\n\n

L’IA est l\u00e0, elle \u00e9tend son emprise, est-ce que je peux limiter ma zone de contact en gardant le \u00ab\u00a0contr\u00f4le\u00a0\u00bb sur ce que je donne \u00e0 la machine ? Parce que la tentation est de plus en plus forte de donner aux promptes des papiers scientifiques, des rapports, etc. pour lui demander des r\u00e9sum\u00e9s\u2026 Bien s\u00fbr qu’il faut les avoir lus pour esp\u00e9rer \u00e9chapper aux hallucinations, mais le temps que je pourrais gagner \u00e0 lui faire faire cet \u00e9lagage est sans commune mesure. Ce qui me pose \u00e9videmment la question de gagner du temps pour faire quoi ? Et bien, pour le moment c’est la th\u00e9orie de la reine rouge<\/a>. Comme tout le monde utilise chatGPT, pour aller plus vite, je suis toujours \u00e0 la traine.<\/p>\n\n\n\n

Bien s\u00fbr, c\u00e9der \u00e0 ce chantage, c’est faire un pas de plus dans le r\u00eave des machines <\/a>de G\u00fcnther Anders ! Nous devenons toujours plus consommateurs :<\/p>\n\n\n\n

\n

\u00ab\u00a0si nous sommes consid\u00e9r\u00e9s comme de meilleurs travailleurs, notre consommation sera d’autant plus satisfaisante et nous pourrons accomplir plus rapidement le devoir qui nous incombe d\u2019\u0153uvrer comme liquidateur ; les produits apparaissent d’autant plus r\u00e9ussis qu’ils sont capables de se laisser rapidement user par nous.\u00a0\u00bb (G. Anders, 2022<\/a>, p.85)<\/p>\n<\/blockquote>\n\n\n\n

\"Couverture<\/p>\n\n\n\n

Donc comment garder le contr\u00f4le ? En gardant l’IA dans sa boite — c’est \u00e0 dire dans ma machine. Rien ne fuite car tout reste l\u00e0 en local sur mon ordinateur.<\/p>\n\n\n\n

Techniquement comment j’ai fait ?<\/h2>\n\n\n\n

Installer Ollama c’est facile<\/h3>\n\n\n\n

Ollama<\/a> c’est facile a installer sur Linux :<\/p>\n\n\n\n

curl -fsSL https:\/\/ollama.com\/install.sh | sh\n<\/code><\/pre>\n\n\n\n
Cet utilitaire fonctionne un peu comme docker. On fournit un nom de mod\u00e8le et il se charge de le t\u00e9l\u00e9charger et de le faire fonctionner. Une fois l’utilitaire install\u00e9, il faudra donc t\u00e9l\u00e9charger des LLM. Il y en a une flop\u00e9 disponible sur le site. \u00c0 titre d’exemple, voil\u00e0 celui que j’essaie en ce moment.<\/p>\n\n\n\n
ollama run gpt-oss<\/code><\/pre>\n\n\n\n
Normalement en sortie de commande (apr\u00e8s le t\u00e9l\u00e9chargement de plusieurs Go de mod\u00e8le), vous tomberez dans un prompt dans le terminal. Pour en sortir ctrl + d.<\/p>\n\n\n\n
<\/p>\n\n\n\n
Installer open-WebUI c’est moins \u00e9vident<\/h3>\n\n\n\n
Avant tout, j’ai perdu pas mal de temps \u00e0 essayer de comprendre pourquoi les mod\u00e8les que j’avais t\u00e9l\u00e9charg\u00e9s avec Ollama n’\u00e9taient pas visibles dans l’interface de open-WebUI. Il se trouve qu’il y a encore des incompatibilit\u00e9s entre open-WebUI et Firefox. J’ai fini par trouver les infos l\u00e0<\/a>!<\/p>\n\n\n\n
Donc, pour installer le service web, la solution propos\u00e9e est bas\u00e9e sur docker. Chez moi, c’est pass\u00e9 avec cette commande :<\/p>\n\n\n\n
sudo docker run -d --network=host -v open-webui:\/app\/openWebUI -e OLLAMA_BASE_URL=http:\/\/127.0.0.1:11434 --name open-webui --restart always ghcr.io\/open-webui\/open-webui:main<\/code><\/pre>\n\n\n\n
Une fois que le docker est lanc\u00e9, il met quelques minutes \u00e0 s’instancier correctement. On peut acc\u00e9der au service en local : http:\/\/localhost:8080\/<\/a><\/p>\n\n\n\n
RetEx \u00e0 chaud \ud83e\ude96<\/h2>\n\n\n\n
Apr\u00e8s quelques essais, c’est chouette, mais ce n\u2019est pas encore le futur! D\u00e9j\u00e0 \u00e7a va pousser les \u00ab\u00a0vieilles\u00a0\u00bb machines dans la tombe et accentuer la fracture num\u00e9rique. Ici une requ\u00eate sur le mod\u00e8le GPT-OSS occupe pas mal ma machine.<\/p>\n\n\n\n
\"\"<\/a><\/figure>\n\n\n\n
Je cherchais quelque chose qui me permette de faire de la synth\u00e8se de fichier. Le point positif c’est que c’est possible d’envoyer des fichiers au LLM dans l’interface d’open WebIU (qui int\u00e8gre RAF), mais les formats ne sont pas tous support\u00e9s (PDF, odt, et autre format libre oui), mais les formats propri\u00e9taire comme docx semblent non pris en charge\u2026 Ensuite le niveau de r\u00e9ponse n’est pas foufou, et tr\u00e8s d\u00e9pendant du mod\u00e8le qu’on charge. D’un point de vue contextuel, peut \u00eatre que cela d\u00e9pend des r\u00e9glages de l’interface, mais la priorit\u00e9 n’est pas donn\u00e9e au fichier que vous fournissez. Il arrive que se glissent des informations de fichier analys\u00e9 pr\u00e9c\u00e9demment.<\/p>\n\n\n\n
<\/p>\n\n\n\n
Quelques r\u00e9f\u00e9rences : <\/h2>\n\n\n\n