L'image ollama-bge-m3 devient embeddings-bge-m3 (image et conteneur), avec une description OCI pour la page du paquet dans Gitea. Caddy 2.10.2, devant Ollama, ne laisse passer que les requêtes qui portent « Authorization: Bearer <EMBEDDINGS_JETON> » (la « API key » des embeddings dans LibreDesk) ; Ollama n'écoute plus que dans le conteneur (127.0.0.1:11435). Le jeton est donné au lancement (ollama/.env, hors de git), jamais rangé dans l'image publique ; sans jeton valable, le conteneur refuse de démarrer. verifier_ollama.py lit le jeton à côté de lui et vérifie aussi qu'une requête sans jeton est refusée ; 3_brancher_ia.py le donne à l'instance de test. Essais réels hors ligne et gestes de production (points 1 ter, 6 bis) dans docs/. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
61 lines
8.0 KiB
Markdown
61 lines
8.0 KiB
Markdown
# Vérifications
|
|
|
|
Les constats sur lesquels repose ce dépôt, datés, avec leur source : **[code]** le code de LibreDesk v2.9.0 ; **[test]** l'instance de test (`instance-de-test/`) ; **[prod]** la production.
|
|
|
|
## LibreDesk v2.9.0
|
|
|
|
Repris de Support-AI (vérifications des 2026-11-09 et 2026-11-11), limité à ce qui sert ici.
|
|
|
|
| Point | Constat | Source |
|
|
|---|---|---|
|
|
| Version en production | v2.9.0 (`GET /api/v1/settings/general`) ; derrière Caddy (`Via: 1.1 Caddy`), même adresse publique que `exchange.sensima.ch` | [prod] |
|
|
| Authentification par clé | `Authorization: token <clé>:<secret>`, une clé par agent (Admin → Teammates → Agents) | [code, test] |
|
|
| Extraits de la base | `GET/POST /api/v1/ai/snippets`, `PUT /api/v1/ai/snippets/{id}` ; permission `ai:manage` (clé admin) ; extraits privés, lus par l'IA seulement | [code, test] |
|
|
| Configuration de l'IA | `PUT /api/v1/ai/config/{completion,embedding}` ; `POST …/test` fait une vraie requête sans enregistrer | [code, test] |
|
|
| Embeddings | format OpenAI, `POST <base_url>/embeddings` ; vecteurs de toute dimension (bge-m3 : 1024) ; garde SSRF désactivée par défaut (`[ssrf] enabled = false`) | [code] |
|
|
| Recalcul des vecteurs | automatique quand l'URL, le modèle ou la dimension change (`internal/ai/ai.go`) ; empreinte = titre, texte, URL, modèle, dimension (`internal/ai/embedsource.go`, `itemFingerprint`) ; échecs retentés chaque minute (`internal/ai/embedding.go`, `reconcileInterval`) | [code, test] |
|
|
| « Generate reply » | `POST /api/v1/ai/generate-reply` ; outils `search_articles`, `list_contact_conversations`, `fetch_conversation` ; **ne voit pas les notes privées** ; rien n'est envoyé, le texte revient à l'éditeur | [code, test] |
|
|
| Sans embeddings | le brouillon est rendu quand même, sans la base (« AI provider unavailable », `search_articles` en erreur), rien ne le signale | [test] |
|
|
| Assistants | répondent eux-mêmes au client, par mail aussi (`internal/aiagent/worker.go`) : **à ne jamais activer** | [code] |
|
|
| Envoi d'un message | même route pour une note privée et une réponse ; sans `private: true`, le mail part (vérifié avec Mailpit) : aucun code de ce dépôt n'appelle cette route en production | [test] |
|
|
| Complétion par Claude | fournisseur `openai`, `https://api.anthropic.com/v1`, `claude-sonnet-5-5`, `reasoning_effort` `medium` : les tests de configuration et les appels d'outils fonctionnent | [test, prod] |
|
|
|
|
**L'essai avec LM Studio (2026-11-11)** : 118 extraits importés et indexés ; 5 brouillons sur 5 en 4 à 11 s, appuyés sur la FAQ et le manuel, dans la langue du client (allemand compris), sans rien inventer hors base ; Mailpit inchangé. Une seule réserve : un brouillon mélangeait « tu » et « vous » (instructions corrigées depuis).
|
|
|
|
**Le réseau du poste** : WSL est en mode `networkingMode=mirrored` ; WSL et Docker ne joignent Windows que par `127.0.0.1`. Pour qu'un conteneur joigne LM Studio sur Windows, il fallait un relais `socat` (voir l'historique de Support-AI) ; avec Ollama dans Docker, le réseau Docker de l'instance suffit.
|
|
|
|
## L'image renommée embeddings-bge-m3, avec jeton (2026-11-18) [code, test]
|
|
|
|
Image `exchange.sensima.ch/maxime.pasquier/embeddings-bge-m3:0.40.16-567m` (2,49 Go) : la précédente, plus Caddy 2.10.2 devant Ollama. Ollama n'écoute que sur `127.0.0.1:11435` dans le conteneur ; Caddy, sur 11434, ne transmet que les requêtes qui portent `Authorization: Bearer <EMBEDDINGS_JETON>`.
|
|
- LibreDesk v2.9.0 envoie la clé des embeddings en `Authorization: Bearer <clé>` (`internal/ai/openai.go`, `post`), et lit un 401 comme « clé API invalide » (`ErrInvalidAPIKey`, sans nouvel essai). La clé n'entre pas dans l'empreinte des extraits (`itemFingerprint`) : la changer ne déclenche pas de recalcul.
|
|
- Sans jeton, ou avec un jeton de moins de 32 caractères : le conteneur s'arrête aussitôt (code 1, message `EMBEDDINGS_JETON manquant ou invalide`).
|
|
- Hors ligne (réseau Docker `--internal`, alias `ollama` comme sur le réseau de LibreDesk) : `healthy` ; `verifier_ollama.py` → `OK bge-m3:567m, 1024 dimensions, jeton exigé` ; sans en-tête, mauvais jeton, ancienne clé `ollama` : 401 ; bon jeton : 200 ; Ollama lui-même (11435) injoignable depuis un autre conteneur.
|
|
- Ollama, lié à 127.0.0.1, refuse (403) un Host non local comme `ollama:11434` : Caddy réécrit `Host` (`header_up Host 127.0.0.1:11435`), et ne transmet pas le jeton à Ollama.
|
|
- Le jeton n'apparaît pas dans `docker logs` ; il est dans l'environnement de Caddy seulement, pas dans celui d'Ollama. Il reste lisible par `docker inspect` (comme `ACCES_JETON`) : réservé à qui administre Docker.
|
|
- `docker stop` : arrêt immédiat (les signaux sont transmis). Ollama tué dans le conteneur : le conteneur s'arrête, Docker le relance (`RestartCount` 1), de nouveau `healthy`.
|
|
- Port publié sur `127.0.0.1:11436`, depuis WSL : même résultat que hors ligne.
|
|
|
|
## La simulation du passage à Ollama (2026-11-12) [test]
|
|
|
|
Instance de test neuve (LibreDesk v2.9.0, Mailpit), base importée (118 extraits), image `exchange.sensima.ch/maxime.pasquier/ollama-bge-m3:0.40.16-567m` (Ollama 0.40.16, `bge-m3:567m`, **2,43 Go**) sur le réseau Docker de l'instance (`ollama/compose.reseau.yml`).
|
|
|
|
**L'image**
|
|
- Hors ligne (réseau Docker `--internal`, aucun DNS) : `verifier_ollama.py` → `OK bge-m3:567m, 1024 dimensions`. Aucun appel à `ollama.com` grâce à `OLLAMA_NO_CLOUD=1`.
|
|
- Construite en deux étapes : sans les bibliothèques GPU de l'image officielle (CUDA, ROCm, Vulkan : 4,4 Go), l'image passe de 10,7 Go à 2,43 Go. Calcul sur processeur (`inference compute … library=cpu`).
|
|
- Redémarrage automatique : après un arrêt du processus dans le conteneur, Docker le relance (`RestartCount` 1) et il sert de nouveau bge-m3. Un `docker kill` ou `docker stop` compte comme un arrêt manuel : `unless-stopped` ne relance pas, c'est voulu. Le redémarrage du service Docker n'a pas été essayé sur le poste (demande `sudo`) : à vérifier sur le serveur.
|
|
- Sur le poste de Maxime, un Ollama Windows occupe déjà `127.0.0.1:11434` : les essais publient sur 11435 (`OLLAMA_PORT=11435`).
|
|
|
|
**Le recalcul des vecteurs, automatique** (LM Studio n'était pas lancé : l'instance est passée d'une adresse d'Ollama, `http://ollama-bge-m3:11434/v1`, à une autre, `http://ollama:11434/v1` ; c'est le même déclenchement que LM Studio → Ollama, un changement d'URL)
|
|
- Premier branchement : « embedding provider changed, reindexing knowledge base », puis « reconciled embeddings … reindexed=118 », 118 extraits indexés en une minute environ.
|
|
- Changement d'adresse (`3_brancher_ia.py`, test puis enregistrement) : de nouveau « embedding provider changed » (`old_base_url=http://ollama-bge-m3:11434/v1 new_base_url=http://ollama:11434/v1`), puis « reindexed=118 ». Empreintes (`voir_empreintes.sh`) : 118, aucune vide, **aucune identique** à celles d'avant.
|
|
- Attention en lisant les journaux : « reconciled embeddings … reindexed=N » compte les extraits **tentés**, pas réussis. La preuve, ce sont les empreintes (instance de test) ou l'absence d'« error generating embeddings » après le message (production).
|
|
|
|
**Ollama arrêté pendant le recalcul**
|
|
- Ollama arrêté, nouvelle adresse enregistrée sans test : 74 « error generating embeddings » ; les empreintes et les vecteurs précédents restent en place (rien n'est effacé, la recherche garde les anciens vecteurs).
|
|
- Ollama relancé : LibreDesk retente seul (chaque minute) ; les 118 empreintes sont recalculées environ trois minutes après la reprise, sans intervention.
|
|
|
|
**L'essai des brouillons** (`4_essayer_brouillons.py`, rapport `cases/essai-brouillons-2026-11-12.md`, hors de git)
|
|
- 5 brouillons sur 5 `completed`, en 4 à 11 s ; Mailpit inchangé pendant la génération.
|
|
- `search_articles` appelé pour chaque brouillon (14 appels) ; scores des extraits retenus de 0,49 à 0,59, comme avec LM Studio le 2026-11-11 (0,55 à 0,59).
|
|
- Le brouillon 4G s'appuie sur le manuel (adresse locale 192.168.1.2, Link status, APN, SIM 3FF, antenne SMA). À faire juger par Maxime, comme l'essai LM Studio.
|