Image embeddings-bge-m3 : jeton exigé devant Ollama
L'image ollama-bge-m3 devient embeddings-bge-m3 (image et conteneur), avec une description OCI pour la page du paquet dans Gitea. Caddy 2.10.2, devant Ollama, ne laisse passer que les requêtes qui portent « Authorization: Bearer <EMBEDDINGS_JETON> » (la « API key » des embeddings dans LibreDesk) ; Ollama n'écoute plus que dans le conteneur (127.0.0.1:11435). Le jeton est donné au lancement (ollama/.env, hors de git), jamais rangé dans l'image publique ; sans jeton valable, le conteneur refuse de démarrer. verifier_ollama.py lit le jeton à côté de lui et vérifie aussi qu'une requête sans jeton est refusée ; 3_brancher_ia.py le donne à l'instance de test. Essais réels hors ligne et gestes de production (points 1 ter, 6 bis) dans docs/. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
1 parent
369f2e0a44
commit
0fa7c4936b
13 files changed
+315
-57
No files matched your search
+50
-11
@@ -1,49 +1,88 @@
|
||||
"""Vérifie qu'une adresse Ollama (format OpenAI) sert bge-m3:567m en dimension 1024, comme LibreDesk l'attend.
|
||||
"""Vérifie qu'une adresse embeddings-bge-m3 (format OpenAI) sert bge-m3:567m en dimension 1024, comme LibreDesk
|
||||
l'attend, avec le jeton, et qu'elle refuse une requête sans jeton.
|
||||
Bibliothèque standard seulement : tourne sur le poste, sur le serveur, ou dans un conteneur python.
|
||||
|
||||
python3 ollama/verifier_ollama.py http://127.0.0.1:11434/v1
|
||||
|
||||
Le jeton vient de la variable EMBEDDINGS_JETON, sinon du fichier .env posé à côté de ce script (ollama/.env, ou
|
||||
~/ollama/.env sur le serveur) : il n'apparaît ni dans la commande ni dans l'historique, et n'est jamais affiché.
|
||||
"""
|
||||
from __future__ import annotations # lisible par le Python du serveur, même ancien (3.8, 3.9)
|
||||
|
||||
import json
|
||||
import os
|
||||
import sys
|
||||
import urllib.error
|
||||
import urllib.request
|
||||
from pathlib import Path
|
||||
|
||||
MODELE = "bge-m3:567m"
|
||||
DIMENSION = 1024
|
||||
VARIABLE = "EMBEDDINGS_JETON"
|
||||
|
||||
|
||||
def _appel(url: str, corps: dict | None = None) -> dict:
|
||||
r = urllib.request.Request(url, data=json.dumps(corps).encode() if corps is not None else None,
|
||||
headers={"Content-Type": "application/json", "Authorization": "Bearer ollama"})
|
||||
class JetonRefuse(RuntimeError):
|
||||
pass
|
||||
|
||||
|
||||
def lire_jeton(env: dict | None = None, fichier: Path | None = None) -> str | None:
|
||||
"""Le jeton de `env` (os.environ par défaut), sinon celui du .env à côté de ce script ; None s'il n'y en a pas."""
|
||||
env = os.environ if env is None else env
|
||||
fichier = Path(__file__).with_name(".env") if fichier is None else fichier
|
||||
if env.get(VARIABLE):
|
||||
return env[VARIABLE]
|
||||
if not fichier.is_file():
|
||||
return None
|
||||
for ligne in fichier.read_text(encoding="utf-8").splitlines():
|
||||
cle, egal, valeur = ligne.strip().partition("=")
|
||||
if egal and cle.strip() == VARIABLE:
|
||||
return valeur.strip().strip("'\"") or None
|
||||
return None
|
||||
|
||||
|
||||
def _appel(url: str, jeton: str | None, corps: dict | None = None) -> dict:
|
||||
entetes = {"Content-Type": "application/json"}
|
||||
if jeton is not None:
|
||||
entetes["Authorization"] = f"Bearer {jeton}"
|
||||
r = urllib.request.Request(url, data=json.dumps(corps).encode() if corps is not None else None, headers=entetes)
|
||||
try:
|
||||
with urllib.request.urlopen(r, timeout=120) as rep:
|
||||
return json.loads(rep.read())
|
||||
except urllib.error.HTTPError as e:
|
||||
with e:
|
||||
if e.code == 401:
|
||||
raise JetonRefuse(f"{url} : 401, jeton refusé") from e
|
||||
raise RuntimeError(f"{url} : {e.code} {e.read().decode(errors='replace')[:200]}") from e
|
||||
except (urllib.error.URLError, TimeoutError) as e:
|
||||
raise RuntimeError(f"Ollama injoignable à {url} : {getattr(e, 'reason', e)}") from e
|
||||
raise RuntimeError(f"service d'embeddings injoignable à {url} : {getattr(e, 'reason', e)}") from e
|
||||
|
||||
|
||||
def verifier(base_url: str) -> str:
|
||||
"""Rend « OK bge-m3:567m, 1024 dimensions » ; lève RuntimeError avec ce qui manque."""
|
||||
def verifier(base_url: str, jeton: str) -> str:
|
||||
"""Rend « OK bge-m3:567m, 1024 dimensions, jeton exigé » ; lève RuntimeError avec ce qui manque."""
|
||||
base = base_url.rstrip("/")
|
||||
modeles = [m.get("id") for m in _appel(f"{base}/models").get("data") or []]
|
||||
try:
|
||||
_appel(f"{base}/models", None)
|
||||
except JetonRefuse:
|
||||
pass
|
||||
else:
|
||||
raise RuntimeError(f"{base} répond sans jeton : la protection n'est pas active (ancienne image, ou Ollama nu ?)")
|
||||
modeles = [m.get("id") for m in _appel(f"{base}/models", jeton).get("data") or []]
|
||||
if MODELE not in modeles:
|
||||
raise RuntimeError(f"{MODELE} absent de {base}/models (servis : {modeles})")
|
||||
vecteur = _appel(f"{base}/embeddings", {"model": MODELE, "input": "Quelle est l'autonomie de la batterie ?"}
|
||||
vecteur = _appel(f"{base}/embeddings", jeton, {"model": MODELE, "input": "Quelle est l'autonomie de la batterie ?"}
|
||||
)["data"][0]["embedding"]
|
||||
if len(vecteur) != DIMENSION:
|
||||
raise RuntimeError(f"vecteur de {len(vecteur)} dimensions, {DIMENSION} attendues")
|
||||
return f"OK {MODELE}, {DIMENSION} dimensions"
|
||||
return f"OK {MODELE}, {DIMENSION} dimensions, jeton exigé"
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
if len(sys.argv) != 2:
|
||||
sys.exit(__doc__)
|
||||
jeton = lire_jeton()
|
||||
if not jeton:
|
||||
sys.exit(f"ÉCHEC : pas de jeton ({VARIABLE} dans l'environnement ou dans {Path(__file__).with_name('.env')})")
|
||||
try:
|
||||
print(verifier(sys.argv[1]))
|
||||
print(verifier(sys.argv[1], jeton))
|
||||
except RuntimeError as e:
|
||||
sys.exit(f"ÉCHEC : {e}")
|
||||
Reference in new issue
Block a user