L'image ollama-bge-m3 devient embeddings-bge-m3 (image et conteneur), avec une description OCI pour la page du paquet dans Gitea. Caddy 2.10.2, devant Ollama, ne laisse passer que les requêtes qui portent « Authorization: Bearer <EMBEDDINGS_JETON> » (la « API key » des embeddings dans LibreDesk) ; Ollama n'écoute plus que dans le conteneur (127.0.0.1:11435). Le jeton est donné au lancement (ollama/.env, hors de git), jamais rangé dans l'image publique ; sans jeton valable, le conteneur refuse de démarrer. verifier_ollama.py lit le jeton à côté de lui et vérifie aussi qu'une requête sans jeton est refusée ; 3_brancher_ia.py le donne à l'instance de test. Essais réels hors ligne et gestes de production (points 1 ter, 6 bis) dans docs/. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
46 lines
2.8 KiB
Docker
46 lines
2.8 KiB
Docker
# embeddings-bge-m3 : un service d'embeddings (bge-m3, 1024 dimensions, format OpenAI) protégé par un jeton.
|
|
# Ollama avec bge-m3 embarqué : l'image démarre sans rien télécharger, et c'est le même modèle partout.
|
|
# Devant Ollama, Caddy exige « Authorization: Bearer <EMBEDDINGS_JETON> » (Caddyfile, demarrer.sh).
|
|
# Versions figées (Ollama 2026-11-12, Caddy 2026-11-18) ; les changer = reconstruire et revérifier
|
|
# (ollama/verifier_ollama.py).
|
|
|
|
# 1. Le modèle, téléchargé à la construction par l'image officielle (un serveur lancé le temps du pull) ;
|
|
# puis les bibliothèques GPU retirées (4,4 Go de CUDA) : bge-m3 tourne sur processeur.
|
|
FROM ollama/ollama:0.40.16 AS source
|
|
RUN ollama serve >/tmp/serve.log 2>&1 & \
|
|
for i in $(seq 30); do ollama list >/dev/null 2>&1 && break; sleep 1; done && \
|
|
ollama pull bge-m3:567m && \
|
|
ollama list | grep -q 'bge-m3:567m' && \
|
|
rm -rf /usr/lib/ollama/cuda_v12 /usr/lib/ollama/cuda_v13 /usr/lib/ollama/mlx_cuda_v13 \
|
|
/usr/lib/ollama/vulkan /usr/lib/ollama/include
|
|
|
|
# 2. Le portier : Caddy, un seul binaire statique, pris dans l'image officielle.
|
|
FROM caddy:2.10.2-alpine AS portier
|
|
|
|
# 3. L'image livrée : la même Ubuntu 24.04 que l'image officielle d'Ollama, Ollama, ses bibliothèques processeur,
|
|
# le modèle, et Caddy.
|
|
FROM ubuntu:noble-20261024.1
|
|
LABEL org.opencontainers.image.title="embeddings-bge-m3" \
|
|
org.opencontainers.image.description="Service d'embeddings bge-m3:567m (1024 dimensions), API OpenAI /v1/embeddings, sur processeur, hors ligne, protégé par un jeton (EMBEDDINGS_JETON). Pour la recherche dans la base de connaissances de LibreDesk." \
|
|
org.opencontainers.image.source="https://exchange.sensima.ch/maxime.pasquier/aimsight-libredesk" \
|
|
org.opencontainers.image.version="0.40.16-567m"
|
|
COPY --from=source /usr/bin/ollama /usr/bin/ollama
|
|
COPY --from=source /usr/lib/ollama /usr/lib/ollama
|
|
# Seulement les modèles : la clé d'identité (id_ed25519) créée par le serveur du pull reste dans l'étape 1 ;
|
|
# chaque conteneur génère la sienne au premier démarrage.
|
|
COPY --from=source /root/.ollama/models /root/.ollama/models
|
|
COPY --from=portier /usr/bin/caddy /usr/bin/caddy
|
|
COPY Caddyfile /etc/caddy/Caddyfile
|
|
COPY demarrer.sh /usr/local/bin/demarrer.sh
|
|
|
|
# Ollama n'écoute que dans le conteneur (127.0.0.1:11435) ; seul Caddy (11434) est joignable de l'extérieur, et
|
|
# c'est le compose qui choisit où ce port est publié.
|
|
# KEEP_ALIVE=-1 : le modèle reste chargé, le premier brouillon de la journée ne paie pas le chargement.
|
|
# NO_CLOUD=1 : aucun appel à ollama.com (recommandations, modèles en ligne) ; tout est local.
|
|
ENV OLLAMA_HOST=127.0.0.1:11435 \
|
|
OLLAMA_KEEP_ALIVE=-1 \
|
|
OLLAMA_NO_CLOUD=1
|
|
EXPOSE 11434
|
|
HEALTHCHECK --interval=30s --timeout=10s --start-period=20s --retries=3 CMD ["ollama", "list"]
|
|
ENTRYPOINT ["/bin/bash", "/usr/local/bin/demarrer.sh"]
|