Add the loop's end-of-session page and a detector benchmark on the case base
- End-of-session page for /boucle: the session's curves, the analyst's labels against the detectors' events per category, a plain score table and the benchmark (comparaison.py, D-066) - Detectors moved to vues-deplacements/detectors/ (D-067) - Detectors must detect everything; what the client sees is a separate layer (D-068) - Benchmark: each case keeps its labels from creation (etiquettes.json), benchmark.py scores the detectors on every case, history in vues-deplacements/benchmark/historique.csv; run by /boucle at each lot, after each change and at the end, read by the upgrader and validator; labels for C-001..C-005 from one analyst pass corrected by their files, C-006..C-008 from lot 01 (D-069) - Fixes from the releveur's notes: /boucle arguments and other sessions, branch name in the spec, detector name in categories.py output, learned case header, anonymiser.py (camera/, no empty CSVs, --etiquettes), ensemble.py (clock-aligned steps, title), plages.py (same-sign merge), labeling request written into /nouveau-cas - Also carries the other session's uncommitted D-065 edits in the same files; data/, .gitignore, pomper.py and stations.py are left out Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
1 parent
6b3d058a67
commit
d5bae7a696
57 files changed
+1727
-157
No files matched your search
@@ -0,0 +1,93 @@
|
||||
"""Benchmark des détecteurs sur la base de cas (point 48 du plan du journal du matin, D-069).
|
||||
|
||||
Chaque cas d'agents/diagnostic/cas/ qui a son etiquettes.json (le diagnostic de l'analyste, figé à la création du cas) :
|
||||
les détecteurs tels qu'ils sont, face à ces étiquettes, mesure par mesure et capteur par capteur (score.py, D-062).
|
||||
Un calcul seulement, sans agent. Par cas, puis au total, et par catégorie : « trouvées » (part des mesures étiquetées
|
||||
que les détecteurs signalent) et « justes » (part des mesures signalées que l'analyste a étiquetées) ; « toutes »
|
||||
somme les catégories (pas les deux niveaux de validité, qui les regroupent). Le benchmark garde les détecteurs
|
||||
d'un recul : il n'est pas un but (sur une dizaine de cas, les détecteurs se régleraient sur eux).
|
||||
Avec --etape, chaque ligne entre dans l'historique, vues-deplacements/benchmark/historique.csv, avec la version des
|
||||
détecteurs (le commit, suivi de « + » si vues-deplacements/detectors/ a des changements non commités) : le score
|
||||
dans le temps, version par version.
|
||||
Usage : python3 .claude/skills/boucle/benchmark.py [--seance <séance> --etape <étape>]
|
||||
"""
|
||||
import argparse
|
||||
import contextlib
|
||||
import csv
|
||||
import glob
|
||||
import io
|
||||
import os
|
||||
import subprocess
|
||||
import sys
|
||||
from datetime import datetime, timezone
|
||||
|
||||
ICI = os.path.dirname(os.path.abspath(__file__))
|
||||
sys.path.insert(0, ICI)
|
||||
import score # noqa: E402
|
||||
|
||||
RACINE = os.path.normpath(os.path.join(ICI, "..", "..", ".."))
|
||||
HISTORIQUE = os.path.join(RACINE, "vues-deplacements", "benchmark", "historique.csv")
|
||||
TOUTES = "toutes"
|
||||
|
||||
|
||||
def version():
|
||||
def git(*a):
|
||||
return subprocess.run(["git", "-C", RACINE, *a], capture_output=True, text=True).stdout.strip()
|
||||
return git("rev-parse", "--short", "HEAD") + ("+" if git("status", "--porcelain", "--", "vues-deplacements/detectors") else "")
|
||||
|
||||
|
||||
def mesurer():
|
||||
"""-> ({cas: {clé: [étiquetées, signalées, les deux]}}, [cas sautés et pourquoi]) ; le total sous « total »."""
|
||||
res, sautes = {}, []
|
||||
for chemin in sorted(glob.glob(os.path.join(RACINE, "agents", "diagnostic", "cas", "C-*", "etiquettes.json"))):
|
||||
cas = os.path.dirname(chemin)
|
||||
sortie = io.StringIO()
|
||||
with contextlib.redirect_stdout(sortie):
|
||||
n = score.lots(cas, [chemin], True)
|
||||
if "sauté" in sortie.getvalue():
|
||||
sautes.append(sortie.getvalue().strip())
|
||||
continue
|
||||
n[TOUTES] = [sum(v[i] for k, v in n.items() if k not in score.NIVEAUX) for i in range(3)]
|
||||
res[os.path.basename(cas)] = n
|
||||
total = {}
|
||||
for n in res.values():
|
||||
for k, v in n.items():
|
||||
total[k] = [a + b for a, b in zip(total.get(k, [0, 0, 0]), v)]
|
||||
if res:
|
||||
res["total"] = total
|
||||
return res, sautes
|
||||
|
||||
|
||||
def afficher(res, sautes, ver):
|
||||
print(f"Benchmark des détecteurs (version {ver}) sur {len(res) - 1 if res else 0} cas, mesure par mesure")
|
||||
print(f"{'cas':8}{'catégorie':24}{'trouvées':>20}{'justes':>20}")
|
||||
for cas, n in res.items():
|
||||
for i, k in enumerate([TOUTES, *sorted(k for k in n if k != TOUTES)]):
|
||||
lab, sig, both = n[k]
|
||||
print(f"{cas if i == 0 else '':8}{k:24}{score.pct(both, lab):>20}{score.pct(both, sig):>20}")
|
||||
for s in sautes:
|
||||
print(s)
|
||||
|
||||
|
||||
def historiser(res, ver, seance, etape):
|
||||
os.makedirs(os.path.dirname(HISTORIQUE), exist_ok=True)
|
||||
neuf = not os.path.exists(HISTORIQUE)
|
||||
date = datetime.now(timezone.utc).strftime("%Y-%m-%dT%H:%MZ")
|
||||
with open(HISTORIQUE, "a", newline="", encoding="utf-8") as f:
|
||||
w = csv.writer(f)
|
||||
if neuf:
|
||||
w.writerow(("date", "seance", "etape", "version", "cas", "categorie", "etiquetees", "signalees", "les_deux"))
|
||||
w.writerows((date, seance, etape, ver, cas, k, *v) for cas, n in res.items() for k, v in sorted(n.items()))
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
p = argparse.ArgumentParser(usage=__doc__)
|
||||
p.add_argument("--seance", default="—")
|
||||
p.add_argument("--etape", help="écrit les lignes dans l'historique sous cette étape (« lot-01 avant »…)")
|
||||
a = p.parse_args()
|
||||
res, sautes = mesurer()
|
||||
ver = version()
|
||||
afficher(res, sautes, ver)
|
||||
if a.etape:
|
||||
historiser(res, ver, a.seance, a.etape)
|
||||
print(f"historique : {os.path.relpath(HISTORIQUE, RACINE)}")
|
||||
Reference in new issue
Block a user