Detector-learner: regression.py is the global benchmark on all the labeler's labels, with its history (detector-learner/historique.csv) to compare sessions

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
maximeandClaude Opus 5.5 committed 2026-11-03 14:01:32 +01:00
1 parent 7fcc7264d3
commit dbff2b947a
2 files changed
+104 -9

No files matched your search

+31 -9
View File
@@ -1,11 +1,15 @@
"""Non-régression de /detector-learner (D-116) : les détecteurs face aux étiquettes de l'étiqueteur des autres stations.
Pour chaque station de labeling/auto/ (sauf celle de la séance, --sauf) qui a son dossier dans data/, le score par
famille et par instant de score.py (D-112), sur la plage de ses étiquettes : du jour de la première à minuit après la
dernière. Puis le total, famille par famille. Il tient lieu du benchmark sur la base d'events : une famille qui recule
sur une station est un recul, même si le total monte.
Usage : python3 .claude/skills/detector-learner/regression.py [--sauf STATION]
Pour chaque station de labeling/auto/ (sauf --sauf) qui a son dossier dans data/, le score par famille et par instant
de score.py (D-112), sur la plage de ses étiquettes : du jour de la première à minuit après la dernière. Puis le total,
famille par famille : le benchmark de /detector-learner, sur toutes les étiquettes de l'étiqueteur, qui dit si les
détecteurs font globalement mieux d'une séance à l'autre. Une famille qui recule sur une station est un recul, même si
le total monte. Avec --etape, chaque ligne (stations et Total) entre dans l'historique, detector-learner/historique.csv,
avec la version des détecteurs (benchmark.version()).
Usage : python3 .claude/skills/detector-learner/regression.py [--sauf STATION] [--seance <séance> --etape <étape>]
"""
import argparse
import csv
import glob
import json
import os
@@ -13,8 +17,11 @@ import sys
RACINE = os.path.join(os.path.dirname(os.path.abspath(__file__)), "..", "..", "..")
sys.path.insert(0, os.path.join(RACINE, ".claude", "skills", "events-learner"))
import benchmark # noqa: E402
import score # noqa: E402
HISTORIQUE = os.path.join(RACINE, "detector-learner", "historique.csv")
def plage(chemin):
"""labeling/auto/<STATION>.jsonl -> (début, fin) iso, en jours entiers UTC, fin exclue."""
@@ -27,10 +34,13 @@ def plage(chemin):
if __name__ == "__main__":
if sys.argv[1:] and sys.argv[1:2] != ["--sauf"]:
sys.exit(__doc__)
sauf = sys.argv[2].upper() if len(sys.argv) > 2 else None
total = {}
p = argparse.ArgumentParser(usage=__doc__)
p.add_argument("--sauf")
p.add_argument("--seance", default="")
p.add_argument("--etape")
a = p.parse_args()
sauf = a.sauf.upper() if a.sauf else None
total, res = {}, {}
for chemin in sorted(glob.glob(os.path.join(RACINE, "labeling", "auto", "*.jsonl"))):
station = os.path.basename(chemin)[:-len(".jsonl")]
dossier = os.path.join(RACINE, "data", station)
@@ -43,6 +53,18 @@ if __name__ == "__main__":
n, etiq = score.familles_lot(dossier, du, au)
score.afficher(f"{station} : {du} → {au}, {len(etiq)} étiquettes", n)
print()
res[station] = n
for k, v in n.items():
total[k] = [a + b for a, b in zip(total.get(k, [0, 0, 0]), v)]
score.afficher("Total", total)
if a.etape:
res["Total"] = total
os.makedirs(os.path.dirname(HISTORIQUE), exist_ok=True)
neuf = not os.path.exists(HISTORIQUE)
date, ver = benchmark.datetime.now(benchmark.timezone.utc).strftime("%Y-%m-%dT%H:%MZ"), benchmark.version()
with open(HISTORIQUE, "a", newline="", encoding="utf-8") as f:
w = csv.writer(f)
if neuf:
w.writerow(("date", "seance", "etape", "version", "station", "famille", "etiquetees", "signalees", "les_deux"))
w.writerows((date, a.seance, a.etape, ver, st, k, *v) for st, n in res.items() for k, v in sorted(n.items()))
print(f"\nhistorique : {os.path.relpath(HISTORIQUE, RACINE)} (version {ver})")