Detector-learner: regression.py is the global benchmark on all the labeler's labels, with its history (detector-learner/historique.csv) to compare sessions
Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
1 parent
7fcc7264d3
commit
dbff2b947a
2 files changed
+104
-9
No files matched your search
@@ -1,11 +1,15 @@
|
||||
"""Non-régression de /detector-learner (D-116) : les détecteurs face aux étiquettes de l'étiqueteur des autres stations.
|
||||
|
||||
Pour chaque station de labeling/auto/ (sauf celle de la séance, --sauf) qui a son dossier dans data/, le score par
|
||||
famille et par instant de score.py (D-112), sur la plage de ses étiquettes : du jour de la première à minuit après la
|
||||
dernière. Puis le total, famille par famille. Il tient lieu du benchmark sur la base d'events : une famille qui recule
|
||||
sur une station est un recul, même si le total monte.
|
||||
Usage : python3 .claude/skills/detector-learner/regression.py [--sauf STATION]
|
||||
Pour chaque station de labeling/auto/ (sauf --sauf) qui a son dossier dans data/, le score par famille et par instant
|
||||
de score.py (D-112), sur la plage de ses étiquettes : du jour de la première à minuit après la dernière. Puis le total,
|
||||
famille par famille : le benchmark de /detector-learner, sur toutes les étiquettes de l'étiqueteur, qui dit si les
|
||||
détecteurs font globalement mieux d'une séance à l'autre. Une famille qui recule sur une station est un recul, même si
|
||||
le total monte. Avec --etape, chaque ligne (stations et Total) entre dans l'historique, detector-learner/historique.csv,
|
||||
avec la version des détecteurs (benchmark.version()).
|
||||
Usage : python3 .claude/skills/detector-learner/regression.py [--sauf STATION] [--seance <séance> --etape <étape>]
|
||||
"""
|
||||
import argparse
|
||||
import csv
|
||||
import glob
|
||||
import json
|
||||
import os
|
||||
@@ -13,8 +17,11 @@ import sys
|
||||
|
||||
RACINE = os.path.join(os.path.dirname(os.path.abspath(__file__)), "..", "..", "..")
|
||||
sys.path.insert(0, os.path.join(RACINE, ".claude", "skills", "events-learner"))
|
||||
import benchmark # noqa: E402
|
||||
import score # noqa: E402
|
||||
|
||||
HISTORIQUE = os.path.join(RACINE, "detector-learner", "historique.csv")
|
||||
|
||||
|
||||
def plage(chemin):
|
||||
"""labeling/auto/<STATION>.jsonl -> (début, fin) iso, en jours entiers UTC, fin exclue."""
|
||||
@@ -27,10 +34,13 @@ def plage(chemin):
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
if sys.argv[1:] and sys.argv[1:2] != ["--sauf"]:
|
||||
sys.exit(__doc__)
|
||||
sauf = sys.argv[2].upper() if len(sys.argv) > 2 else None
|
||||
total = {}
|
||||
p = argparse.ArgumentParser(usage=__doc__)
|
||||
p.add_argument("--sauf")
|
||||
p.add_argument("--seance", default="")
|
||||
p.add_argument("--etape")
|
||||
a = p.parse_args()
|
||||
sauf = a.sauf.upper() if a.sauf else None
|
||||
total, res = {}, {}
|
||||
for chemin in sorted(glob.glob(os.path.join(RACINE, "labeling", "auto", "*.jsonl"))):
|
||||
station = os.path.basename(chemin)[:-len(".jsonl")]
|
||||
dossier = os.path.join(RACINE, "data", station)
|
||||
@@ -43,6 +53,18 @@ if __name__ == "__main__":
|
||||
n, etiq = score.familles_lot(dossier, du, au)
|
||||
score.afficher(f"{station} : {du} → {au}, {len(etiq)} étiquettes", n)
|
||||
print()
|
||||
res[station] = n
|
||||
for k, v in n.items():
|
||||
total[k] = [a + b for a, b in zip(total.get(k, [0, 0, 0]), v)]
|
||||
score.afficher("Total", total)
|
||||
if a.etape:
|
||||
res["Total"] = total
|
||||
os.makedirs(os.path.dirname(HISTORIQUE), exist_ok=True)
|
||||
neuf = not os.path.exists(HISTORIQUE)
|
||||
date, ver = benchmark.datetime.now(benchmark.timezone.utc).strftime("%Y-%m-%dT%H:%MZ"), benchmark.version()
|
||||
with open(HISTORIQUE, "a", newline="", encoding="utf-8") as f:
|
||||
w = csv.writer(f)
|
||||
if neuf:
|
||||
w.writerow(("date", "seance", "etape", "version", "station", "famille", "etiquetees", "signalees", "les_deux"))
|
||||
w.writerows((date, a.seance, a.etape, ver, st, k, *v) for st, n in res.items() for k, v in sorted(n.items()))
|
||||
print(f"\nhistorique : {os.path.relpath(HISTORIQUE, RACINE)} (version {ver})")
|
||||
Reference in new issue
Block a user