Loop renamed events-learner; end benchmark on the same events; spec reduced to the why (D-092)
- /boucle becomes /events-learner: skill and scripts in .claude/skills/events-learner/, sessions in events-learner/, spec vues-deplacements/contexte/events-learner.md, end page out/events-learner_<session>.html, commits "Learn <STATION> ..."; history keeps /boucle, the review page reads both. - No benchmark-fin.txt: the end benchmark is the last kept modification's, on the same events as the start. - The spec keeps only the why; the how lives in the skill and agents. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
1 parent
79d83be3ff
commit
3b732adc52
169 files changed
+231
-288
No files matched your search
@@ -0,0 +1,138 @@
|
||||
"""Page de fin de séance de /events-learner : la lecture de l'analyste face aux détecteurs, sur toute la plage de la séance.
|
||||
|
||||
La page de detecteurs.py (images de la caméra, timelapse d'un événement au clic, pose de la caméra, corr_x et corr_y de
|
||||
chaque capteur en couleur, ligne « Error rate »), chaque ligne de catégorie dédoublée : en haut les moments de l'analyste
|
||||
(etiquettes.json des lots de la séance), en bas les événements des détecteurs tels qu'ils sont (la plage classée avec ses
|
||||
3 jours d'historique, comme le score). En dernier, en gris, les moments « aucune » de l'analyste : vus, mais hors des
|
||||
catégories du journal (sans effet sur les courbes le plus souvent, ou une nouveauté). Sous la figure, la liste des
|
||||
événements des détecteurs, le score de la séance (score.py sur ses seules étiquettes) et le benchmark. Faire coïncider
|
||||
les deux barres de chaque ligne, séance après séance, c'est le but de la boucle.
|
||||
Usage : python3 .claude/skills/events-learner/comparaison.py <dossier de station> <dossier de séance>
|
||||
(page : out/events-learner_<séance>.html, ouverte dans le navigateur)
|
||||
"""
|
||||
import contextlib
|
||||
import glob
|
||||
import html
|
||||
import io
|
||||
import json
|
||||
import os
|
||||
import statistics
|
||||
import sys
|
||||
import textwrap
|
||||
|
||||
sys.path.insert(0, os.path.join(os.path.dirname(os.path.abspath(__file__)), "..", "..", "..", "src"))
|
||||
from common.page import ROOT, open_served # noqa: E402 (bascule seule sur .venv si plotly manque)
|
||||
import plotly.graph_objects as go # noqa: E402
|
||||
from plotly.subplots import make_subplots # noqa: E402
|
||||
import score # noqa: E402 (détecteurs, chargement et score ; met detectors/ et les outils sur le chemin)
|
||||
import benchmark # noqa: E402 (les détecteurs face aux events de la base, D-069)
|
||||
|
||||
AGENT, SCRIPTS = "#2a78d6", "#eb6834" # palette catégorielle de référence, slots 1 et 2 (skill dataviz)
|
||||
HORS, GRIS = "hors catégorie", "#a3a29c" # moments « aucune » de l'analyste : aucun détecteur ne peut les rejoindre
|
||||
# du vert au rouge (demande de l'utilisateur, 2026-10-27) : couleurs d'état de la palette de référence (skill dataviz)
|
||||
VERT_ROUGE = ["#0ca30c", "#fab219", "#ec835a", "#d03b3b"]
|
||||
|
||||
|
||||
def taux_erreur(mesures, a, b):
|
||||
"""Ligne « Error rate » : à chaque instant de [a, b), l'error_value moyenne de tous les capteurs, du vert au rouge sur
|
||||
une échelle fixe de 0 à 1, avec sa barre de couleur. Dans sa propre rangée : une heatmap sur les axes des barres fait
|
||||
planter plotly.js 4.1.1."""
|
||||
par_t = {}
|
||||
for ms in mesures.values():
|
||||
for m in ms:
|
||||
if a <= m["t"] < b and m["error_value"] is not None:
|
||||
par_t.setdefault(m["t"], []).append((m["error_value"], m["error_threshold"]))
|
||||
erreurs = sorted(par_t.items())
|
||||
return go.Heatmap(
|
||||
x=[t for t, _ in erreurs], y=["Error rate"], z=[[statistics.mean(e for e, _ in v) for _, v in erreurs]],
|
||||
text=[[f"{len(v)} capteurs, {sum(1 for e, th in v if th is not None and e > th)} rejetés" for _, v in erreurs]],
|
||||
zmin=0, zmax=1, colorscale=[[i / (len(VERT_ROUGE) - 1), c] for i, c in enumerate(VERT_ROUGE)],
|
||||
colorbar={"title": {"text": "Error rate", "side": "right"}, "thickness": 12, "len": 0.3, "y": 0, "yanchor": "bottom"},
|
||||
hovertemplate="%{x|%Y-%m-%d %H:%M} UTC<br>error_value moyenne : %{z:.3f}<br>%{text}<extra></extra>")
|
||||
|
||||
|
||||
def survol(titre, debut, fin, capteurs, *lignes):
|
||||
return "<br>".join([f"<b>{titre}</b>", f"{debut} → {fin}", f"capteurs : {', '.join(capteurs) or 'tous'}",
|
||||
*("<br>".join(textwrap.wrap(x, 90)) for x in lignes if x)])
|
||||
|
||||
|
||||
def barres(nom, couleur, spans, pas, rang, groupe):
|
||||
"""[(début, fin, catégorie, survol)] -> barres horizontales, de la première mesure à la dernière plus un pas ; même
|
||||
groupe : même place dans la ligne."""
|
||||
debuts = [score.instant(s[0]) for s in spans]
|
||||
return go.Bar(name=nom, orientation="h", y=[s[2] for s in spans], base=debuts, marker_color=couleur, legendrank=rang,
|
||||
offsetgroup=groupe,
|
||||
x=[(score.instant(s[1]) + pas - d).total_seconds() * 1000 for s, d in zip(spans, debuts)],
|
||||
hovertext=[s[3] for s in spans], hoverinfo="text")
|
||||
|
||||
|
||||
NIVEAUX = {"à ignorer": "Toutes les zones à ignorer", "prudence": "Toutes les zones à lire avec prudence"}
|
||||
|
||||
|
||||
def tableau(total, ordre, titre="Catégorie"):
|
||||
"""{clé: [mesures de l'analyste, des détecteurs, des deux]} (score.lots) -> table HTML : les catégories, puis les
|
||||
deux niveaux de validité."""
|
||||
def part(a, b):
|
||||
return f"{round(100 * a / b)} %<small> ({a} sur {b})</small>" if b else "—"
|
||||
cles = [*(c for c in ordre if c in total), *sorted(set(total) - set(ordre) - set(NIVEAUX)), *(k for k in NIVEAUX if k in total)]
|
||||
lignes = "".join(f"<tr{' class=niveau' if k in NIVEAUX else ''}><td>{NIVEAUX.get(k, k)}</td><td>{total[k][0]}</td>"
|
||||
f"<td>{total[k][1]}</td><td>{part(total[k][2], total[k][0])}</td><td>{part(total[k][2], total[k][1])}</td></tr>"
|
||||
for k in cles)
|
||||
return (f"<table><tr><th>{titre}</th><th>Vues par l'analyste</th><th>Signalées par les détecteurs</th>"
|
||||
"<th>Trouvées</th><th>Confirmées</th></tr>" + lignes + "</table>")
|
||||
|
||||
|
||||
def page(dossier, seance):
|
||||
"""La page de detecteurs.py sur la plage de la séance (images, timelapse, pose de la caméra, capteurs en couleur),
|
||||
plus les moments de l'analyste, le score de la séance et le benchmark."""
|
||||
import detecteurs # ici : detecteurs importe ce module
|
||||
chemins = sorted(glob.glob(os.path.join(seance, "lot-*", "etiquettes.json")))
|
||||
if not chemins:
|
||||
sys.exit(f"{seance} : aucun lot-*/etiquettes.json")
|
||||
lots = []
|
||||
for c in chemins:
|
||||
with open(c, encoding="utf-8") as f:
|
||||
lots.append(json.load(f))
|
||||
debut, fin = min(x["debut"] for x in lots), max(x["fin"] for x in lots)
|
||||
agent = [(m["debut"], m["fin"], c := HORS if m["categorie"] == "aucune" else m["categorie"],
|
||||
survol(f"Analyste : {c}", m["debut"], m["fin"], m["capteurs"],
|
||||
f"{m['evenement'] or '—'} ({m['preuve']})", m["description"]))
|
||||
for x in lots for m in x["moments"]]
|
||||
|
||||
with contextlib.redirect_stdout(io.StringIO()): # le détail par lot : lot-NN/score-avant.txt et score-fin.txt
|
||||
total = score.lots(dossier, chemins, True)
|
||||
events, _ = benchmark.mesurer()
|
||||
bench = {c: n[benchmark.TOUTES] for c, n in events.items()}
|
||||
ordre = [*score.categories.CATEGORIES, HORS]
|
||||
nom = os.path.basename(os.path.normpath(seance))
|
||||
entete = f"""<h1>Séance {html.escape(nom)}</h1>
|
||||
<p>Dessous les courbes, chaque ligne est une catégorie du journal : la barre du haut est la lecture de l'analyste
|
||||
(étiquettes des {len(lots)} lot(s) de la séance), celle du bas, les événements des détecteurs dans leur état de fin de
|
||||
séance. En dernier, en gris, ce que l'analyste a vu hors des catégories du journal : sans effet sur les courbes le plus
|
||||
souvent, ou une nouveauté ; aucun détecteur ne peut le rejoindre. Survol : capteurs, preuve, description ; un clic sur une
|
||||
barre, de l'analyste ou des détecteurs, joue son timelapse. Le but de la boucle : que les deux barres de chaque ligne coïncident.</p>"""
|
||||
annexe = f"""<style>td small{{color:#8a8984}} tr.niveau td{{color:#5f5e5a;font-style:italic}}</style>
|
||||
<h3>Score de la séance</h3>
|
||||
<p>On compte des mesures : une mesure, c'est un capteur à un instant.
|
||||
<b>Trouvées</b> : de ce que l'analyste range dans la catégorie, la part que les détecteurs signalent aussi ; le reste, ils
|
||||
l'ont raté. <b>Confirmées</b> : de ce que signalent les détecteurs, la part que l'analyste range aussi dans la catégorie ;
|
||||
le reste, ce sont des alertes en trop, ou un oubli de l'analyste. Le but : 100 % dans les deux colonnes ; « — » : rien à
|
||||
compter. Les moments hors catégorie ne comptent pas, ni les trous (pas de mesure). En italique, les catégories regroupées comme sur la page du client : zones grisées, et zones
|
||||
de prudence (visibilité réduite, turbulence).</p>
|
||||
{tableau(total, ordre)}
|
||||
<h3>Benchmark sur la base d'events</h3>
|
||||
<p>Les mêmes détecteurs, face au diagnostic gardé dans chaque event de la base à sa création (ses étiquettes), toutes
|
||||
catégories ensemble. Il garde les détecteurs d'un recul ; il n'est pas un but. Le détail par catégorie :
|
||||
<code>python3 .claude/skills/events-learner/benchmark.py</code> ; dans le temps : <code>{os.path.relpath(benchmark.HISTORIQUE, ROOT)}</code>
|
||||
(version {benchmark.version()}).</p>
|
||||
{tableau(bench, list(bench), "Event")}"""
|
||||
return detecteurs.page(dossier, debut, fin, entete=entete, annexe=annexe, analyste=agent,
|
||||
chemin=os.path.join(ROOT, "out", f"events-learner_{nom}.html"))
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
if len(sys.argv) != 3:
|
||||
sys.exit(__doc__)
|
||||
p = page(sys.argv[1], sys.argv[2])
|
||||
print(p)
|
||||
open_served(p)
|
||||
Reference in new issue
Block a user