Plan de construction du labeler (5 tâches), validé, à exécuter

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
maximeandClaude Opus 5.5 committed 2026-11-14 15:44:01 +01:00
1 parent 65acde61c2
commit 1f32cf8198
1 file changed
+257
@@ -0,0 +1,257 @@
# Le labeler : plan de construction
> **For agentic workers:** REQUIRED SUB-SKILL: Use superpowers:subagent-driven-development (recommended) or superpowers:executing-plans to implement this plan task-by-task. Steps use checkbox (`- [ ]`) syntax for tracking.
**Goal :** un agent `labeler` qui étiquette un jour UTC station par station, à faible effort, et verse ses étiquettes
dans `auto/<STATION>.jsonl` avec `"source": "labeler"`, écartées de la vérité tant qu'elles ne sont pas relues.
**Architecture :** `labeler.py` (bibliothèque standard) tire les événements des détecteurs du jour, lance
`claude -p --agent labeler` par station, contrôle puis verse ses étiquettes. Trois garde-fous lisent le champ `source` :
`controle.py`, `precedents.py`, et `score.read_labels` dans le dépôt `~/detectors`.
**Tech Stack :** Python 3, bibliothèque standard ; Claude Code (`claude -p`) sur l'abonnement ; les outils de lecture de
Diagnostic-App par des liens.
**Spec :** `docs/superpowers/specs/2026-11-14-labeler-design.md`
## Global Constraints
- Bibliothèque standard pour `labeler.py` ; matplotlib et PIL seulement par `.venv/bin/python` (les outils de lecture).
- `claude -p` sans `ANTHROPIC_API_KEY` ni `ANTHROPIC_AUTH_TOKEN` ; arrêt si `apiKeySource` ≠ `none`.
- Toute heure en UTC, format `AAAA-MM-JJTHH:MMZ`.
- Une étiquette `"source": "labeler"` sans `revue` n'est pas une vérité ; avec `revue`, elle compte comme les autres.
- Le labeler n'écrit jamais dans `manual/` ; ne modifie jamais une étiquette relue, de l'expert ou d'une analyse.
- Pas de règle propre à une station, une cible ou une date ; lecture seule sur `data/`.
- Commits par chemin, jamais `git add -A` ; langue : français (le dépôt `detectors` en anglais).
- Pas de test framework : chaque script garde son contrôle `--check` à `assert` (comme `precedents.py --check`).
## Review Focus
1. **Reverser un lot** (relancer après un plantage, ou après avoir supprimé le dossier) : les étiquettes du lot sont
remplacées, jamais doublées ; une étiquette du lot relue entre-temps reste. → Tâche 4, `check()`.
2. **Une prolongation qui vise une étiquette interdite** (relue, d'une analyse, id inconnu) : refusée avec un message,
rien n'est versé pour la station. → Tâche 4, `check()`.
3. **Une station sans mesure ce jour-là** : sautée et nommée, pas de séance `claude`. → Tâche 4, `check()` sur
`a_des_mesures`.
4. **Un fichier `auto/<STATION>.jsonl` absent** (station nouvelle) : le versement le crée. → Tâche 4, `check()`.
5. **`controle.py` rouge sur le fichier proposé** : rien n'est versé, le lot n'est pas marqué fait, le message le dit.
→ Tâche 4, `main` (vérifié à la tâche 5).
---
### Tâche 1 : `controle.py` n'exige pas `revue` d'une étiquette du labeler
**Files :**
- Modify : `controle.py:41` (la ligne `manque = …`) et sa docstring (« étiquette sans `revue` », ajouter « sauf
`"source": "labeler"` »)
**Interfaces :**
- Produit : la règle « `revue` exigée sauf si `e.get("source") == "labeler"` », dont dépend le versement (tâche 4).
- [ ] **Étape 1 : écrire le contrôle qui échoue**
```bash
T=$(mktemp -d) && mkdir $T/auto && cp controle.py $T/ && cat > $T/auto/X.jsonl <<'EOF'
{"id": "X-1", "debut": "2026-11-12T01:00Z", "fin": "2026-11-12T02:00Z", "categorie": "Visibility", "description": "a", "source": "labeler", "lot": "2026-11-12"}
{"id": "X-2", "debut": "2026-11-12T03:00Z", "fin": "2026-11-12T04:00Z", "categorie": "Visibility", "description": "b"}
EOF
python3 $T/controle.py X | head -2
```
- [ ] **Étape 2 :** l'exécuter. Attendu aujourd'hui : `2 erreurs` (X#1 et X#2 sans `revue`).
- [ ] **Étape 3 :** changer la ligne `manque` : `{"revue", "id"}` devient `{"id"} | (set() if e.get("source") == "labeler" else {"revue"})`.
- [ ] **Étape 4 :** relancer. Attendu : `1 erreurs`, `X#2 champ manquant : ['revue']` seulement. Puis
`python3 controle.py | head -1` : toujours `18 erreurs`.
- [ ] **Étape 5 : commit** `git commit -m "controle.py : revue non exigée d'une étiquette du labeler" -- controle.py`
---
### Tâche 2 : `precedents.py` écarte par défaut les étiquettes du labeler non relues
`precedents.py`, `README.md` et `.gitignore` ne sont pas encore commités (le RAG, travail en cours de l'utilisateur) :
le commit de cette tâche les ajoute en entier. Le dire à l'utilisateur avant de commiter.
**Files :**
- Modify : `precedents.py` (`provenance`, `chercher`, `check`, `main`, docstring)
**Interfaces :**
- Produit : `provenance(source: str, e: dict) -> str` rend `"labeler, non relue (lot <lot>)"` ou
`"labeler, relue le <revue>"` quand `e.get("source") == "labeler"` ;
`chercher(requete, toutes, vecteurs, q, k=8, famille=None, exclure=None, avec_labeler=False)` ;
option CLI `--avec-labeler`.
- [ ] **Étape 1 : ajouter à `check()`**
```python
assert provenance("auto", {"source": "labeler", "lot": "2026-11-12"}) == "labeler, non relue (lot 2026-11-12)"
assert provenance("auto", {"source": "labeler", "revue": "2026-11-13"}) == "labeler, relue le 2026-11-13"
c = {**e, "station": "U", "categorie": "C", "description": "c", "source": "labeler"}
vec[cle(texte(c))] = [0.0, 1.0]
assert [x["categorie"] for _, x in chercher("", [a, b, c], vec, [0.0, 1.0])] == ["B", "A"]
assert [x["categorie"] for _, x in chercher("", [a, b, c], vec, [0.0, 1.0], avec_labeler=True)] == ["C", "B", "A"]
assert [x["categorie"] for _, x in chercher("", [a, b, {**c, "revue": "2026-11-13"}], vec, [0.0, 1.0])][0] == "C"
```
- [ ] **Étape 2 :** `python3 precedents.py --check` → échoue (`AssertionError` ou `TypeError` sur `avec_labeler`).
- [ ] **Étape 3 :** implémenter : `provenance` teste `source == "labeler"` avant `revue` ; `chercher` écarte
`e.get("source") == "labeler" and not e.get("revue")` sauf `avec_labeler` ; `--avec-labeler` passé par `main` ;
une ligne dans la docstring.
- [ ] **Étape 4 :** `python3 precedents.py --check` → `ok`.
- [ ] **Étape 5 : commit** `git commit -m "precedents.py : le RAG des étiquettes ; celles du labeler non relues écartées par défaut" -- precedents.py README.md .gitignore`
---
### Tâche 3 : `detectors`, `score.read_labels` écarte les étiquettes du labeler non relues
Dans le dépôt `~/detectors` (partagé ; en anglais ; branche courante `main`). `read_labels` est la seule entrée de
`score.py` et `regression.py`.
**Files :**
- Modify : `~/detectors/skills/wf-improve/scripts/score.py:44-50` (`read_labels`, sa docstring)
- Modify : `~/detectors/CLAUDE.md` (une ligne : les étiquettes `"source": "labeler"` sans `revue` ne comptent pas)
**Interfaces :**
- Produit : `read_labels(path, start=None, end=None) -> list[dict]` sans les lignes `source == "labeler"` sans `revue`.
- [ ] **Étape 1 : écrire le contrôle qui échoue**
```bash
cd ~/detectors && T=$(mktemp) && printf '%s\n' \
'{"debut": "2026-11-12T01:00Z", "fin": "2026-11-12T02:00Z", "categorie": "Visibility", "description": "a", "source": "labeler"}' \
'{"debut": "2026-11-12T01:00Z", "fin": "2026-11-12T02:00Z", "categorie": "Visibility", "description": "b", "source": "labeler", "revue": "2026-11-13"}' \
'{"debut": "2026-11-12T01:00Z", "fin": "2026-11-12T02:00Z", "categorie": "Visibility", "description": "c"}' > $T && \
python3 -c "import sys; sys.path.insert(0, 'skills/wf-improve/scripts'); import score; print(sorted(e['description'] for e in score.read_labels('$T')))"
```
- [ ] **Étape 2 :** l'exécuter. Attendu aujourd'hui : `['a', 'b', 'c']`.
- [ ] **Étape 3 :** ajouter la condition au filtre de `read_labels` ; une ligne dans `CLAUDE.md`.
- [ ] **Étape 4 :** relancer → `['b', 'c']`.
- [ ] **Étape 5 : commit** dans `~/detectors` :
`git commit -m "score.read_labels: skip unreviewed labeler labels (source labeler, no revue)" -- skills/wf-improve/scripts/score.py CLAUDE.md`
---
### Tâche 4 : `labeler.py`, le lot sans l'agent
**Files :**
- Create : `labeler.py`
- Modify : `.gitignore` (`data`, `detectors`, `agent-tools`, `.venv`, `.claude/skills/lire-les-donnees`,
`auto/lots/*/*/travail/`, `auto/lots/*/*/seance.jsonl`)
- Liens (hors de git) : `data -> ~/aimsight-data/data`, `detectors -> ~/detectors`,
`agent-tools -> ~/Diagnostic-App/agent-tools`, `.venv -> ~/Diagnostic-App/.venv`,
`.claude/skills/lire-les-donnees -> ~/Diagnostic-App/.claude/skills/lire-les-donnees`
**Interfaces :**
- Consomme : `ids.attribuer(station, etiquettes, retires=()) -> int` ; `controle.py <fichier.jsonl>` (code de sortie 0
= sans erreur) ; `detectors/scripts` : `categories.events(mesures, fin, dossier)`, `data.load(dossier)`, `data.iso`.
- Produit :
- `evenements(station: str, mesures: dict, d: datetime) -> list[dict]` : les étiquettes des détecteurs coupées au jour,
reprises de `~/Optimizer/batch.py`, `etiquettes()` (copie, pas d'import d'Optimizer) ;
- `a_des_mesures(mesures: dict, d: datetime) -> bool` : au moins une mesure dans `[d, d+1j)` ;
- `resume_detecteurs(station: str, jour: str, evs: list[dict]) -> str` : `detecteurs.md`, une ligne par événement
(`D<n> HH:MM → HH:MM famille : texte`), « aucune étiquette des détecteurs » sinon ;
- `verser(fichier: Path, station: str, jour: str, proposees: list[dict]) -> int` : réécrit `fichier`
(le crée s'il manque) ; garde les lignes telles quelles, sauf celles `source == "labeler"`, `lot == jour`, sans
`revue`, qui sont remplacées par les proposées sans `id` (+ `"source": "labeler"`, `"lot": jour`) ; une proposée avec
`id` prolonge : si cet id est dans le fichier, `source == "labeler"` et sans `revue`, sa `fin` devient celle de la
proposée, sinon `ValueError("prolongation refusée : <id> …")` et rien n'est écrit ; ids par `ids.attribuer`, avec les
ids des lignes remplacées en `retires` (un id ne se redonne pas) ;
écriture par `<fichier>.tmp` puis `os.replace` ; rend le nombre d'étiquettes ajoutées ou prolongées ;
- `lire(chemin: Path) -> list[dict]` : les lignes JSON d'un fichier, `[]` s'il manque ;
- `claude(dossier: Path, args: list[str]) -> dict | None` : repris de `~/Optimizer/batch.py`, `claude()`, flux dans
`<dossier>/seance.jsonl`, rend la ligne `result` ;
- `--check` : les `assert` ci-dessous, sans `claude` ni données.
- [ ] **Étape 1 : écrire `check()`** (les cas du Review Focus 1, 2, 4 et 3)
```python
def check():
with tempfile.TemporaryDirectory() as t:
f = Path(t) / "X.jsonl"
e = lambda d, **k: {"debut": f"2026-11-12T0{d}:00Z", "fin": f"2026-11-12T0{d + 1}:00Z", "categorie": "Visibility", "description": f"d{d}", **k}
assert verser(f, "X", "2026-11-12", [e(1), e(3)]) == 2 # fichier absent : créé
es = lire(f)
assert [x["id"] for x in es] == ["X-1", "X-2"] and all(x["source"] == "labeler" and x["lot"] == "2026-11-12" for x in es)
assert verser(f, "X", "2026-11-12", [e(5)]) == 1 # reverser : remplacé, pas doublé
assert [(x["id"], x["description"]) for x in lire(f)] == [("X-3", "d5")]
f.write_text("".join(json.dumps(x) + "\n" for x in [
{"id": "X-7", **e(1), "source": "labeler", "lot": "2026-11-11"},
{"id": "X-8", **e(2), "source": "labeler", "lot": "2026-11-12", "revue": "2026-11-13"},
{"id": "X-9", **e(4), "analyse": "A"}]))
assert verser(f, "X", "2026-11-12", [{**e(1), "id": "X-7", "fin": "2026-11-12T05:00Z"}, e(6)]) == 2
es = {x["id"]: x for x in lire(f)}
assert es["X-7"]["fin"] == "2026-11-12T05:00Z" and "X-8" in es and "X-10" in es # prolongée ; relue gardée
for interdit in ("X-8", "X-9", "X-99"): # relue, analyse, inconnue
avant = f.read_text()
try:
verser(f, "X", "2026-11-12", [{**e(1), "id": interdit}]); assert False
except ValueError:
assert f.read_text() == avant
d = datetime(2026, 11, 12, tzinfo=timezone.utc)
assert a_des_mesures({"A": [{"t": d + timedelta(hours=3)}]}, d)
assert not a_des_mesures({"A": [{"t": d - timedelta(hours=1)}, {"t": d + timedelta(days=1)}]}, d)
print("ok")
```
- [ ] **Étape 2 :** `python3 labeler.py --check` → échoue (`labeler.py` n'existe pas, puis `NameError`).
- [ ] **Étape 3 :** les liens, le `.gitignore`, puis `labeler.py` : docstring (usage, sorties), les fonctions de
l'Interface, et `main` :
- arguments `--jour AAAA-MM-JJ` (défaut : hier UTC), `--stations A,B` (défaut : les dossiers de `data/`), `--check` ;
- par station : `dossier = auto/lots/<jour>/<STATION>/` ; fait si `dossier/travail/versees.jsonl` existe → sautée ;
sans mesure ce jour-là → sautée et nommée à la fin ; sinon `detecteurs.md`, puis `claude(dossier, [demande, "--agent",
"labeler", "--allowedTools", "Read,Write,Bash", *add_dir])` (`--add-dir` sur la cible résolue de `data`,
`detectors`, `agent-tools`) ; la demande donne station, jour, dossier ;
- après la séance : sans `etiquettes.jsonl` → message, station suivante ; `python3 controle.py <dossier>/etiquettes.jsonl`
en sous-processus ; code ≠ 0 → sa sortie imprimée, rien versé ; sinon `verser`, copie de `etiquettes.jsonl` dans
`travail/versees.jsonl`, une ligne `STATION : n étiquettes versées, coût`.
- [ ] **Étape 4 :** `python3 labeler.py --check` → `ok`.
- [ ] **Étape 5 :** les détecteurs sans l'agent : `python3 -c` qui importe `labeler`, charge `data/NORDEND` et imprime
`resume_detecteurs("NORDEND", "2026-11-06", evenements(…))`. Attendu : les mêmes heures et familles que
`~/Optimizer/batches/2026-11-06/detecteurs/NORDEND.jsonl` (lecture seule, Optimizer est en cours de travail).
- [ ] **Étape 6 : commit** `git commit -m "labeler.py : le lot du labeler, détecteurs, séance et versement" -- labeler.py .gitignore`
---
### Tâche 5 : l'agent `labeler`, et un lot réel
**Files :**
- Create : `.claude/agents/labeler.md`
- Modify : `CLAUDE.md` (le labeler, le lot, les liens), `README.md` (une ligne `labeler.py`, `auto/lots/`)
**Interfaces :**
- Consomme : `labeler.py` (tâche 4) ; ce qu'il donne à l'agent : `auto/lots/<jour>/<STATION>/detecteurs.md`, la station,
le jour ; ce qu'il attend : `etiquettes.jsonl`, `analyse.md` dans ce dossier.
- [ ] **Étape 1 : écrire `.claude/agents/labeler.md`** : frontmatter `name: labeler`, `tools: Read, Write, Bash`,
`model: sonnet`, `omitClaudeMd: true`, une `description` d'une phrase. Corps, dans l'esprit de
`~/Diagnostic-App/.claude/agents/analyste.md` (le reprendre, l'alléger), en français :
- qui il est : l'étiqueteur large et léger ; ses étiquettes ne sont pas relues ; mieux vaut une étiquette sûre ;
- ce qu'est une anomalie (repris tel quel de l'analyste) ;
- ce qu'il lit : `familles.md` et `regles-d-etiquetage.md` en entier, `carte-des-etiquettes.md` sommaire et sections 2 à
4, puis les fiches des phénomènes rencontrés seulement ; `connaissances/chaine-de-mesure.md`,
`colonnes-des-deplacements.md`, `les-trous.md` ; `.claude/skills/lire-les-donnees/SKILL.md` (ses chemins
`labeling/…` se lisent ici sans le préfixe `labeling/`) ; `auto/<STATION>.jsonl` sur le jour et la veille ; rien
de `manual/` en direct, ni le code des détecteurs ;
- les détecteurs : `detecteurs.md` dit où regarder, jamais une preuve ; puis balayer tout le jour (`plages.py`,
`ensemble.py`) pour ce qu'ils n'ont pas vu ;
- les précédents : `python3 precedents.py "<ce qu'il voit>" --exclure <STATION> <jour>T00:00Z <jour+1>T00:00Z` ;
- léger : pas de rapport, pas de script à lui, `--sortie <dossier>/travail`, **cinq images au plus** ;
- le bord : prolonger une étiquette de la veille seulement si elle est à lui (`"source": "labeler"`) et sans `revue`,
en la redonnant avec son `id` ; sinon commencer au bord et le dire dans l'analyse ;
- ce qu'il rend : `etiquettes.jsonl` (format de l'expert), `controle.py` dessus à 0 erreur ; `analyse.md` au plan :
par étiquette (phénomène de la carte, précédents utiles, famille et pourquoi, mesuré, vu par un détecteur : oui
`D<n>` | non, confiance), ce qu'il a laissé sans étiquette, ce qui lui a manqué dans la documentation ;
- il ne touche jamais `auto/<STATION>.jsonl` ni `manual/` ; réponse finale en une ligne : le nombre d'étiquettes.
- [ ] **Étape 2 : le benchmark avant** : `python3 detectors/skills/wf-improve/scripts/regression.py --labels auto --data data > $SCRATCH/avant.txt` (~3 min).
- [ ] **Étape 3 : un lot réel** sur une station et un jour qui ont des étiquettes de l'expert ou d'une analyse
(ex. `python3 labeler.py --jour 2026-11-05 --stations NORDEND`, la plage de l'analyse
`NORDEND_2026-11-04T2112_2026-11-07T1412`). Attendu : la séance tourne sur l'abonnement, `analyse.md` et
`etiquettes.jsonl` dans `auto/lots/2026-11-05/NORDEND/`, versées avec `source` et `lot`, `python3 controle.py`
toujours à 18 erreurs, `git diff auto/NORDEND.jsonl` ne montre que des lignes ajoutées.
- [ ] **Étape 4 :** relancer la même commande → la station est sautée (lot fait). Supprimer
`auto/lots/2026-11-05/NORDEND/travail/versees.jsonl` et relancer → les étiquettes du lot sont remplacées, pas doublées.
- [ ] **Étape 5 :** `python3 precedents.py "<une description du lot>"` ne rend pas ses étiquettes ;
`--avec-labeler` les rend. Le benchmark après, même commande vers `$SCRATCH/apres.txt` : `diff` vide.
- [ ] **Étape 6 :** lire `analyse.md` face aux étiquettes de l'analyse sur ce jour ; ajuster `labeler.md` si une consigne
a manqué (une passe, pas une campagne).
- [ ] **Étape 7 : commit** `git commit -m "L'agent labeler et son premier lot (NORDEND, 2026-11-05)" -- .claude/agents/labeler.md CLAUDE.md README.md auto/lots/2026-11-05/NORDEND auto/NORDEND.jsonl`