README: метрики модели 02.11.2026 (test 4 377 строк, e2e по трекерам), размер датасета, kinozal-вкладки. dataset.md: размер снимка, колонки studio_source и audio_raw. architecture.md: кодек-строки как позитивы сегментатора, E2E_MODEL. collecting.md: tools/audit_tracks.py. training-windows.md: доразметка, сравнение кандидата и постановка в models/best и Docker. plan.md: шаг «аудит дорожек». Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
1 parent
588b1f1579
commit
89ffe4375b
6 files changed
+40
-18
No files matched your search
@@ -81,15 +81,19 @@ BIO-разметка строится по символьным спанам ч
|
||||
«Релиз», `segmenter.page_text`): в `data/pages/kz-*.txt` нет ни заголовка, ни
|
||||
«Техданных», откуда взята половина меток kinozal, а сервис (`fetch_html`)
|
||||
видит обе вкладки.
|
||||
* Кодек-строка русской дорожки («Аудио 3: AC3 … Русский (MVO, LostFilm)»,
|
||||
«Аудио Rus: … | LostFilm»), не попавшая в разметку, в обучение не идёт
|
||||
* Кодек-строки со студией с 02.11.2026 размечены сами (`studio_source=codec`, см.
|
||||
`docs/collecting.md`): их `raw`/`audio_raw` дают позитивы. Кодек-строка русской
|
||||
дорожки («Аудио 3: AC3 … Русский (MVO, LostFilm)», «Аудио Rus: … | LostFilm»),
|
||||
не попавшая в разметку, в обучение не идёт
|
||||
(метка -1): у rutracker `raw` — строка «Перевод N:», и как негатив она учила
|
||||
модель отбрасывать кодек-строки — а на kinozal студии только в них.
|
||||
* В `predict_release` выбранные моделью кодек-строки — второстепенный источник
|
||||
(`source: codec`): подключаются, только если у какой-то дорожки страницы нет
|
||||
студии; если других строк нет (nnm), они и есть дорожки.
|
||||
* e2e: `tests/e2e_segmenter.py [каталог]` — пары (тип, студия) на тестовых
|
||||
страницах, не больше `E2E_MAX` (400) на трекер; `--train-pages` — ещё и train.
|
||||
страницах, не больше `E2E_MAX` (400) на трекер; `--train-pages` — ещё и train;
|
||||
основная модель — `E2E_MODEL` (по умолчанию `models/best`), например
|
||||
`set E2E_MODEL=models/runs/<запуск>` перед запуском, чтобы сравнить кандидата.
|
||||
* Нарезка ВНУТРИ строки («Дублированный, многоголосый») в данных не размечена
|
||||
(91 группа из 6735) — остаётся на правилах `_split_entries`, но только на
|
||||
строках, выбранных моделью.
|
||||
|
||||
@@ -163,6 +163,11 @@ id разных трекеров не пересекались. Коллизий
|
||||
студия. +6 428 строк в 2 862 релизах (kinozal 3 444, nnm 1 609, rutracker 1 375). Аудит,
|
||||
откуда взялась доработка: `reports/tracks_audit.md`.
|
||||
|
||||
Повторить аудит дорожек по `data/raw` (сколько студий из кодек-строк, «Перевод:»
|
||||
и заголовков не попало в метки, мусор в колонке студий, форматы, которые не ловят регулярки):
|
||||
`.venv\Scripts\python tools\audit_tracks.py` → `reports/tracks_audit_numbers.md`
|
||||
(`--cache путь.pkl` ускоряет повторный запуск). Выводы и план — `reports/tracks_audit.md`.
|
||||
|
||||
Сборщик делает это при переиндексации. Для уже собранного `labels.csv` без пересборки
|
||||
страниц: `.venv\Scripts\python tools\relabel_studios.py` (копия — `data/labels.bak_relabel_*.csv`;
|
||||
`--dry-run` — только статистика; повторный запуск ничего не добавляет).
|
||||
|
||||
+3
-1
@@ -10,7 +10,7 @@
|
||||
регулярками** — модель учится воспроизводить эту разметку и обобщать её на
|
||||
новые формулировки.
|
||||
|
||||
Размер (на момент последней сборки): ~41 тыс. строк из ~28 тыс. релизов, 3 источника
|
||||
Размер (снимок 02.11.2026): 55 324 строки из 27 900 релизов, 3 источника
|
||||
(rutracker, nnm, kinozal); HTML-дамп страниц — `data/raw` (~32 тыс. файлов, ≈2.6 ГБ, в git не
|
||||
хранится), разобранные тексты — `data/pages`. Точные числа показывает «Статистика датасета» в
|
||||
`tools/collect.py` (пункт 3) и отчёт `reports/data_audit.md` после `prepare_data`.
|
||||
@@ -29,6 +29,8 @@
|
||||
| `studio` | автор («(не указана)» если нет) | **метка 2** (спан в тексте) |
|
||||
| `age_18`, `note` | флаг/пометка 18+ | **метка 3** |
|
||||
| `role_raw` | скобочная часть / конкретный тип из перечисления | вход для nnm tech-строк |
|
||||
| `studio_source` | откуда взята строка: `release` / `tech` (описание релиза / техданные, в т.ч. nnm «Перевод:»), `codec` (кодек-строка «Аудио N: … (MVO, LostFilm)»), `title` (заголовок kinozal), `audio` (только строка «Аудио»), `manual` (ручная разметка) | не используется; `codec` не попадает в словарь студий `codec_line_rows` |
|
||||
| `audio_raw` | кодек-строка той же дорожки целиком | разметка строк для сегментатора |
|
||||
| остальные (`ru_title`, `codec`, …) | контекст релиза | не используются |
|
||||
|
||||
## Форматы входа по источникам
|
||||
|
||||
@@ -71,6 +71,7 @@
|
||||
| 6 tiny2 + int8 | сделано: 29.3 МБ, parity 99.8% тип / 99.2% спан / 100% 18+ (`reports/onnx_parity_tiny2_int8.md`) |
|
||||
| 7 тесты | `run_tests.py`: 57 ok (URL allowlist/SSRF, декодирование, заглушки Cloudflare/логина, title, слияние, агрегат) |
|
||||
| 8 `target/` | сделано |
|
||||
| 10 аудит дорожек | сделано 02.11.2026: `tools/audit_tracks.py` → `reports/tracks_audit.md` (план из 5 пунктов). Пункт 1 — студии из кодек-строк в разметке (`codec_line_rows`, +6 428 строк); модель переобучена: test joint exact 0.891 → 0.906, e2e P/R kinozal 0.745/0.850 → 0.766/0.879, rutracker 0.866/0.859 → 0.877/0.870, nnm 0.845/0.829 → 0.838/0.825. Пункты 2–5 и сегментатор на новой разметке — открыты |
|
||||
|
||||
## Открытые вопросы
|
||||
|
||||
|
||||
@@ -84,6 +84,14 @@ copy /Y <путь>\labels.csv data\labels.csv
|
||||
.venv\Scripts\python -m src.train
|
||||
```
|
||||
|
||||
Если поменялась только логика разметки студий (без перекачки страниц), сначала
|
||||
`.venv\Scripts\python tools\relabel_studios.py` (см. `docs/collecting.md`), затем
|
||||
`prepare_data` и обучение. Кандидата из `models/runs/` перед заменой `models/best`
|
||||
сравнить: `python -m src.runs --out runs.json --dirs models/best models/runs/<запуск>` (test-сплит) и
|
||||
`E2E_MODEL=models/runs/<запуск>` + `tests/e2e_segmenter.py` (релизы). Поставить —
|
||||
меню `tools/collect.py`, пункт 7, или `src.runs.promote`; для Docker затем
|
||||
`python tools/pack_models.py --stage docker-models`.
|
||||
|
||||
## Troubleshooting
|
||||
|
||||
| Симптом | Причина | Решение |
|
||||
|
||||
Reference in new issue
Block a user