Студии из кодек-строк: codec_line_rows, доразметка, аудит дорожек
tools/audit_tracks.py и reports/tracks_audit.md — аудит всех дорожек техданных по data/raw с планом. Пункт 1 плана: harvest_core.codec_line_rows добавляет студии из строк «Аудио 2: AC3 … (MVO, LostFilm)», «Аудио Rus: … | TVShows» (studio_source=codec), которых нет среди строк релиза; тот же шаг в tools/relabel_studios.py (повторный запуск ничего не добавляет). labels.csv: +6 428 строк в 2 862 релизах (kinozal 3 444, nnm 1 609, rutracker 1 375), со студией 29 331 -> 35 759. tests/e2e_segmenter.py: модель через E2E_MODEL. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
1 parent
63878f7874
commit
e3af778068
10 files changed
+7937
-29
No files matched your search
+35
-23
@@ -1,32 +1,44 @@
|
||||
# Аудит датасета: data/labels.csv
|
||||
строк в CSV: 48896
|
||||
строк после подготовки: 39418 (train 34183 / test 5235)
|
||||
источники: {'kinozal': 10412, 'rutracker': 14347, 'nnm': 14659}
|
||||
уникальных нормализованных текстов: 20260
|
||||
групп (релиз ∪ одинаковый текст): 6947
|
||||
удалено: пустой текст 0, мусорный studio 155, не-озвучка (оригинал/субтитры) 6, противоречивые дубли 0 (групп-противоречий: 0), несколько дорожек в одной строке 20, лишние повторы (> 40 одинаковых) 18196
|
||||
спан автора найден: 31214 (79.2%), не найден: 237
|
||||
аугментировано морфологических вариантов: 8720
|
||||
дорожек 18+: 781 (из них без упоминания «18» в тексте: 8)
|
||||
язык размечен: 19312 из 39418; со строкой «Аудио» во входе: 13140; классы: {'RUS': 18703, 'UKR': 556, 'ENG': 53}; редкие (<20, не учатся): {'DEU': 7, 'FRA': 14, 'CHI': 3, 'KAZ': 10, 'GEO': 2, 'BEL': 2, 'KOR': 1, 'JPN': 4, 'LAV': 1, 'CZE': 1, 'ITA': 6, 'SPA': 8}
|
||||
строк в CSV: 55324
|
||||
строк после подготовки: 46083 (train 41706 / test 4377)
|
||||
источники: {'kinozal': 14004, 'rutracker': 15825, 'nnm': 16254}
|
||||
уникальных нормализованных текстов: 25056
|
||||
групп (релиз ∪ одинаковый текст): 7354
|
||||
удалено: пустой текст 0, мусорный studio 156, не-озвучка (оригинал/субтитры) 6, противоречивые дубли 83 (групп-противоречий: 73), несколько дорожек в одной строке 20, лишние повторы (> 40 одинаковых) 18218
|
||||
спан автора найден: 37875 (82.2%), не найден: 240
|
||||
аугментировано морфологических вариантов: 9062
|
||||
дорожек 18+: 959 (из них без упоминания «18» в тексте: 8)
|
||||
язык размечен: 25977 из 46083; со строкой «Аудио» во входе: 19805; классы: {'RUS': 24401, 'UKR': 1523, 'ENG': 53}; редкие (<20, не учатся): {'DEU': 7, 'FRA': 14, 'CHI': 3, 'KAZ': 10, 'GEO': 2, 'BEL': 2, 'KOR': 1, 'JPN': 4, 'LAV': 1, 'CZE': 1, 'ITA': 6, 'SPA': 8}
|
||||
|
||||
## Распределение translation_type
|
||||
- проф. многоголосый: 11399
|
||||
- проф. дубляж: 10468
|
||||
- авт. одноголосый: 5409
|
||||
- неизвестно: 2800
|
||||
- проф. двухголосый: 2339
|
||||
- одноголосый: 2126
|
||||
- люб. многоголосый: 1701
|
||||
- многоголосый: 824
|
||||
- люб. двухголосый: 731
|
||||
- люб. одноголосый: 694
|
||||
- люб. дубляж: 380
|
||||
- проф. одноголосый: 350
|
||||
- двухголосый: 192
|
||||
- проф. многоголосый: 13064
|
||||
- проф. дубляж: 12127
|
||||
- авт. одноголосый: 5756
|
||||
- неизвестно: 4198
|
||||
- проф. двухголосый: 2693
|
||||
- одноголосый: 2623
|
||||
- люб. многоголосый: 1778
|
||||
- многоголосый: 1311
|
||||
- люб. двухголосый: 752
|
||||
- люб. одноголосый: 716
|
||||
- люб. дубляж: 387
|
||||
- проф. одноголосый: 354
|
||||
- двухголосый: 319
|
||||
- авт. двухголосый: 3
|
||||
- авт. многоголосый: 2
|
||||
|
||||
## Примеры противоречий (один текст — разные типы)
|
||||
- nnm:nnm-1104137 «ac-3, 48.0 khz, 1 ch, 192 kbps, cbr (русский, проф. многогол» -> ['многоголосый', 'проф. многоголосый']
|
||||
- nnm:nnm-1116916 «ac3, 2 ch, 192 kbps, 48,0 khz (русский - двухголосый ''видео» -> ['двухголосый', 'проф. двухголосый']
|
||||
- nnm:nnm-1116916 «dts, 2 ch, 768 kbps, 48,0 khz (русский - авторский ''андрей » -> ['авт. одноголосый', 'неизвестно']
|
||||
- nnm:nnm-1129736 «ac3, 48 khz, ~192 kbps, 2ch, русский (любительский, многогол» -> ['люб. многоголосый', 'проф. многоголосый']
|
||||
- nnm:nnm-1129736 «ac3, 48 khz, ~192 kbps, 2ch, русский (любительский, двухголо» -> ['люб. двухголосый', 'проф. двухголосый']
|
||||
- nnm:nnm-1129736 «ac3, 48 khz, ~192 kbps, 2ch, русский (любительский, двухголо» -> ['люб. двухголосый', 'проф. двухголосый']
|
||||
- nnm:nnm-1129736 «ac3, 48 khz, ~192 kbps, 2ch, русский (любительский, одноголо» -> ['люб. одноголосый', 'одноголосый']
|
||||
- nnm:nnm-1131052 «ac3, 2 ch, 192 kbps (русский - авторский ''юрий живов'') [ru» -> ['авт. одноголосый', 'неизвестно']
|
||||
- nnm:nnm-1131273 «ac3, 2 ch, 192 kbps (русский - авторский ''юрий живов'') - о» -> ['авт. одноголосый', 'неизвестно']
|
||||
- nnm:nnm-1141333 «ac3, 2 ch, 192 kbps (русский - авторский ''андрей гаврилов''» -> ['авт. одноголосый', 'неизвестно']
|
||||
|
||||
## Спан не найден (примеры)
|
||||
- [rutracker] studio=«datynet; : Куценко» text=«Одноголосый закадровый datynet; перевод: Куценко»
|
||||
- [rutracker] studio=«datynet и Yuka_chan; :Куценко» text=«Любительский (двухголосый закадровый) datynet и Yuka_chan; перевод:Куц»
|
||||
|
||||
Reference in new issue
Block a user