Контроль качества датасета — это отчёт, по которому видно, можно ли на корпусе начинать обучение. Считаю строки, классы, пустые поля, снятые дубли, снятый мусор и долю синтетики. Контроль качества — не ощущение и не одна цифра точности модели, которую ещё не обучали.
Человек читает выборочную проверку: случайные строки плюс те, которые правила нашли странными. Отчёт называет пробелы, а не прячет их: класс из двадцати примеров, источник, который пришёл поздно, поле, пустое в половине строк. Пороги записаны: что должно сойтись, прежде чем я назову датасет готовым. Проваленный порог я не «чиню» удалением тестового среза.
Приёмка — отчёт, выборка с заметками проверяющего и скрипт, который печатает те же счётчики из сданных файлов. Отчёт по уже собранному корпусу часто занимает 1–3 недели. Если цифры говорят, что данные не готовы, дальше очистка или данные для fine-tuning, а не запуск.
