Підготовка даних для AI

Поділ train, validation і test

Поділ train / validation / test чесний лише тоді, коли один користувач, документ або фото не сидить на обох боках.

Обговорити цей напрямФорма контакту

Коротко опишіть мету, обмеження стеку та строки — відповім у Telegram.

Поділ train / validation / test чесний лише тоді, коли один користувач, документ або фото не сидить на обох боках. Групую за одиницею, яка витекла б: акаунт, ланцюжок заявок, вихідний файл, кластер майже-дублів із дедуплікації. Train, validation і test — заморожені файли, а не новий випадковий розріз на кожному прогоні.

Баланс класів перевіряю, а не загадую. Рідкісний клас стратифікую, коли лічильники дозволяють; коли ні, у звіті написано, що тестовий зріз занадто малий, щоб йому вірити. Задачі з часом ріжу за часом, а не перемішуванням, за якого наступний тиждень вчиться на вчорашньому дні. Синтетичні близнюки лишаються зі своїм живим батьком на одному боці.

Приймання — маніфест поділу, ключ групування, лічильники за зрізами і класами і перевірка витоку, яка падає, якщо нормалізований близнюк перетнув межу. Поділ уже чистого корпусу часто займає 1–2 тижні. Цифри потім входять у контроль якості датасету.

Критерії приймання

Готово, коли

  • Схема і зміст полів зафіксовані письмово
  • Поділ train / validation / test відтворюється і перевірений на витік
  • Звіт якості містить обсяги, зняті дублі та відомі прогалини

Що передаємо

  • Файли датасету в узгодженому форматі
  • Відтворюваний скрипт підготовки
  • Звіт про якість

Не входить

  • Навчання моделі і вивід у прод
  • Юридичний висновок щодо персональних даних і чужих ліцензій
  • Обсяг розмітки понад узгоджену вибірку, якщо його немає в кошторисі

Фінальний акт приймання фіксується в брифі або договорі; список вище — орієнтир для узгодження scope.

Орієнтовний розрахунок

Обсяг
Додатково

Поширені запитання

Натисніть на запитання, щоб розгорнути відповідь.

Які частки ви берете?

Часто 80/10/10, але ключ групування важливіший за гарну частку. Документ заради відсотка по зрізах не рву.

Чи можна перемішати пізніше?

Лише новою версією датасету. Прийнятий поділ лишається фіксованим, щоб оцінки можна було порівнювати.

Обговорити цей напрямФорма контакту

Коротко опишіть мету, обмеження стеку та строки — відповім у Telegram.

Повний опис послуги