Підготовка даних для AI

Збір і консолідація даних

Збір і консолідація даних перетворює розрізнені файли компанії на один корпус із відомим походженням.

Обговорити цей напрямФорма контакту

Коротко опишіть мету, обмеження стеку та строки — відповім у Telegram.

Збір і консолідація даних перетворює розрізнені файли компанії на один корпус із відомим походженням. Забираю вивантаження, які у вас уже є: CRM, заявки, листування, таблиці, об’єктне сховище, скани. Для кожного рядка фіксую, звідки він, коли знятий і хто має право ним користуватися. Збір і консолідація — перший крок підготовки даних для AI: без карти джерел очищення і дедуплікацію не можна повторити.

Не знімаю дані з систем, якими ви не володієте, і не купую чужий датасет, щоб закрити діру, якщо цієї купівлі немає в брифі. Токени лишаються в секретах середовища. Якщо в джерела немає вивантаження, так і кажу, а не автоматизую браузер і не називаю це конвеєром. З’єднання йде за ключем, який можна пояснити, а не за випадковою назвою колонки.

Приймання — опис джерел, вибірка, зібрана за цим ключем, і скрипт, який наново збирає спільну таблицю з тих самих вивантажень. Одне джерело часто займає 1–3 тижні після появи доступу. Очищення починається лише коли таблиця вже є — див. очищення і нормалізацію.

Критерії приймання

Готово, коли

  • Схема і зміст полів зафіксовані письмово
  • Поділ train / validation / test відтворюється і перевірений на витік
  • Звіт якості містить обсяги, зняті дублі та відомі прогалини

Що передаємо

  • Файли датасету в узгодженому форматі
  • Відтворюваний скрипт підготовки
  • Звіт про якість

Не входить

  • Навчання моделі і вивід у прод
  • Юридичний висновок щодо персональних даних і чужих ліцензій
  • Обсяг розмітки понад узгоджену вибірку, якщо його немає в кошторисі

Фінальний акт приймання фіксується в брифі або договорі; список вище — орієнтир для узгодження scope.

Орієнтовний розрахунок

Обсяг
Додатково

Поширені запитання

Натисніть на запитання, щоб розгорнути відповідь.

Чи можна почати з одного вивантаження?

Так. Одне часте власне джерело з ясною задачею краще за п’ять наполовину зв’язаних тек.

Чи потрібен доступ у прод?

Достатньо вивантаження лише на читання або дампу зі стенда. Живе підключення до бази заради навчання я не залишаю.

Обговорити цей напрямФорма контакту

Коротко опишіть мету, обмеження стеку та строки — відповім у Telegram.

Повний опис послуги