Навіщо потрібен ML-фреймворк

Без каркаса ви самі пишете множення матриць, збереження активацій для зворотного проходу, оновлення ваг, завантаження батчів і збереження стану. З каркасом це виглядає як бібліотека з зрозумілим API: тензор на пристрої, шар, оптимізатор, даталоадер.

Аналогія: двигун із болтів і металопрокату зібрати можна, але для поїздки потрібен автомобіль із коробкою передач і приладовою панеллю. Фреймворк — автомобіль для циклу «дані → передбачення → помилка → градієнт → нові ваги».

Що всередині: тензор, граф, autograd

Типова архітектура:

                 ML Framework
                      │
        ┌─────────────┼─────────────┐
        ↓             ↓             ↓
     Tensor        Autograd       Models
        │             │             │
        ↓             ↓             ↓
   CPU / GPU       Gradients      Layers
        │             │             │
        └─────────────┼─────────────┘
                      ↓
                  Optimizer → Training

Тензор — багатовимірний масив із типом, формою й пристроєм. Зображення часто [C, H, W], батч — [B, C, H, W]. Нейромережі живуть тензорами, бо майже всі операції — масові лінійно-алгебраїчні перетворення.

Обчислювальний граф (computational graph) — запис того, які операції породили тензор (для зворотного проходу).

Автоматичне диференціювання (autograd) — автоматичний розрахунок градієнтів по цьому графу.

Далі: функція втрат, оптимізатор (SGD, Adam, …), шари (Linear, Conv2d), модель як композиція шарів, Dataset/DataLoader, абстракція пристрою (cpu / cuda / …), серіалізація ваг.

Цикл навчання:

дані → модель → prediction → loss → backpropagation → gradients → optimizer → нові weights

micrograd і tinygrad: зрозуміти, а не лише викликати API

micrograd (ідея Andrej Karpathy) — крихітна реалізація скалярного autograd. Мета не швидкість, а ясність: вузол зберігає значення й локальний градієнт, backward іде по ребрах назад. Після розділу читач бачить: autograd — не магія, а акуратний обхід графа.

tinygrad — маленький фреймворк із власною філософією мінімалізму й прозорості стека (не «урізаний PyTorch»). Корисний, коли хочеться побачити, як операція доходить до прискорювача, без кілометрів індустріальних абстракцій. Для прод-CV його зазвичай не обирають першим; для вивчення влаштування ML-стека — так.

Як виглядає ідея «на пальцях». Вузол зберігає значення й локальний внесок у похідну. Якщо c = a * b, то при зворотному проході внесок у a пропорційний b, у b — пропорційний a. Ланцюжок a → b → c розкривається як послідовне застосування правила ланцюжка. Саме це й робить loss.backward() у великому каркасі — лише на тензорах і з оптимізаціями пам’яті.

PyTorch: практичний основний інструмент

PyTorch став де-факто стандартом deep learning у дослідженнях і більшій частині прикладного CV/LLM-стека. Ключові частини: torch.Tensor, torch.nn, torch.optim, Dataset/DataLoader, autograd, CUDA, збереження (state_dict, .pt).

Мінімальний цикл:

for x, y in dataloader:
    optimizer.zero_grad()
    prediction = model(x)
    loss = criterion(prediction, y)
    loss.backward()
    optimizer.step()

zero_grad очищає попередні градієнти; forward рахує передбачення; criterion — помилку; backward наповнює .grad; step оновлює ваги. Один рядок loss.backward() ззовні — всередині обхід графа, похідні, пам’ять і запуск ядер на обраному пристрої.

Для OCR, CRNN, YOLO-екосистеми й більшості vision-пілотів PyTorch — розумний старт. Далі ваги часто йдуть у ONNX для сервера або браузера.

TensorFlow, Keras і JAX

TensorFlow довго був головним індустріальним каркасом. Сьогодні важливий у зв’язці з Keras, tf.data, обслуговуванням моделей і сценаріями, де вже склалася TF-інфраструктура. TensorFlow 2.x зробив упор на негайне виконання (eager) — ближче до звичного імперативного стилю.

Keras — високорівневий API моделей. Історично зріс із TF як tf.keras; окремо існує розвиток Keras як зручного шару над різними бекендами. Спрощено:

Keras → високорівневий API моделі
TensorFlow → обчислення й екосистема (часто як backend)

JAX — інший погляд: «NumPy + диференціювання + JIT + прискорювачі» у функціональному стилі. jax.numpy, grad, jit, vmap — трансформації функцій, а не «об’єкт nn.Module зі станом», як у класичному API PyTorch. Сильний у дослідженнях і на TPU; крива входу вища, якщо ви прийшли з об’єктного nn.Module.

Інші назви й важлива відмінність

Коротко по периферії: MXNet — історично важливий, зараз рідше на слуху; PaddlePaddle — своя екосистема; OneFlow — нішеві сценарії; MLX — цікавий на Apple Silicon (єдина пам’ять, GPU Apple).

ONNX Runtime — насамперед рушій виводу, не повноцінний фреймворк навчання в стилі PyTorch:

Training (PyTorch / TF / …) → ONNX → ONNX Runtime → Inference

Окремо: фреймворк навчання ≠ бібліотека готових моделей.

PyTorch          → інструмент створити й навчити
Ultralytics YOLO → готовий контур детекції поверх екосистеми
HF Transformers  → моделі й пайплайни поверх каркасів
timm / Diffusers → «зоопарки» моделей і утиліт

Плутати «поставимо YOLO» з «обрали фреймворк» — часта помилка новачка.

Що обрати під задачу

Це не рейтинг «хто кращий», а відповідність інструменту контексту.

CPU, GPU і TPU: пристрій і контракт із залізом

Влаштування:

Framework → CPU | GPU (CUDA / Apple / …) | TPU

• CPU — завжди доступний; для навчальних моделей і налагодження часто достатньо.
• NVIDIA CUDA — основний прискорювач для PyTorch/TensorFlow у проді й дослідженнях.
• Apple GPU — Metal / MPS у PyTorch, плюс окремий інтерес до MLX на спільній пам’яті.
• AMD — залежить від стека (ROCm і збірки); перевіряйте підтримку конкретної версії каркаса.
• TPU — сильна сторона JAX/TensorFlow в хмарних сценаріях Google.

Можливість прискорювача залежить не лише від назви фреймворку, а й від драйверів, збірок і бекенда. device = "cuda" — контракт із середовищем, не заклинання. Перенесення тензора й моделі на пристрій (to(device)) має бути узгодженим: інакше отримаєте помилку або тиху втрату швидкості.

Training vs inference і шлях до заліза

Training: прямий прохід, функція втрат, зворотний прохід, градієнти, оптимізатор.
Inference: завантажити ваги, подати дані, отримати результат — без навчання.

TRAINING:  дані → модель → loss → backprop → weights
INFERENCE: дані → модель → результат

Від Python до GPU:

Python → Framework API → тензорні операції → backend → CUDA/Metal/TPU runtime → hardware

Рядок x @ weights може розгорнутися у величезний обсяг роботи на відеокарті — тому «простий API» не означає «проста реалізація».

Зв’язка з браузером:

PyTorch (навчання) → ONNX → Transformers.js / ORT Web + WebGPU (вивід у вкладці)

Деталі клієнтського шляху — у WebGPU + Transformers.js, експорту — у ONNX: від PyTorch до Runtime.

Порівняння й шлях новачка

Маршрут навчання:

Python → NumPy → основи мереж → micrograd → PyTorch → CNN → CRNN → Transformers → LLM

Гілка зору: PyTorch → YOLO / детекція → OCR.

Практичний міні-проєкт

Візьміть рукописні цифри (MNIST або свій набір) і пройдіть контур один раз «руками»:

1. Завантажити дані й зібрати DataLoader з батчами.
2. Описати маленький CNN (Conv → активація → пулінг → лінійний шар).
3. Написати цикл навчання: zero_grad → forward → loss → backward → step.
4. Оцінити точність на відкладеній вибірці.
5. Зберегти state_dict у .pt.
6. В окремому скрипті завантажити ваги й зробити inference без навчання.
7. Мисленно зіставити ті самі кроки з ідеями micrograd/tinygrad: де граф, де градієнт, де «магія» API.

Практика рукописних цифр на сайті: CNN → TrOCR.

Типові помилки

• Вважати PyTorch «нейромережею», а не каркасом.
• Плутати фреймворк і готовий зоопарк моделей (YOLO/Transformers).
• Не розуміти форму тензора й розмірність батча.
• Копіювати backward() без картини графа.
• Думати, що GPU обов’язковий для будь-якої навчальної задачі.
• Плутати training і inference; чекати, що .pt універсальний для будь-якого рантайму.
• Обирати device навмання без перевірки драйверів.

Часті запитання

Далі по темі

• Залізо для AI
• PyTorch vs TensorFlow
• ONNX: від PyTorch до Runtime
• WebGPU + Transformers.js
• Інженерія YOLO
• Компактна CRNN
• Рукописні цифри
• Три шари стека LLM

Висновок

Нейромережа — математична модель. Фреймворк — інфраструктура навколо тензорів, градієнтів і пристроїв. micrograd і tinygrad вчать влаштуванню; PyTorch закриває більшу частину прикладного навчання; TensorFlow/Keras і JAX лишаються важливими гілками під екосистему й прискорювачі; вивід часто живе окремо — у ONNX Runtime або навіть у браузері. Вибір інструменту — відповідь на питання «яка задача, яке залізо, хто буде супроводжувати», а не полювання на модний логотип.

Concepts (tensor, grad) → Frameworks → Models (YOLO, CRNN, LLM)
                              ↓
                           Training → GPU/TPU/CPU
                              ↓
                           Inference → Server | Browser (WebGPU)