Що сталося

На Dev.to Альберто Монтаньєзе розбирає тихий реліз. Модель спочатку з’явилася на Hugging Face за тижні до офіційної нотатки — без великого шоу. Архітектура розріджена: у пам’ять виводу не тягнуть усі 218 млрд одразу. Автор наголошує на залізі. Квантування в 4 біти: одна карта NVIDIA B200 або дві H100. Повна точність BF16: чотири B200 або вісім H100. Для щільної моделі того ж розміру такий «власний хостинг» зазвичай нереальний; тут масштаб ще важкий, але вже в зоні команд із нормальним кластером, а не лише лабораторій із тисячами карт.

Переклад — 50 мов, з них 32 «багатих» ресурсом автор виділяє як зону, де якість особливо цікава. Дослідникам і некомерційному використанню вистачає відкритих ваг. Продакшен Cohere веде в платну ліцензію й власне розгортання. Взаємодія ближча до виклику функції, ніж до діалогу: текст, цільова мова, готовий переклад — без довгої інструкції й прикладів «покажи на двох фразах». У статті є схематичний фрагмент на Python (це ілюстрація, не копія поточного комплекту засобів розробки): клієнт, ідентифікатор моделі, масив рядків, код мови.

Суміш експертів тут — не маркетингова етикетка, а спосіб утримати у виводі 25 млрд активних параметрів за «вітрини» в 218 млрд. Для прикладної команди це означає: рахунок за залізо ближчий до моделі середнього розміру, а ємність — до гіганта, якщо маршрутизація експертів працює як заявлено. Саме тому в тексті так докладно розписані карти: без цих цифр 218 млрд звучать як «непідйомно», з ними — як «кластер із кількох топових відеокарт».

Окремий хід — агентний багатопрохідний сценарій, коли модель уточнює свій же вивід. Приріст на WMT26 з 83,60 до 84,36 невеликий, але показовий: вузька модель плюс короткий цикл самоперевірки, а не «ще мільярд параметрів у загальному чаті».

Чому це важливо

Кілька років ринок жив загальним сюжетом: кожна нова модель має бути кращим універсалом. North Small Translate — інший сигнал зрілості. Є дороге, вимірюване завдання (переклад на корпоративному масштабі) — під нього збирають величезну, але вузьку суміш експертів. Складність ховається в архітектурі, а не в промпті прикладного розробника.

Для команд із багатомовними продуктами це змінює калькуляцію. Універсальний чат із парою прикладів в інструкції дешевий у впровадженні й плаває в якості та вартості токена. Фахівець дає передбачуваний контракт «рядок → рядок», ціною заліза й ліцензії. Тихий реліз теж культурний: велику модель починають сприймати як комплектуюче, а не як подію року. Якщо ваги спочатку лежать на Hugging Face, а нотатка виходить пізніше, команда може почати оцінку до маркетингового шуму — і одразу впертися в CC BY-NC, а не в чужу таблицю замірів.

Ще один практичний фільтр — не плутати «відкриті ваги» з «можна в прод». Дослідницький контур і комерційний Model Vault тут розведені навмисно. Це ближче до того, як продають промислові рушії перекладу, ніж до «завантаж і розгортай у Kubernetes безплатно».

На практиці

1. Для оцінки завантажте ваги з картки North-Small-Translate-1.0 на Hugging Face і ганяйте на своїх парах «джерело — еталон», не лише на чужому WMT26.
2. Закладіть ліцензію заздалегідь: CC BY-NC 4.0 закриває комерційний прод; без договору з Cohere ваги — лише дослідження й внутрішні проби.
3. Рахуйте залізо за квантуванням: 4 біти на одній B200 / двох H100 проти BF16 на чотирьох / восьми картах — до вибору «власний кластер чи API».
4. У коді викликайте переклад як функцію (текст + цільова мова), а не як вільний чат із довгою системною інструкцією.
5. Якщо потрібен пік якості на важливих мовах, окремо виміряйте багатопрохідне уточнення: плюс до WMT26 є, ціна — зайві токени й затримка.
6. Не чекайте, що 18 «бідних» із 50 мов дадуть ту саму картину, що 32 багатих; перевіряйте хвіст окремо.

Підсумок

North Small Translate показує, куди йде прод: величезні вузькі моделі, розрідженість замість «усі параметри завжди», ліцензія дослідження окремо від комерції. Дивитися варто не лише на чат-універсалів. Для перекладу в Cohere з’явився компонент із зрозумілим контрактом, важким, але досяжним залізом і тихим виходом на Hugging Face.