Новини для розробників без шуму — My Dev News у Telegram.
Тег
Усі статті блогу з цим тегом.
Практичний посібник зі шлюзу LLM і фінансової операційної дисципліни: маршрутизація моделей, бюджети токенів, кешування, відмовостійкість, юніт-економіка та план на 90 днів без жертви якістю відповіді.
Національна наукова ініціатива OpenAI надасть лабораторіям і університетам доступ до моделей, але вирішальними лишаються перевірка й контроль.
Moonshot AI відкрила ваги Kimi K3: як працює MoE, чому 1,4 ТБ змінюють план розгортання та що перевірити в ліцензії.
Як обрати мовну модель для корпоративного ШІ за сценаріями, безпекою, вартістю та вимогами до інфраструктури.
Як запускати відкриті LLM у продакшені: керувати виводом, добирати моделі за завданнями та гарантувати формат відповідей.
Colibri запускає MoE-модель GLM-5.2 без GPU: постійна частина лишається в ОЗП, а експерти зчитуються з NVMe. Розбираємо компроміси.
Тестова MiMo-V2-Pro під назвою Hunter Alpha зібрала трильйон токенів: вирішальними стали якість, ціна й обмеження для даних.
Як обмеження пошуку та експертних систем привели до LLM і чому модель є інтерфейсом до знань, а не пам’яттю підприємства.
Підхід із Claude Desktop, DuckDB і пісочницею: обчислення виконують інструменти, а ШІ працює зі схемою даних і чіткими обмеженнями.
Експеримент із домашнім чат-ботом: як дообучити крихітну локальну LLM через Unsloth і двобуквенні коди категорій замість імен міток.