Чому модель губить середину довгого документа
На 500 сторінках документації повний контекст дав близько 34% точності. Мала модель відбирає факти до дорогої.
Stuzhuk Lab — Chemistry of Code
Хімія коду
← Усі статті
Тег
LLM
Усі статті блогу з цим тегом.
Метрики якості нейромереж: як зрозуміти, що модель справді працює
Як обрати метрики якості нейромережі: класифікація, комп’ютерний зір, OCR, LLM і RAG, калібрування та виробничі показники — що вимірювати, щоб модель реально працювала в продукті.
Cohere тихо випустила MoE на 218 млрд параметрів для перекладу
North Small Translate: 218 млрд параметрів, 25 млрд активних, 50 мов. WMT26 83,60 і ліцензія CC BY-NC — сигнал епохи вузьких промислових моделей.
Qwen 3.8 27B на Cerebras: ~1500 токенів/с
Qwen 3.8 27B на публічних кінцевих точках Cerebras: ~1500 токенів/с, контекст 64k/128k, без прорідження у проді.
Приватний генератор кодбука на Mistral: план, а не рецепт
Як спроєктувати локальний контур якісного аналізу з Mistral Small 3.1, Ollama і FastAPI — без хибних обіцянок ШІ.
CMP 90HX для LLM: чому майнінгова карта гальмує і що дає «six-seven»
MoE на CMP 90HX терпимо, dense — ні: карта обмежена за типами обчислень. Модифікація драйвера через V67 дає майже ×2, але не знімає всі обмеження.
Як LLM знаходить знання: від токенів і Transformer до RAG
Як текст стає токенами й векторами, що робить Transformer, чим навчання відрізняється від RAG, і як із Markdown зібрати пошук знань для моделі.
Як оцінювати LLM до продакшену: уроки GitHub Secret Scanning
Спочатку продуктове рішення й обмежувачі, потім модель: офлайн-оцінка як інтеграційні тести й розбір помилок.
Як навчають LLM: попереднє навчання, донавчання, LoRA, RAG і агенти
Рівні адаптації мовних моделей: що змінює ваги, що підключає знання й інструменти, і як обрати підхід без «донавчання на PDF».
Ukrainian LLM Leaderboard: рейтинг моделей українською
Мінцифри, УКУ та lang-uk відкрили на Hugging Face відкритий рейтинг LLM українською: переклад, переказ, пошук, логіка, ЗНО.
Дешева LLM для агента: чому економія на токені здорожчує задачу
Чому полегшені моделі плодять виклики інструментів, як бенчмарки брешуть і які метрики рахувати замість ціни за мільйон токенів.
NanoGPT Speedrun: 153 прогони агентів на фронтирних моделях
Prime Intellect порівняв 18 моделей на `nanoGPT`: найкращий валідований рахунок у Kimi K3kimi-code, плюс 41 повна траєкторія агента.
Свій інференс для 25 розробників: кеш префікса важливіший за модель
Стенд на vLLM і Blackwell: hit rate кешу 96,9%, відношення вхід/вихід 452:1 і чому свій контур беруть не заради економії.
Перевірка якості мовних моделей: які тести існують і що вони насправді вимірюють
Види перевірок ШІ-моделей: відкриті набори задач, арени, модель-суддя, безпека, регресія продукту й онлайн-сигнали — що кожен тест перевіряє і чого не бачить.
Семантичний контекст для ШІ: як LSP допомагає моделі зрозуміти код
Четверта частина серії про автодоповнення: Language Server Protocol дає типи, визначення й посилання — шар поверх текстового пошуку по репозиторію.
Системні промпти Claude: чому вчить еволюція від Haiku 3 до Opus 5
Anthropic публікує system prompts: не «магічні» ролі, а правила рішень, інструментів, невизначеності й UX довгих агентних задач.
LLM спростовують старі гіпотези — вузьке місце перевірка
Контрприклади й доведення від моделей, втеча з пісочниці, сертифікати Lean: не плутати ланцюжок міркувань із вірним висновком.
Шлюз LLM і фінансова операційна дисципліна у 2026 році: маршрутизація моделей, бюджети токенів і контроль вартості без втрати якості
Практичний посібник зі шлюзу LLM і фінансової операційної дисципліни: маршрутизація моделей, бюджети токенів, кешування, відмовостійкість, юніт-економіка та план на 90 днів без жертви якістю відповіді.
OpenAI впроваджує ШІ в наукові дослідження США
Національна наукова ініціатива OpenAI надасть лабораторіям і університетам доступ до моделей, але вирішальними лишаються перевірка й контроль.
Kimi K3: що відкриті ваги великої ШІ-моделі дають розробникам
Moonshot AI відкрила ваги Kimi K3: як працює MoE, чому 1,4 ТБ змінюють план розгортання та що перевірити в ліцензії.
Як обрати LLM для підприємства: критерії замість рейтингів
Як обрати мовну модель для корпоративного ШІ за сценаріями, безпекою, вартістю та вимогами до інфраструктури.
Відкриті ШІ-моделі в продакшені: 8 уроків llama.cpp, Gemma та Qwen
Як запускати відкриті LLM у продакшені: керувати виводом, добирати моделі за завданнями та гарантувати формат відповідей.
ШІ на 744 млрд параметрів у 25 ГБ ОЗП: як працює Colibri
Colibri запускає MoE-модель GLM-5.2 без GPU: постійна частина лишається в ОЗП, а експерти зчитуються з NVMe. Розбираємо компроміси.
Xiaomi анонімно випустила передову ШІ-модель — і розробники її обрали
Тестова MiMo-V2-Pro під назвою Hunter Alpha зібрала трильйон токенів: вирішальними стали якість, ціна й обмеження для даних.
Чому з’явилися LLM і яку роль вони відіграють у корпоративному ШІ
Як обмеження пошуку та експертних систем привели до LLM і чому модель є інтерфейсом до знань, а не пам’яттю підприємства.
Як обмежити ШІ, щоб він не вигадував числа в даних
Підхід із Claude Desktop, DuckDB і пісочницею: обчислення виконують інструменти, а ШІ працює зі схемою даних і чіткими обмеженнями.
Fine-tuning Qwen 3 0.6B: з 10% до 92% точності класифікації питань
Експеримент із домашнім чат-ботом: як дообучити крихітну локальну LLM через Unsloth і двобуквенні коди категорій замість імен міток.