← Усі статті

JEPA і моделі світу: чому розмір LLM більше не єдиний важіль

Розбір `JEPA`, гіпотези платонічного представлення та лабораторії `AMI Labs`: чим моделі світу відрізняються від передбачення наступного токена, що показав експеримент 109M проти 72B і що з цього корисно інженеру у 2026.

JEPA і моделі світу: чому розмір LLM більше не єдиний важіль
Зміст

За чотири роки неспання дитина «прочитує» зором приблизно стільки ж байтів, скільки сучасна велика мовна модель виймає з усього публічного тексту інтернету. Різниця в іншому: чотирирічна вже знає, що м’яч не зникає за диваном, а чашка розіб’ється об плитку — і для цього їй не знадобився жоден підручник. Ян Лекун уже кілька років твердить: поки галузь нарощує число параметрів заради наступного токена, вона тренує чудового співрозмовника, але не агента фізичного світу.

Восени 2026 суперечка перестала бути лише інтерв’ю в Давосі. Робота Рендалла Балестрієро і Яна Лекуна про доведення гіпотези платонічного представлення через JEPA (arXiv:2610.39302) дала математичну рамку й порівняльні цифри, які легко перетворити на клікбейт: «модель на 109 мільйонів параметрів обійшла Qwen 2.5 на 72 мільярди». Нижче — що в цьому результаті справді сильне, де межі експерименту, як сюди вписалися AMI Labs, LeWM і H-JEPA, і який практичний висновок для інженера, який сьогодні будує продукти на LLM, а завтра, можливо, на моделях світу.

Ключові висновки

Передбачення наступного токена — потужний, але вузький спосіб учитися. Воно чудово працює там, де мова сама є полем міркування: код, іспити, документи. Воно погано вчить інваріантам фізичного світу, які дитина схоплює через спостереження.

JEPA передбачає у просторі представлень, а не в пікселях. Система спочатку кодує спостереження, відкидає непередбачуваний шум і вчиться зв’язку між «хорошими видами» однієї й тієї ж сцени. Це інша мета навчання, ніж генерація тексту чи відеокадру.

Гіпотеза платонічного представлення перетворилася на теорему для JEPA. Якщо різні модальності дивляться на один світ і пари позитивних прикладів пов’язують одні й ті самі стани світу, окремо навчені JEPA збігаються до одного представлення з точністю до повороту.

Цифра «у 600 разів менша» стосується узгодженості представлень, а не універсального коефіцієнта інтелекту. Текстовий JEPA на 109M обійшов мовні моделі до 72B на порівняльних тестах вирівнювання з образом — не на математиці, коді чи діалозі. Плутати ці осі небезпечно.

Для продукту важливі два горизонти. Близький: цифрові двійники складних установок, робототехніка, мультимодальне вирівнювання без гігантського масштабу. Дальній: домашній робот і «універсальна модель світу» поки залишаються дослідницькою ставкою, а не готовою платформою.

Одна траншея Кремнієвої долини

Наприкінці 2025 Лекун пішов з Meta, де понад десять років очолював напрям ШІ, і разом із командою запустив лабораторію Advanced Machine Intelligence — AMI Labs — зі штабом у Парижі та вузлами в Нью-Йорку, Монреалі й Сингапурі. У березні 2026 лабораторія оголосила раунд на $1,03 млрд за оцінки близько $3,5 млрд до грошей. Серед інвесторів — фонд Безоса (Bezos Expeditions), Nvidia, Samsung, Toyota Ventures і довгий список європейських та азійських фондів.

Причина відходу, яку він повторює публічно, звучить майже по-інженерному. Уся долина копає одну траншею: великі мовні моделі. Компанії переманюють одних і тих самих людей, купують одні й ті самі прискорювачі й не можуть звернути вбік — відставання від «спільної лінії» виглядає дорожчим за ризик глухого кута. Для публічної компанії такий фокус може бути раціональним. Для дослідника, який вважає, що шлях до людського рівня інтелекту лежить через розуміння фізичного світу, це глухий кут.

Важливо відокремити риторику від ставки. Лекун не стверджує, що ChatGPT, Claude чи Gemini марні. Він стверджує інше: масштабування мовних моделей саме по собі не дасть загального штучного інтелекту і не замінить робота-помічника вдома. Це різні задачі. Галузь надто довго вимірювала прогрес одним лінійним метром — числом параметрів і токенів.

Скільки «світу» бачить дитина і скільки тексту ковтає LLM

Лекун любить простий розрахунок. Сучасну велику мовну модель навчають приблизно на 20 трильйонах токенів. Якщо грубо взяти три байти на токен, виходить порядку (10^{14}) байт — порівнянно з тим, скільки зорової інформації проходить зоровим нервом за перші чотири роки життя дитини (близько 16 тисяч годин неспання за потоку порядку 2 МБ/с).

Цифри порядку величини, не лабораторний протокол. Сенс у порівнянні. Людина за ті самі байти виносить із досвіду закони фізики побуту: об’єктність, сталість, причинність, крихкість скла, інерцію м’яча. Модель за ті самі байти тексту виносить статистику мови. Обидві системи «бачили» величезний обсяг даних. Тільки дані влаштовані по-різному, і мета навчання — теж.

Звідси улюблений контраст Лекуна. Підліток вчиться водити за десятки годин практики. Рівень 5 автономного водіння досі впирається в інфраструктуру, рідкісні випадки й величезні корпуси. Домашній робот, який гнучко прибере кухню чужої квартири, залишається демонстрацією, а не товаром. Натомість мовні моделі вже складають адвокатські іспити й пишуть робочі чернетки коду. Успіх там, де міркування живе в мові; відставання там, де потрібне стійке представлення фізичного світу.

Для інженера це корисний фільтр. Якщо ваш продукт — пошук за регламентами, генерація звітів, помічник розробника — LLM уже правильний інструмент. Якщо продукт — маніпулятор на складі, цифровий двійник турбіни чи робот удома, однієї «більшої моделі чату» зазвичай мало: потрібна модель динаміки, планування й пам’ять про стан середовища.

Що таке JEPA без маркетингових ярликів

Joint Embedding Predictive Architecture (JEPA) — родина архітектур, де система не зобов’язана відновлювати вхід попіксельно чи слово в слово. Спостереження (X) (і за потреби дія (A)) кодується в представлення. Майбутнє або пов’язане спостереження (Y) теж кодується. Передбачення йде в просторі цих представлень.

Уявіть футбольний матч. Генеративній моделі досить легко загрузнути в кольорі крісел трибуни й візерунку футболки вболівальника — деталях, які майже не допомагають зрозуміти, що форвард іде до воріт. JEPA якраз намагається зберегти те, що допомагає прогнозу: хто де, хто рухається, що ймовірно станеться далі. Непередбачуваний шум можна «викинути» з представлення, і прогноз стає грубішим за деталями, але точнішим за сенсом сцени.

Це близько до того, як людина ловить м’яч. Мозок не моделює кожну травинку й кожен порив вітру. Він тримає наближену траєкторію й оновлює її під час польоту. Лекун хоче навчити машини схожому стисненню: внутрішню модель світу, а не нескінченну генерацію поверхні.

Історично навколо цієї ідеї виросли I-JEPA, V-JEPA і прикладні гілки для керування. У 2026 лінія продовжилася компактними моделями світу на кшталт LeWM (~15M параметрів, навчання з однієї відеокарти за години) та ієрархічним H-JEPA, де різні рівні дивляться на різні часові масштаби.

Від гіпотези Платона до теореми для представлень

У 2024 дослідники Массачусетського технологічного інституту сформулювали гіпотезу платонічного представлення (Platonic Representation Hypothesis): із зростанням потужності різні нейромережі, навіть навчені на різних даних, дедалі частіше організовують внутрішні представлення схожим чином. Інтуїція красива, але без доведення вона не казала, коли подібність мусить з’явитися і як її прискорити.

Робота Балестрієро і Лекуна переводить спостереження в твердження для JEPA. В ідеалізованій моделі окремо навчені JEPA на різних модальностях збігаються до одного вкладення з точністю до повороту, якщо їхні позитивні пари пов’язують одні й ті самі стани світу, а мінімуми задачі єдині з точністю до повороту. Якщо пари розходяться, розсинхрон обмежений мірою цього розходження.

Ключовий практичний висновок автори називають поділом на «хороші види» (good views) і «погані види» (bad views). Хороший вид — два різні спостереження однієї сцени: фото собаки з фрисбі й текстовий опис того самого моменту, два кадри з різних ракурсів, зображення й дія. Поганий вид — псування одного спостереження: маскування шматків тексту, випадкові обрізки кадру, продовження того самого документа. У першому випадку представлення тягнеться до світу. У другому — до особливостей модальності.

На цьому тлі передбачення наступного токена виглядає як JEPA з поганими видами: позитивна пара — префікс і його продовження всередині одного документа. Звідси обережний, але сильний тезис статті: мовні моделі вирівнюються із зором здебільшого через масштаб, бо мета навчання погано заточена під спільне представлення світу.

Експеримент 109M проти 72B: що саме перемогло

Цифри, які гуляють роликами, варто тримати поруч із формулюванням метрики.

На корпусах текстів до веб-зображень (аж до порядків сотень мільйонів зображень) текстовий JEPA з 109M параметрів досяг показника узгодженості близько 0,184 на порівняльному тесті з лінії гіпотези платонічного представлення. Qwen 2.5 на 72B — близько 0,154; Llama 3 на 7B — близько 0,151; текстовий кодувальник CLIP — нижче. Різниця в розмірі — сотні разів. За вибіркою на тому самому корпусі «хороші види» досягли порівнянного вирівнювання приблизно на 21,6M прикладах там, де передбачення наступного токена потребувало порядку 900M — приблизно у 42 рази більше прикладів.

Ще один прикладний жест зі статті: після навчання окремі кодувальники можна зв’язати одним поворотом і отримати підпис до зображення без важкого спільного донавчання. На тесті без готових пар текст–зображення текстовий JEPA також показав сильний результат без прикладів задачі відносно мовних моделей до кількох мільярдів параметрів.

Тепер межі — і вони важливіші за заголовок.

  1. Перемога виміряна на узгодженості представлень текст↔образ і споріднених метриках, не на MMLU, HumanEval чи користувацькому чаті.
  2. Незалежні лабораторії ще мають відтворити повний контур. Теорема тримається за обумовлених умов (відбілювання, спектральний розрив, характер пар).
  3. Масштабування JEPA до розмірів передових промислових систем — відкрите питання. Історія ШІ повна методів, які гарно працювали на «малому» й губили перевагу на «великому».
  4. Моделі світу в літературі інколи виявляються чутливими до дрібних візуальних зсувів — кольору тла, освітлення. Для робота це не академічна причепа, а ризик безпеки.

Іншими словами: архітектура й дизайн позитивних пар можуть бити грубий масштаб на задачі вирівнювання. Це не доказ, що галузь «йшла не туди» в усьому іншому.

Ієрархія, роботи й кішка з 250 мільйонами нейронів

Лекун часто порівнює сучасних роботів із домашньою кішкою. У кішки порядку 250 мільйонів нейронів, і вона впевнено стрибає на вузький підвіконня, обходить перешкоди й будує короткі плани рухів — без трильйонів токенів тексту. Метафора навмисно провокаційна, але напрям ясний: інтелект дії росте з моделі середовища, а не з енциклопедії.

LeWM (LeWorldModel) показує інженерний стиль цієї ставки: компактна модель світу на базі JEPA, стабільно навчувана цілком від сирих пікселів на двох членах функції втрат, планування в прихованому просторі ознак швидше за важкі базові моделі світу на низці контрольних задач. H-JEPA додає поверхи: кожен рівень передбачає далі у своєму просторі й на своєму часовому кроці; планування йде згори вниз, а на середовищі Visual AntMaze автори повідомляють зростання успіху з 18% до 73% за меншого обчислювального навантаження планувальника.

Паралельно інші групи будують сусідні шматки пазла. Google DeepMind розвиває родину Genie для інтерактивних світів. World Labs Фей-Фей Лі працює над моделюванням просторів із невеликої кількості фото. Nvidia публікує симулятори й моделі світу для робототехніки; окремі університетські колаборації показують перенесення політики зі швидкого симулятора м’яких об’єктів у реальність.

Картина 2026 року вже не «LLM проти всього». Формується друга гонка: хто краще навчить машину тримати стан світу, передбачати наслідки дії й планувати на кількох горизонтах часу. Мовні моделі в цій гонці не зникають — вони стають інтерфейсом, бібліотекою навичок і шаром пояснення. Але ядром автономії Лекун і AMI бачать саме модель світу.

Що це змінює в економіці обчислень

Якщо узгоджене представлення світу можна отримати помітно меншим числом параметрів і прикладів, змінюється не лише академічний рейтинг. Змінюється місце, де може жити інтелект: смартфон, окуляри, бортовий комп’ютер робота, контролер установки — без постійного каналу до дата-центру на десятки тисяч прискорювачів.

AMI Labs прямо каже, що перші комерційні застосування швидше з’являться в промисловості: цифрові двійники електростанцій, авіадвигунів, хімічних виробництв. Там модель світу — це симулятор стану обладнання й раннє попередження, а не домашній асистент із пилососом. Масовий побутовий робот відсувається далі дорожньою картою.

Великі розробники LLM при цьому можуть просто вбрати шматки ідеї: кращі види, передбачення в прихованому просторі ознак, ієрархію горизонтів. Тоді «перемога» JEPA буде не зміною постачальників, а зміною цільової функції всередині тих самих корпорацій. Для команди продукту важливіше не вболівати за бренд лабораторії, а розуміти, яку задачу ви оптимізуєте: правдоподібний текст чи стійкий прогноз середовища.

Пов’язані матеріали на сайті: агентна інженерія, залізо для ШІ, локальні MoE і пам’ять.

Чотири прогалини до людського рівня — і що закриває JEPA

Лекун зазвичай розкладає шлях до людського рівня інтелекту на кілька великих дір: розуміння фізичного світу, довготривала пам’ять, міркування й планування складних послідовностей дій. Сучасні спроби «навчити LLM міркувати» через ланцюжки підказок і зовнішні інструменти він часто називає надто тонкими: вони імітують хід думки в тексті, але не тримають стійку модель середовища.

Нова лінія JEPA закриває здебільшого перший пункт — і то частково. Вона пропонує ефективніший спосіб будувати представлення світу й пов’язувати модальності. H-JEPA додає шматок планування на різних часових масштабах. Довга пам’ять як окрема підсистема й універсальне міркування «як у дорослої людини» цими роботами самі по собі не з’являються.

Звідси тверезий фільтр для заголовків про загальний штучний інтелект. Навіть якщо завтра незалежні лабораторії повністю підтвердять цифри вирівнювання, ми отримаємо сильну цеглину архітектури, а не готовий загальний інтелект. Цеглина важлива: без неї стіна не стоїть. Але плутати цеглину з будинком — звичка клікбейту, не інженерії.

Для команд, які будують агентів поверх LLM, практичний переклад такий. Інструменти, RAG і «мисленнєві» промпти закривають роботу зі знанням. Щойно агенту потрібно утримувати стан складу, цеху чи квартири й обирати дію на хвилини вперед, вам потрібен контур моделі світу — хоча б спрощений симулятор чи явний граф стану — а не ще один шар тексту навколо тієї самої чат-моделі.

Що зробити сьогодні, якщо ви будуєте на LLM

Не потрібно завтра викидати GPT-клас із продакшену. Потрібно перестати міряти будь-який прогрес однією віссю «більше параметрів».

  1. Розділіть задачі продукту. Мова, документи, код — зона сили LLM. Фізика, довгий план дій, стійкість до зміни освітлення й тла — зона, де варто дивитися на моделі світу, симулятори й класичне керування.
  2. Перевірте мультимодальне вирівнювання як окрему метрику. Якщо ви склеюєте текст і зображення, виміряйте узгодженість представлень, а не лише якість підпису «на око». Ідея «хороших видів» корисна вже зараз: навчайте на парах «одна сцена — різні спостереження», а не лише на псуваннях одного файлу.
  3. Для роботів і цифрової фізики почніть із симулятора й компактної динаміки. Публічні гілки LeWM / H-JEPA і сусідні симулятори дають точку входу без бюджету передової дослідницької лабораторії.
  4. Тримайте скепсис до клікбейту. «У 600 разів менша й розумніша» майже завжди означає «краща на вибраній осі». Читайте протокол: яка метрика, який корпус, які базові лінії, що не вимірювали.
  5. Слідкуйте за відтворюваністю. До незалежного повторення й масштабування ставтеся до цифр як до сильного сигналу напряму, а не до заміни дорожньої карти.

Практичний мінімум на тиждень: виписати три користувацькі сценарії свого продукту й позначити кожен — «мова», «світ» або «гібрид». Для гібридів заздалегідь вирішити, де потрібна модель стану середовища, а де достатньо RAG і LLM.

Часті запитання

Чи означає результат JEPA, що трансформери застаріли?

Ні. Багато JEPA самі використовують трансформерні кодувальники й блоки передбачення. Суперечка не про «вбити механізм уваги», а про мету навчання і простір, у якому робиться прогноз.

Чи можна вважати 109M-модель новим класом LLM?

Формально це текстовий JEPA для вирівнювання представлень, а не чат-модель загального призначення. Називати її «новим класом LLM потужнішим за GPT» зручно для заголовка і шкідливо для інженерії.

Коли чекати домашнього робота на JEPA?

Лекун і AMI говорять про роки досліджень і спочатку про індустріальні застосування. Побутовий універсальний робот залежить не лише від архітектури, а й від даних взаємодії, безпеки, вартості заліза й надійності у відкритому світі.

Чи варто стартапу «переписувати все на моделі світу»?

Зазвичай ні. Варто вибрати вузьке місце, де LLM систематично бреше через відсутність моделі середовища, і там поставити симулятор, прогноз динаміки чи представлення в дусі JEPA. Решту продукту можна залишити на перевіреному стеку.

Що почитати далі

Висновок

Відео в дусі «загальний ШІ знайдено, трансформери в архів» правильно ловлять нерв моменту і майже завжди перегинають висновок. На столі 2026 року лежить тверезіше формулювання. Мовні моделі залишаться інфраструктурою роботи зі знанням. Але шлях до систем, які діють у фізичному світі так само впевнено, як балакають про нього, найімовірніше потребуватиме іншої навчальної мети: будувати стиснене, спільне представлення світу й передбачати наслідки в ньому.

JEPA, теорема про платонічні представлення, LeWM і H-JEPA — не фінал цієї історії. Це набір доказів і прототипів, що важіль «які види світу ми вважаємо одним і тим самим» може бути сильнішим за важіль «наскільки величезна модель». Якщо перевага втримає масштабування, наступний великий зсув у ШІ може прийти не з ще одного гігантського дата-центру, а з розумнішої постановки задачі навчання.

Коментарі

Завантаження коментарів…