Свій інференс для 25 розробників: кеш префікса важливіший за модель

Стенд на vLLM і Blackwell: hit rate кешу 96,9%, відношення вхід/вихід 452:1 і чому свій контур беруть не заради економії.