
Атакующие проверки LLM-приложений: плейбук состязательного тестирования в 2026
Как регулярно проверять RAG и агентов на враждебном вводе: стенд, каталог сценариев и порог обходов.
Новости для разработчиков без шума — My Dev News в Telegram.

Тег
Все статьи блога с этим тегом.

Как регулярно проверять RAG и агентов на враждебном вводе: стенд, каталог сценариев и порог обходов.

ИИ-агенты меняют разработку ПО: опытный программист параллельно поручает реализацию, тесты, аудит и документацию. Рабочая модель, ограничения и навыки инженера, который управляет исполнителями, а не только пишет код.

Обзор на Habr: гиперсети, Kilobyte Models и SeedLM — компактный «рецепт» вместо гигабайтных матриц и чем платят за экономию места.

Matryoshka на TypeScript держит документ на сервере и отвечает короткими ярлыками. Проверка «Войны и мира» и журнала без ключа языковой модели.

Почему модели со смесью экспертов требуют много памяти при малом числе активных параметров, как работают квантование и выгрузка слоёв, и почему 64 ГБ RAM плюс 16 ГБ VRAM — серьёзный старт для домашнего локального ИИ.

ИИ обесценивает не профессии целиком, а способы создавать ценность. Что теряют приложения, курсы и роли — и где растут данные, интеграция и ответственность.

Reddit, медиасделки OpenAI, архив Spirit Airlines и скан книг Anthropic — почему обучение моделей всё чаще начинается с чека, а не с открытой сети.

Microsoft, GitHub и METR: ИИ может ускорять задачу на десятки процентов, а в зрелых репозиториях — замедлять. Разбираем скорость генерации, качество и иллюзию продуктивности.

Кейс с Habr: большая модель на NPU через FastFlowLM, ловушки с памятью, очередью и отменой запросов, окупаемость против облака.

Дневник сессий с Claude Code: 277 часов агента, 94 подтверждённые находки, где эталон даёт урожай и почему час агента не заменяет час человека.

Детекция объектов простым инженерным языком: чем YOLO отличается от классификации и сегментации, как устроены рамка, уверенность и подавление дублей, зачем готовые веса и свой датасет, и как связать детектор с OCR, линиями, графом и языковой моделью на технологических схемах.

Тим Деттмерс: локальный вывод больших моделей и автономные исследования без гонки за самым большим числом видеокарт.

На 500 страницах документации полный контекст дал около 34% точности. Маленькая модель отбирает факты до дорогой.

Как устроен программный стек большой языковой модели: вычисления, память, обмен данными и параллелизм обучения и вывода.

Полевые заметки: как в пилоте режем фото бланка УЗТ на клетки — морфология, проекции, осторожная перспектива — и какие ещё приёмы разрезки листов распространены в индустрии.

Полевые заметки: локальная CRNN на кропах толщины, CTC, 640 тыс. параметров, конфликт пустых клеток и почему Transformer не первый шаг.

Третья заметка пилота УЗТ: диагностика ошибок, один рычаг за раз, эпохи, набор и когда модель уже не надо «дожимать» процентами.

Продолжение пилота УЗТ: пять видов клетки, чернила, повтор вверх по колонке, зачёркивание и почему эвристика ещё не заменяет крошечный классификатор.

ИИ для радиографии сварки: данные, разметка, детектор, правила и эксперт. Почему 88 публичных снимков — не заводской набор.

ИИ удешевляет код, но не систему. Кто будет востребован через 5–10 лет, почему junior в зоне риска и чему учиться в 2026.

Векторный поиск находит похожее, но не объясняет решение. Как хранить версию нормы и источник рядом с ответом модели.

Полевые заметки пилота: компьютерное зрение, OCR, vision LLM, confidence и review оператора до ERP — без претензии на готовый гайд.

Почему ассистенты генерируют «правдоподобный пример», а не прод: секреты в коде, SQL-склейка, дыры в доступе. Таксономия и сканер ai-vuln-scan.

North Small Translate: 218 млрд параметров, 25 млрд активных, 50 языков. WMT26 83,60 и лицензия CC BY-NC — сигнал эпохи узких промышленных моделей.

Разбор Voodoo.js: HTML-первый без сборки, JSX в разметке, реактивность без Virtual DOM, честные бенчмарки и почему идея важнее скорости в эпоху ИИ-кодинга.

Карта слоёв Voodoo.js: обход DOM, области видимости, реактивность, цена отказа от сборки, размер пакета, разрастание возможностей и HTML как артефакт для ИИ.

Qwen 3.8 27B на публичных конечных точках Cerebras: ~1500 токенов/с, 64k/128k контекст, без прореживания в проде.

Практический путь от классификации одной цифры до распознавания последовательностей на реальных бланках: CNN, CTC, CRNN, TrOCR, разметка из базы, эксперименты и production-пайплайн без лишней модели.

Model Context Protocol — каталог инструментов для приложений ИИ: сервер, клиент, JSON-RPC и пример PayIQ на FastMCP.

Как спроектировать локальный контур качественного анализа с Mistral Small 3.1, Ollama и FastAPI — без ложных обещаний ИИ.

Права доступа в промышленном RAG нельзя оставлять модели. Как изолировать арендаторов, применить список доступа до извлечения, закрыть скрытые каналы утечки и измерить полноту при жёстких фильтрах.

Конвейер приёма документов для промышленного RAG: неизменяемый оригинал, разбор PDF и сканов, таблицы без сломанных ячеек, карантин парсера, версии и идемпотентность.

ИИ не развивается равномерно: в одних областях он уже профессиональный инструмент, в других — впечатляющая демонстрация. Шкала зрелости, оценки по десяти направлениям и главный вопрос — не «умеет ли», а «насколько надёжно и автономно».

MoE на CMP 90HX терпимо, dense — нет: карта ограничена по типам вычислений. Модификация драйвера через V67 даёт почти ×2, но не снимает все ограничения.

Как текст становится токенами и векторами, что делает Transformer, чем обучение отличается от RAG, и как из Markdown собрать поиск знаний для модели.

Сначала продуктовое решение и ограничители, потом модель: офлайн-оценка как интеграционные тесты и разбор ошибок.

Уровни адаптации языковых моделей: что меняет веса, что подключает знания и инструменты, и как выбрать подход без «дообучения на PDF».

Минцифры, УКУ и lang-uk открыли на Hugging Face открытый рейтинг LLM по украинскому: перевод, пересказ, поиск, логика, ЗНО.

Почему облегчённые модели плодят вызовы инструментов, как бенчмарки врут и какие метрики считать вместо цены за миллион токенов.

Prime Intellect сравнил 18 моделей на `nanoGPT`: лучший валидированный счёт у Kimi K3kimi-code, плюс 41 полная траектория агента.

Пять слоёв формальной постановки задачи для ИИ-кода: инварианты, контракты данных, гонки, отказы и наблюдаемость вместо масок персонажа.

Стенд на vLLM и Blackwell: hit rate кэша 96,9%, отношение вход/выход 452:1 и почему свой контур берут не ради экономии.

Виды проверок LLM: открытые наборы задач, арены, модель-судья, безопасность, регрессия продукта и онлайн-сигналы — что каждый тест проверяет и чего не видит.

Qdrant, Pinecone, Weaviate, pgvector и Milvus: фильтры, гибридный поиск, мультитенантность и квантование — как выбирать хранилище памяти агента.

crewai-go повторяет Agent, Task и Crew на чистом stdlib: один бинарник, быстрый холодный старт и явные зависимости задач.

Четвёртая часть серии про автодополнение: Language Server Protocol даёт типы, определения и ссылки — слой поверх текстового поиска по репозиторию.

Спецификация как главный артефакт разработки с ИИ: цикл спека → план → код → проверка, инструменты 2026 и где SDD ломается.

Как выбрать и эксплуатировать векторную базу: алгоритмы поиска, фильтры, арендаторы, PostgreSQL с pgvector против отдельного хранилища.

Интерпретатор JS в песочнице заменяет часть вызовов инструментов и арифметику LLM. Разбор статьи на Хабре про LM Studio и LangChain.

Runway Aleph в продакшене: манифест шотов, одна операция на проход, preserve-клаузы, человеческий QC и кэш промптов.

Anthropic публикует system prompts: не «магические» роли, а правила решений, инструментов, неопределённости и UX длинных агентных задач.

Почему кодовые ассистенты не ускоряют релиз монолита без трекера, среды, данных и MCP — кейсы SimpleOne на low-code.

Объём агентных запросов на слияние превышает ёмкость ревью: долг проверки, границы человека и модели, контрольный список после разницы изменений, человеческие шлюзы и правила команды для лёгкого и глубокого ревью в 2026.

Контрпримеры и доказательства от моделей, побег из песочницы, сертификаты Lean: не путать цепочку рассуждений с верным выводом.

Эволюция IDE и внутренняя механика AI-инструментов: LSP, индексация репозитория, сборка контекста, режимы Tab, чат и агент, MCP и сравнение Cursor, Copilot, JetBrains, CLI-агентов — что происходит с кодом под капотом в 2026 году.

Подборка tech-adjacent кино и сериалов: стартапы, сбои, AI, команды и этика — с критериями отбора и честными оговорками. Не IMDb-топ ради кликов.

Практическая модель агентной разработки: контекст, декомпозиция задач, циклы проверки, многоагентная оркестрация, безопасность, метрики и роль инженера в жизненном цикле разработки 2026 года.

Как построить инженерный контур оценки ИИ: золотые наборы, метрики поиска и генерации, регрессионные барьеры в CI, теневой трафик, выпуск и FinOps LLM-шлюза.

Практическая модель вывода ИИ-агентов и RAG-систем в промышленную эксплуатацию: политики как код, узкие права инструментов, согласования человеком, проверка атак и аудит, пригодный для разбора инцидентов.

Плейбуки отказоустойчивости LLM с ограниченными повторами и честными режимами деградации.

Как спроектировать шлюз ИИ с маршрутизацией моделей, бюджетами токенов и контролем стоимости: политики, кэш, отказоустойчивость и юнит-экономика без потери качества ответов.

Устойчивая маршрутизация моделей вокруг контрактов задач, а не названий поставщиков.

Многопользовательский семантический кэш без межарендного раскрытия данных и устаревшей авторизации.

Токенные бюджеты и chargeback через метрики полезной работы и ясных владельцев.

Практическое руководство по промышленным RAG-системам: подготовка корпуса, гибридный поиск, переранжирование, оценка качества, безопасность, наблюдаемость и поэтапный план внедрения.

Практическая архитектура защиты от промпт-инъекций в RAG и агентных системах: происхождение документов, изоляция контекста, минимальные полномочия, контроль исходящего трафика, песочницы и проверяемая многоуровневая защита.

Контролируемые эксперименты с разбиением документов с сохранением структуры и цитат.

Эталонный набор для оценки поиска и ответов RAG: разметка, версии и контроль регрессий.

Сочетание BM25, векторного поиска и reciprocal-rank fusion с измеримыми производственными ограничителями.

Эксплуатация этапа переранжирования RAG с явными бюджетами качества, задержки и стоимости.

Практический разбор Model Context Protocol после релиза 2026-07-28: отказ от сессий, MRTR, маршрутизация по заголовкам, авторизация, shadow MCP и как писать серверы, которые переживают нагрузку.

Разбор MCP-сервера для Яндекс Вебмастера: восемь инструментов вместо десятков методов API, вход через OAuth и безопасные действия агента.

Национальная научная инициатива OpenAI даст лабораториям и университетам доступ к моделям, но решающими остаются проверка и контроль.

Больше вызовов LLM не всегда означают больше расходов: считать нужно стоимость закрытого обращения, а не одного ответа.

CVE-2026-7482 в Ollama показывает: локальная LLM может раскрыть память процесса, если сервер доступен из сети и принимает недоверенные модели.

Moonshot AI открыла веса Kimi K3: как устроена MoE-модель, почему 1,4 ТБ меняют планы развёртывания и что проверить в лицензии.

Разработчик собрал небольшой ИИ-трансформер на PyTorch, обучил его на рецептах и запустил на CPU без внешних API.

Открытые веса превращают языковые модели в платформу: разработчики адаптируют, запускают и дополняют их своим стеком.

Автор запустил Gemma 4 26B на Xeon E5 v2 без GPU. Разбираем требования, заявленные 12 токенов/с и важные оговорки.

Как разбиение текста, векторные представления, pgvector, контроль расходов и наблюдаемость делают RAG-систему устойчивой.

Как запускать открытые LLM в продакшене: управлять инференсом, выбирать модели по задачам и гарантировать формат ответов.

Colibri запускает GLM-5.2 MoE без GPU: постоянная часть в ОЗУ, эксперты на NVMe. Разбираем подход, скорость и реальные сценарии.

Тестовая MiMo-V2-Pro под именем Hunter Alpha собрала триллион токенов: решающими оказались качество, цена и ограничения для данных.

Небольшой скрипт на Node.js выделяет сигналы из вакансии и собирает вопросы, пробелы в опыте и недельный план подготовки.

Разбор подхода с Claude Desktop, DuckDB и песочницей: расчёты выполняют инструменты, а ИИ получает схему данных и строгие ограничения.

Как обернуть локальную LLM в FastAPI, ограничить выполнение SQL и не потерять скорость на CPU.

ИИ уже пишет рабочие функции, но продукт — это архитектура, контекст, риски и ответственность. Граница между кодом и инженерией, кейс легаси на 15 лет и навыки разработчика в 2026.

Унаследованный код на миллионы строк, сотни таблиц и десятки интеграций: что ИИ понимает за часы, где ошибается, как внедряют RAG и индексацию репозитория, и почему эксперт + модель быстрее, чем любой из них по отдельности.

Кейс с Habr: от Vanessa Automation к нативному TestClient через Python — где Codex застрял на неделю, Fable 5 за сутки собрал карту протокола для qa-mcp.

Как получать JSON-транскрипты с таймкодами через API на RapidAPI — для LLM, векторного поиска и субтитров без хрупкого парсинга страницы.

Обзор Shumai — платформы для хранения медиа, покадровых комментариев, совместной работы и ИИ-агента с семантическим поиском. Развёртывание через Docker Compose.

Блок-схемы, UML, BPMN, сетевые топологии и чертежи: почему PNG ≠ диаграмма, что дают OCR, векторизация, CAD, компьютерное зрение и VLM в 2025–2026, и какая цепочка реально работает.

Разбор контентной гонки 2025–2026: почему массовая генерация не даёт линейного роста, как поисковики оценивают сайт целиком, и что работает вместо контент-ферм.

Эксперимент с домашним чат-ботом: как дообучить крошечную локальную LLM через Unsloth и двухбуквенные коды категорий вместо имён меток.

Практический гайд по NeuralBridge SDK: мультипровайдерный failover, каскадное самовосстановление и наблюдаемость для OpenAI-совместимых LLM-вызовов в Python.

80+ млн строк метаданных по 40 млн публичных репозиториев: классификация языка README, issues и PR под CC0 — для оценки и обучения мультиязычных инструментов разработки.

Честный взгляд senior-разработчика: Agent = Model + Scaffold, context engineering, фабричная модель и почему «vibe coding» не масштабируется.

Google Apps Script, скрытый OCR Drive API, ротация ключей Gemini и LockService — пайплайн каталогизации архива на Habr.

Вебинар Platform9, Monday.com и PlayStation: SDLC вокруг ИИ, роль «инженера-оркестратора» и узкие места ревью.

Сравнение на задачах со схемами и инструкциями: DeepSeek 38:33, один regex вместо двух, меньше лишних деталей.

Один вход, вес и смещение, эпохи обучения и линейная граница — фундамент нейросетей без фреймворков.

Google Genkit для Go: схемы ответов, многошаговые сценарии, инструменты, наблюдаемость и смена моделей без переписывания логики.

INSAIT выпустил Gemma 3–based модели 12B и 27B с поддержкой украинского, мультимодальность и инфраструктуру в Украине.

Сравнение на Dev.to: p99 около 0,9 с против 3,2 с, экономика API и схема «дешёвый поток + премиум по запросу».

40% команд называют безопасность главным барьером масштабирования agentic AI. Docker Sandboxes, seccomp и изоляция автономного кода.

Контекст на миллионы токенов, а обмен — в JSON. ULMEN LLM: около −44% токенов в тестах автора.

Вопрос на естественном языке → SQL через LLM, DuckDB in-process, три стадии и read-only guardrails для безопасности.

Препринт arXiv: метрика на KL-дивергенции между prior и posterior находит чужие патчи в обратных задачах без калибровочных данных.

Metrics Layer / Headless BI: единый исполняемый контракт метрик, отличие от каталога данных и почему LLM не должна сама изобретать SQL.

Меняют данные графика при том же вопросе — и ловят, где модель отвечала по памяти, а не по визуальному рассуждению.

Набор типовых вопросов, массовые прогоны, метрики доли упоминаний, тональности и точности фактов. II кв. 2026.

ReAct-агент с инструментами обходит ChatGPT и узкие legal LLM на кейсах слияний — RAG, web fallback, уточняющие вопросы.

ROUGE и BERTScore часто ставят высокий балл противоположным текстам. MATCHA штрафует контрфактуальные противоречия — до +20% к согласию с людьми.

Свой ChatGPT-подобный интерфейс к Ollama и OpenAI-совместимым API — пошаговый деплой с Let's Encrypt.

Пиксельные детекторы слабеют на ИИ-фото с людьми. Авторы предлагают проверять согласованность взгляда в кадре — +3,7 п.п. на сценах взаимодействия.

Честная роль llms.txt в подготовке к AI-поиску: карта сайта для агентов и миф о мгновенном росте цитирований. II кв. 2026.

Полный практический гайд по robots.txt для AI-краулеров: GPTBot, ClaudeBot, PerplexityBot, OAI-SearchBot, разделение Google и Яндекс, Allow/Disallow, чеклист проверки после деплоя и связь с AISO. Актуально на II кв. 2026.

Whisper и краткое резюме через LLM ломаются в реальной практике: нужны движки клинического рассуждения и интеграция с EMR, а не «просто текст».

Google I/O Writing Challenge: мультиагентная оркестрация собрала ядро ОС без ручного кода — и меняет роль разработчика.

Chroma, Pinecone, Qdrant, Weaviate — не бенчмарки QPS, а packaging, API stability и путь из dev в production.

Код от Copilot/Cursor компилируется, но падает в браузере — зачем поднимать приложение и Playwright/Cypress в одном compose.

LanguageModel.create() без сервера и API-ключа — возможности, лимиты ~4K токенов и обязательный fallback на hosted LLM.

RankCaster AI собрал автономного тестировщика на Claude Code, agent-browser и read-only psql — регрессия с 48 часов до 40 минут.