Архитектурная сессия — ИИ-система, которая не упадёт через месяц

01 · Ситуация

Прототип работал на демо. В production через неделю — проблемы по трём осям.

Стартап строил ИИ-ассистента для обработки входящих заявок в B2B-продажах. Команда из 3 разработчиков + продакт-менеджер.

В продакшене начались проблемы: агент «забывал» контекст между сессиями, давал несогласованные ответы разным пользователям, иногда галлюцинировал в ключевых блоках.

Основатель искал не разработчика — искал архитектурный совет от кого-то, кто уже прошёл этот путь.

02 · Что разобрали за сессию

Три слоя системы. Причина → Решение.

Слой 01

Память агента

Симптом

Данные о клиентах и контексте сделок терялись между сессиями.

Причина

Агент хранил состояние только в контекстном окне.

Решение

Отдельный слой памяти с векторным поиском по истории клиента.

Слой 02

Последовательность поведения

Симптом

Агент вёл себя по-разному в зависимости от порядка сообщений.

Причина

Нет устойчивых правил, которые сохраняются через весь диалог.

Решение

Структура инструкций с неизменяемым ядром поведения.

Слой 03

Галлюцинации в ключевых блоках

Симптом

Агент придумывал детали продукта, которых нет.

Причина

Агент работал только с промптом, без заземления на актуальные данные.

Решение

RAG (поиск по базе знаний перед ответом) — агент отвечает только на основе реальных данных о продукте.

03 · Итог

Команда переписала за 2 недели.

Следующий цикл тестирования

0

случаев потери контекста между сессиями

0 из 50

галлюцинаций по продуктовым деталям в тестовых диалогах

Стоимость сессии: вычтена из стоимости последующего ретейнера.

Архитектура ИИ-системы, которая не упадёт
в production через месяц.

Три слоя системы. Причина → Решение.

Память агента

Последовательность поведения

Галлюцинации в ключевых блоках

Команда переписала за 2 недели.

Архитектурная сессия под вашу систему?