← Главная
Лаборатория / исследовательская заметка
Поведение в длинной цепочке
Как удерживать ограничения, когда агент делает много шагов.
Вопрос и границы
Вопрос исследования: какие правила стоит вынести из текста инструкции в саму систему? Например, запрет публикации без подтверждения лучше проверять перед действием, а не полагаться только на обещание модели.
Где проходит граница
Хороший ответ в одном диалоге не означает устойчивость на длинной серии задач. Интересны повторные прогоны, ошибки, способы остановки и восстановление после сбоя.
Это направление экспериментов, а не гарантия безошибочного автономного исполнителя.
Продолжить