Ассистент, который отвечает на вопросы, компанию уже не устраивал: сотрудник получал правильный ответ и дальше всё равно шёл руками заводить сделку, ставить задачу и писать письмо. Экономии не возникало, потому что узкое место было не в незнании, а в рутинных действиях.
Разделила действия по цене ошибки — это главное решение в таких системах. Читать данные и готовить черновик агент может свободно. Изменять записи, отправлять письма клиенту и трогать деньги — только с подтверждением человека, и подтверждение показывает конкретный текст и конкретные поля, а не абстрактное «выполнить действие».
Каждое действие сделала обратимым или хотя бы прослеживаемым: что сделано, по чьему запросу, какими данными, и как откатить. Без журнала такую систему нельзя ни отладить, ни защитить при разборе спорной ситуации.
Отдельно прописала, чего агент не делает никогда, даже если его об этом попросят в переписке: удаление, массовые рассылки, изменение прав доступа. Границу задаёт не промпт, а сами доступы.
Для каждого сценария задала критерий успеха, чтобы агент не считал работу выполненной по факту отправки запроса.
Агент готовит черновики, заводит и обновляет записи в рабочих системах, собирает письма и ставит задачи. Всё, что дороже ошибки, проходит через подтверждение с показом изменений. Журнал действий с возможностью отката.
Ассистент перестал быть справочником и стал частью процесса.