Задача: малый бизнес тонет в однотипных обращениях клиентов — поддержка отвечает часами, а нанять смену операторов дорого. Нужен агент, который сам отвечает клиентам по базе знаний компании, а вопросы, которых в базе нет, не «фантазируя», передаёт живому оператору.
Цель: агент должен отвечать мгновенно и строго по фактам из базы, не выдумывать ответы (защита от галлюцинаций — критично: выдуманный ответ по биллингу стоит дороже, чем пауза), вести память диалога и работать fail-closed: при любом сбое клиент получает живого оператора, а не ошибку.
Конвейер: обращение → rate-limit → классификация LLM (категория, приоритет) → поиск по базе знаний (TF-IDF, топ-3 источника) → ответ строго по найденным документам → confidence-гейт → ответ клиенту ИЛИ эскалация оператору.
Ключевые решения:
- защита от галлюцинаций: pydantic-сchemas валидируют каждый ответ LLM; нет рел ENGLISH
Работающий агент: 32 автотеста, живой демо-бот в Telegram, код открыт: github.com/TheBad007/support-ai-agent.
Подключение к данным заказчика = положить свои документы в папку базы знаний — логика агента не меняется. LLM переключается конфигом (Claude / OpenAI), есть mock-режим для разработки без ключей.
Применение: поддержка SaaS и интернет-магазинов, FAQ-боты, первичная квалификация лидов.