Артем Колков › arthomas Сбер ID
Преобразуем будущее с помощью интеллектуальных решений
Рейтинг
1 696
№ 678 в каталоге
Отзывы
0
Профессионализм
-/10
Коммуникация
- /10
Опыт работы
26 лет
На сайте с
2026 года
Юридический статус
Самозанятый

ИИ-менеджер первой линии на своём сервере: отвечает клиентам 24/7 по товарам, ценам и наличию

Используемые навыки Docker Large Language Models (LLMs) Python Retrieval-Augmented Generation Telegram API

Описание

Небольшой компании нужно было разгрузить менеджеров: клиенты писали с вопросами о товарах, ценах и наличии, а ответы приходили через час-два, ночью — только утром. Часть обращений терялась, часть уходила к конкурентам.

Требования были простые и жёсткие:

— отвечать только по прайсам и документам компании, без выдумок и «примерных» цен;

— работать круглосуточно, включая выходные;

— держать данные на своём сервере, не отдавая переписку в облако;

— управляться без программиста: обновили прайс — бот отвечает по-новому.

Решение

Собрал бота с поиском по документам (RAG) и админ-панелью. Работает в Telegram и MAX: платформы выбираются при установке — один мессенджер или оба сразу, на одной базе знаний.

• Первая линия для клиентов: ассортимент, цены, наличие, сроки — ответ за секунды, без ожидания менеджера.

• Загрузка документов прямо в бота: PDF, DOCX, XLSX, TXT, MD, CSV. Текст режется на фрагменты, индексируется и ищется по смыслу, а не по точным словам.

• Ответы строятся только по найденным фрагментам. Если в базе ответа нет, бот говорит об этом прямо, а не придумывает.

• Роли и системные промпты: один бот может быть справочником для сотрудников и консультантом для клиентов — переключение без переустановки.

• Несколько языковых моделей: LM Studio, Ollama и любой OpenAI-совместимый API. Модель меняется из админки, код не трогаем.

• Голосовой ввод, приём фото и файлов — вопрос можно задать как удобно.

• Админ-панель в Telegram и MAX: база знаний, статистика, дневные лимиты, доступы по инвайтам, управление ролями. Настройки общие для обоих мессенджеров.

• Включение и отключение поиска по базе (RAG) одной кнопкой — из любого мессенджера, состояние применяется сразу везде.

• Статистика раздельно: сколько файлов в базе и на сколько фрагментов они нарезаны.

• Развёртывание в Docker вместе с MySQL и Redis. Установщик для Windows и Linux: проверка окружения, генерация паролей, самодиагностика после запуска.

• История чатов в Redis, лимиты на пользователя и защита от лишних расходов на токены.

• Защита от манипуляций.

Результат

Бот принял на себя первую линию: отвечает входящим клиентам круглосуточно — по ассортименту, ценам, наличию, срокам, условиям доставки и оплаты. Вопрос, на который раньше ждали менеджера, теперь закрывается за секунды — ночью и в выходные тоже.

Что это дало бизнесу:

— заявки не теряются: клиент получает ответ сразу, а не уходит к конкуренту, пока менеджер освободится;

— менеджеры занимаются сделками, а не десять раз в день отвечают «сколько стоит» и «есть ли в наличии»;

— один бот работает и в Telegram, и в MAX: клиенту не нужно ставить отдельное приложение;

— база знаний обновляется из админки: изменили цену или условия — бот отвечает по-новому, без программиста;

— документы и переписка остаются на вашем сервере: наружу уходят только запросы к языковой модели.

Для внутренних задач есть корпоративный вариант: тот же бот отвечает сотрудникам по регламентам, инструкциям и договорам — вместо поиска по папкам и вопросов коллегам.

Проверено на практике: развёрнуто на Windows, на чистой Ubuntu с WSL и на хостинге Amvera. Установка занимает около 15 минут, база и история сохраняются между перезапусками.

Демо доступно по ссылкам: бот отвечает по загруженной инструкции и цитирует документ, а не придумывает.

Оценили проект: