AI-чат-бот поддержки и разрешения споров для маркетплейса Nixbuy

Используемые навыки LangChain Large Language Models (LLMs) Python Разработка бэкенда Чат-боты

Описание

Разработка backend-модуля AI-ассистента для поддержки покупателей, продавцов и администраторов маркетплейса Nixbuy.

Система должна была принимать обращения пользователей, определять их намерение, находить информацию в базе знаний и формировать ответ с учётом роли пользователя и контекста ситуации. Для спорных случаев требовалось выбирать сценарий обработки: предоставить автоматический ответ, предложить решение или передать обращение оператору.

В проекте я выполнял роль Lead ML Developer / LLM Backend Engineer. Отвечал за архитектуру LLM-сервиса, RAG-пайплайн, интеграцию языковой модели, backend API и хранение обращений.

Решение

Я спроектировал модульную backend-архитектуру на Python и FastAPI:

Запрос пользователя → Intent Mapping → RAG → LLM → Решение или эскалация

Система включала:

— определение типа пользовательского запроса;
— разделение сценариев для покупателя, продавца и администратора;
— классификацию обращений и спорных ситуаций;
— поиск релевантной информации в базе знаний;
— генерацию ответа через LLM;
— базовую арбитражную логику;
— сохранение обращений и результатов обработки;
— передачу сложных случаев оператору.

Для построения RAG использовались LangChain, ChromaDB и HuggingFace embeddings. База знаний была организована в формате Markdown, разбивалась на фрагменты и индексировалась для семантического поиска.

DeepSeek V3 был интегрирован через асинхронные HTTP-запросы с использованием httpx. Данные обращений, решений и статусов сохранялись в PostgreSQL через async SQLAlchemy.

Backend был разделён на FastAPI endpoints, сервисный слой, форматтеры промптов и repositories. Такая структура позволяла независимо изменять бизнес-логику, модели и способы хранения данных.

Были подготовлены API-методы:

— /intents — определение намерения пользователя;
— /dispute — обработка спорных ситуаций;
— /pipeline — полный цикл обработки запроса;
— /cases — работа с сохранёнными обращениями.

Результат

Создан backend-прототип AI-системы поддержки, способный классифицировать обращения, искать информацию в базе знаний, генерировать ответы и выбирать между автоматическим решением и эскалацией оператору.

Архитектура позволила разделить LLM-логику, RAG, бизнес-правила и хранение данных. Это упростило интеграцию сервиса с существующей инфраструктурой маркетплейса и дальнейшее расширение базы знаний и сценариев поддержки.

Мой вклад включал проектирование архитектуры, разработку FastAPI backend, реализацию RAG-пайплайна, интеграцию DeepSeek V3, intent mapping, арбитражную логику и PostgreSQL repositories.