ИИ‑чат‑бот с технологией RAG

Описание

Интеллектуальный чат‑бот, работающий на основе технологии Retrieval‑Augmented Generation (RAG). Решение предназначено для автоматизации ответов на вопросы пользователей с учётом собственных внутренних данных и материалов. Попробовать рабочий пример можно по ссылке.

Решение

Техническая реализация
- **Фронтенд:** лёгкий JavaScript‑виджет, интегрируемый в структуру сайта. Внешний вид регулируется CSS‑настройками.
- **Бэкенд:** приложение на **Laravel**, функционирующее как API‑сервис. Возможна установка на локальном или удалённом сервере.
 
Механизмы защиты
- Авторизация через **JWT** для зарегистрированных пользователей или защита **Cloudflare Turnstile** в случае публичного доступа.
- Настройка ограничений по числу запросов, длительности сессии и размеру запросов.

Результат

**Совместимость:** работает на стандартном LAMP‑стеке (PHP, MySQL), поддерживает установку на недорогих виртуальных хостингах.
**Гибкость:** интегрируется с различными языковыми моделями (LLM) — от бюджетных до премиальных. Работа через сервис GenAPI или альтернативный.
**База знаний:** данные загружаются через веб‑интерфейс в любом формате (PDF, DOCX, TXT, CSV) или в виде веб‑ссылок. Текст из страниц извлекается автоматически.
**Хранилище данных:** векторное индексирование и поиск реализованы через облачную базу Qdrant - до 4 ГБ бесплатно.

**Эксплуатационные расходы:**
  - простейший виртуальный LAMP хостинг - от 88 руб/месяц
  - оплата доступа к LLM - примерно 0.5 руб/ответ (зависит от уровня модели)
Например, 1000 ответов в месяц = 600 руб.

Ссылки на примеры реализации

 kaydansky.ru

Презентация проекта