Клиент -CEO ювелирной компании, работающий с закрытой коммерческой информацией: контрактами, закупочными ценами, перепиской с поставщиками в семи странах. Публичные AI-сервисы использовать было нельзя -данные не должны покидать устройство. Нужен персональный ассистент, который знает бизнес клиента наизусть, но при этом полностью изолирован: без облака, без подписок, работает даже в самолёте и в отеле без Wi-Fi. Роль: единственный архитектор и разработчик, весь путь от идеи до интерфейса.
Спроектировала и собрала автономную AI-систему, целиком работающую на ноутбуке клиента -все вычисления, память и озвучка на его GPU, ни один запрос не выходит в интернет.
Ключевая инженерная разработка -собственная трёхслойная память, которая учит ассистента бизнесу клиента:
- Core: постоянная база знаний (партнёры, решения, терминология, 13 категорий).
- Working: оперативная память с активными задачами и дедлайнами, автоочистка.
- RAG: умный поиск по истории переписки, топ-3 релевантных обсуждения подмешиваются в контекст.
Пять модулей в одной системе: диалоговый ассистент, переводчик на 7 языков с сохранением делового стиля, анализ документов (PDF/DOCX/таблицы), транскрипция аудио и видео с саммари, голосовая озвучка (TTS) для работы hands-free.
Стек: Python, FastAPI, локальные LLM на GPU, RAG, Pydantic. Отдельно решены инженерные задачи: чекпоинты при 10-часовых прогонах экстрактора, мягкие валидаторы против галлюцинаций, разделение «вопрос про бизнес» и «общий вопрос» без переобучения на контекст.
Ассистент стал не демонстрацией, а ежедневным рабочим инструментом -в командировках, на переговорах, в офлайне. Что это дало клиенту: безопасность коммерческих данных (ничего не уходит во внешние сервисы), ускорение работы (резюме длинного контракта за минуты, черновик письма на любом из 7 языков в одно касание), независимость от политики и цен сторонних AI-компаний, персонализация под конкретный бизнес. 100% приватность, 0 ₽ подписок, доступность 24/7.