Необходимо было спроектировать единую платформу для работы с ML-моделями после этапа разработки: управление версиями и артефактами, подготовка к развёртыванию, запуск в инфраструктуре и контроль состояния.
Задача — убрать разрозненный ручной процесс и собрать в одном интерфейсе управляемый путь от готовой модели до работающего сервиса.
При проектировании учитывались требования корпоративного контура: разграничение доступа, интеграция с системами контроля версий и хранилищами артефактов, корпоративной системой пользователей, вычислительной инфраструктурой и средствами управления секретами.
Спроектировал и разработал веб-платформу, которая объединяет основные операции жизненного цикла ML-моделей.
Реализованы:
— каталог моделей и их версий;
— управление модельными артефактами и весами;
— подготовка и запуск развёртываний;
— отображение текущего состояния сервисов;
— интеграция с контейнерной инфраструктурой;
— подключение систем контроля версий и хранилищ артефактов;
— интеграция с корпоративной системой пользователей;
— управление секретами и инфраструктурными настройками;
— контроль доступных вычислительных ресурсов перед запуском;
— API для интеграции с внешними системами;
— отдельный административный контур.
Отдельное внимание уделялось воспроизводимости и устойчивости процесса: каждая версия модели связана с конкретным набором артефактов, а развёртывание проходит через контролируемый и проверяемый процесс.
Проект выполнялся как полноценный программный продукт: от требований и архитектуры до серверной части, интерфейсов, интеграций и тестирования.
В результате получена рабочая ML-платформа с единым интерфейсом управления моделями и развёртываниями.
Платформа позволяет пройти путь от зарегистрированной версии модели до её запуска в вычислительном контуре, контролировать состояние развёртывания и управлять необходимыми интеграциями из одного места.
Реализован интеграционный контур для передачи моделей из системы подготовки данных и признаков, что связывает этап формирования модельных артефактов с последующим развёртыванием.
Решение проектировалось с расчётом на корпоративное использование и дальнейшее расширение.