Необходимо было:
Создать базу данных, содержащую отмаркированные телеграм-каналы по интересам, к этому нужно сделать API, позволяющий добавить канал (по id канала) и получить интересы канала. Подробности в диаграммах в превью
Для этого я сделал:
несколько микро-сервисов, которые агрегируют сообщения с каналов в базе (и умеет присоединятся к каналам), сервис препроцессинга сообщения, совершающий эмбеддинг (для экономии запросов к LLM и фильтрации пустых сообщений), сервис, обращающийся к LLM и сохраняющий интересы в базе данных
В результате получился надежный и прозрачный сервис, который может масштабироваться и работать автономно.