Парсер магазинов запчастей 

  • 11
  • Опубликовано: 2022-04-08
Заказчик – оптовый продавец автомобильных деталей и узлов. Для поддержания актуальной стоимости потребовалось автоматизировать сравнение цен с конкурентами. В ходе разработки парсера был выполнен механизм авторизации пользователя на сайте. Парсинг выполняется только в случае успешной авторизации пользователя, так как неавторизованному пользователю цены на сайте недоступны. После авторизации пользователь может создать новую сессию парсинга, загрузив файл формата xlsx со списком интересующих артикулов или брендов и выбрав парсер из списка доступных парсеров. Для каждой сессии парсинга создается отдельная фоновая задача в очереди задач. После завершения задачи парсинга создается результирующий файл в формате xlsx для каждого парсера в сессии парсинга. Входящий и результирующие файлы для сессии хранятся на сервере и могут быть скачаны пользователем в любой момент.
Технологии: PostgreSQL, Python, FastAPI, ORM ormar, Jinja2, Сelery, Scrapy.
Комментариев нет
оставить комментарий могут только авторизованные пользователи
Другие работы автора:
Маркетплейс одежды

Маркетплейс одежды Перед нами стояла задача создания маркетплейса одежды зарубежных поставщиков на базе решения от 1С‑Битрикс. В ходе работ была проведена адаптации ядра Битрикс под требования заказчика: доработана корзина, карточка товара, создан компонент распр…

Сервис поздравлений WoWish

Сервис поздравлений WoWish Кроссплатформенное мобильное приложение позволяет зарегистрированным пользователям хранить памятные даты своих контактов. Каждый пользователь может составить Wish-лист с желаемыми подарками, который могут видеть его друзья. Нашей командой проведена о…

Мобильное приложение для поиска партнеров по совместным покупкам

Мобильное приложение для поиска партнеров по совместным покупкам Заказчик пришел к нам с идеей и коротким описанием желаемого функционала. Было предложено начать разработку с MVP Android приложения. Применение agile-подхода оправдало себя, так как в ходе работ заказчик несколько раз менял направление разработки. Д…

Сервис поиска и выбора отелей

Сервис поиска и выбора отелей К нам об­ра­тил­ся заказчик для до­работ­ки сервиса Inntravel.ru — сайта выгодных пу­тешес­твий по России. 1. Backend проекта был написан на Flask. Для вза­имо­дей­ствия с базой данных приняли решение ин­тегри­ровать биб­ли­оте­ки SQLAlchemy (ORM д…

Доработка сервиса Wi-Fi аналитики HVALA.

Доработка сервиса Wi-Fi аналитики HVALA. HVALA предоставляет своим пользователям услуги Wi-Fi, а также cсервис авторизации с аналитикой и маркетинговыми инструментами. Клиентами сервиса являются кафе, рестораны, гостиницы, предоставляющие своим гостям доступ к интернету. HVALA позволяет пол…

Разработка сайта производителя взрывобезопасного оборудования

Разработка сайта производителя взрывобезопасного оборудования Заказчик — один из ведущих производителей взрывобезопасного оборудования в России, пришел к нам с заданием написать скрипт для обновления информации о товарах на сайте. Данные для обновления должны были загружаться путем парсинга XML-файла, полученно…

Сервис поиска и выбора отелей

Сервис поиска и выбора отелей К нам об­ра­тил­ся заказчик для до­работ­ки сервиса Inntravel.ru — сайта выгодных пу­тешес­твий по России. 1. Backend проекта был написан на Flask. Для вза­имо­дей­ствия с базой данных приняли решение ин­тегри­ровать биб­ли­оте­ки SQLAlchemy (ORM д…

Управление системами очистки воды

Управление системами очистки воды Инжи­нирин­го­вая компания Экодар ─ один из лидеров по про­из­водс­тву, ус­та­нов­ке и об­слу­жива­нию ин­ди­виду­аль­ных и ин­дус­три­аль­ных систем очистки воды. Кросс­плат­формен­ное мо­биль­ное при­ложе­ние дуб­ли­ру­ет фун­кци­онал кор­по­…