Евгений Сайты › Peppers Сбер ID
Сайты, SEO и GEO, реклама, чат-боты, ИИ и дизайн | Москва
Рейтинг
9 371
№ 111 в каталоге
Отзывы
Профессионализм
9/10
Коммуникация
9 /10
Город
Москва
Опыт работы
11 лет
На сайте с
2016 года
Юридический статус
Самозанятый
Freelance.Boutique
Премиум-сервис для лучших исполнителей

ИИ-агент для сети продуктовых магазинов: компьютерное зрение проверяет выкладку и ценники по фото (YOLO, OpenCV, Pytorch, API GPT Vision)

Используемые навыки API GPT Vision OpenCV Pytorch YOLO Компьютерное зрение

Описание

ИИ-агент для небольшой сети продуктовых магазинов у дома: управляющий присылает фото полки, а агент находит пустые места, сверяет ценники с базой цен и ставит задачи на исправление. Агента спроектировал и написал Евгений Росляков. Сайтами и автоматизацией он занимается с 2016 года, работает как самозанятый, подписывает договор и выдаёт юрлицам закрывающие документы. Он в Москве, но может работать полностью удалённо.

В сети несколько магазинов. Раз в день управляющие фотографируют главные полки — молочку, хлеб, напитки, акционный товар — и шлют снимки в общий чат. Смотрит их один человек из головного офиса. Он не успевает, фото приходят кривые, при плохом свете, а ценник на снимке часто не разобрать. Пустую полку с молоком или ценник на старую цену после акции находят уже по жалобе покупателя.

Ручной просмотр хотели убрать: выкладку и ценники проверяет система, а человек видит только список того, что надо исправить.

Проверять нужно было по снимкам с обычного телефона. Камеры и оборудование владелец покупать не хотел, да и в маленьком магазине их негде ставить.

И ещё условие: система не должна придумывать. Лучше пометить спорный ценник «проверьте глазами», чем уверенно назвать неверную цену.

Решение

Агент работает в несколько шагов. Фото приходит в Telegram, агент разбирает его и пишет управляющему, что поправить.

Первый шаг — выравнивание снимка. За него отвечает OpenCV: находит край полки, убирает перекос, режет фото на секции по ярусам. Без этого дальше всё считается хуже.

Второй шаг — компьютерное зрение. Модель YOLO ищет в секции товары, пустые места и ценники. Обучил я её в Pytorch на фотографиях полок этой же сети: управляющие слали снимки, а я вручную обводил товары и просветы. Свои фото здесь важны. В магазинах у дома полки тесные, упаковки стоят вплотную и частично закрывают друг друга, а готовая общая модель на таких кадрах путалась.

Третий шаг — ценники. Вырезанные кусочки с ценниками уходят в API GPT Vision. Он читает название и цену, агент сверяет их с базой цен сети. Наружу уходят только фрагменты ценников, без людей в кадре. При расхождении или нечитаемом тексте ценник отправляется человеку, а не исправляется молча.

Четвёртый шаг — задачи. Агент собирает для управляющего короткий список: выложить товар на пустое место такого-то яруса, заменить ценник такого-то товара. Выполненное отмечается кнопкой, а в офис уходит сводка по магазинам.

Если управляющий отметил, что агент ошибся, снимок попадает в набор для дообучения. Время от времени модель обновляется на новых примерах, и на знакомых полках ошибок становится меньше.

Результат

Сотрудник офиса больше не листает десятки фотографий. Он открывает сводку и видит, где что не так. Пустые места и устаревшие ценники находят раньше, чем на них наткнётся покупатель.

Управляющие получают понятное задание вместо обсуждения в чате. Спорные случаи агент не решает сам, а отдаёт человеку, поэтому его отчётам можно верить. Список товаров и правила проверки меняются без переделки всей системы.

У сети теперь копится архив снимков полок по дням. По нему видно, какие места пустеют чаще и в какое время, и это помогает пересмотреть график выкладки и поставок. Раньше такие вопросы решались по ощущениям.

Сначала управляющим было непривычно, что полку смотрит программа. Потом они увидели, что агент пишет коротко и по делу, а ошибочную пометку можно отклонить одной кнопкой. Снимать стали аккуратнее: чем лучше фото, тем меньше задач приходит в ответ.

Агент не заменяет управляющего. ИИ-агенты вообще хороши там, где работа скучная и повторяется каждый день, как просмотр снимков, а решения остаются у людей: что заказать, как переставить товар, что делать со спорным ценником. Круг проверок можно расширять: холодильники, кассовая зона, витрина.

Хотите поручить рутинную проверку по фото ИИ-агентам? Пришлите на freelance.ru пример снимка, и я оценю, что из него можно распознать.

Оценили проект:

Другие проекты

Все проекты →
Веб-разработка и IT Перенос Java-серверов регионального банка с Oracle WebLogic Server и WebSphere на Tomcat и Jboss: внутренние сервисы переехали без потери заявок
Перенос Java-серверов регионального банка с Oracle WebLogic Server и WebSphere на Tomcat и Jboss: внутренние сервисы переехали без потери заявок
16
Веб-разработка и IT Создание сайта — личный кабинет участника негосударственного пенсионного фонда: J2EE, EJB, JSP, Struts и Hibernate остались, расчёты не тронуты
Создание сайта — личный кабинет участника негосударственного пенсионного фонда: J2EE, EJB, JSP, Struts и Hibernate остались, расчёты не тронуты
18
Веб-разработка и IT Создание сайта: Интернет магазин сантехники и отопления на 1С-Битрикс с обменом остатков и заказов с 1С, 30 000 позиций
Создание сайта: Интернет магазин сантехники и отопления на 1С-Битрикс с обменом остатков и заказов с 1С, 30 000 позиций
21
Веб-разработка и IT Создание сайта портала вакансий и резюме для Поволжья: единое приложение на Yii2 вместо Yii, CodeIgniter и Kohana
Создание сайта портала вакансий и резюме для Поволжья: единое приложение на Yii2 вместо Yii, CodeIgniter и Kohana
18