Евгений
Был на сайте: 21.11.2022 14:49

Евгений Wizard2007

Паспорт не верифицирован

Парсер Яндекс Карт 

  • 272
  • Опубликовано: 2015-01-03
Программа для парсинга данных о геолокации объектов на Яндекс.Картах .
Реализована в виде приложения для ОС windows. База данных Firebird Embedded 2.5 . Использовать для получения данных API Яндекс карт «Гео Кодер» (ограничение в бесплатной версии 25 000 запросов в сутки).
В интерфейсе реализованы возможности:
вводить координаты прямоугольной области. Верхний левый угол, и правый нижний (их можно получить при помощи Яндекс карты);
Максимальный шаг по широте;
Максимальный шаг по долготе;
Максимальное количество результатов в ответе API;
Минимальное значение таймаута в мили секундах:
Максимальное значение таймаута в мили секундах:
параметры соединения с базой данных; (думаю стоит результаты временно заливать в базу данных, для фильтрации дубликатов и сохранения общего результата собранных данных)
путь к файлу для выгрузки результатов;( Шаблон вывода: <город>;<улица>;<номер дома>;<широта>;<долгота>)
Параметры соединения с интернетом;
User Agent браузера; (что бы снизить вероятность того, что сервис яндекса заподозрит программу в автоматическом сборе данных);
Все параметры сохраняются в файл конфигурации, и загружаться из него при старте.
Работает программа в один поток опять же для того что бы снизить вероятность того, что заподозрят в автоматическом сборе данных.

При работе программы фиксируются ранее полученные результаты. Таким образом при парсинге больших областей нет необходимости дробить их.
Добавлена возможность выгружать данные в SQL скрипт с использованием шаблона запроса, что облегчает загрузку данных в системы, не поддерживающие импорт из *.cvs *.txt файлов.
Комментариев нет
оставить комментарий могут только авторизованные пользователи
Другие работы автора:

Оптимизация конвертора больших бинарных файлов Оптимизировать работы приложения для конвертации больших бинарных файлов. Программа работает, но при обработке файлов размером более 500 МБ сильно тормози и работает больше часа. Необходимо увеличить скорость обработки на порядок или более.

Web сервис для скачивания через web бинарных данных из базы Реализация Web сервиса для скачивания бинарных данных сохраненных в базе. Использовался для отдачи на скачивание через web - интерфейс сохраненных в базе бинарных файлов.

Автобиддер на Violity.com.ua Необходимо реализовать компонент на .net (Консольное приложение) или Windows service. Который будет регулярно мониторить ресурс (сейчас это google sheet, но также должен поддерживаться просто локальный файл) каждые N секунд. В этом spreadsheet идут н…

Менеджер контактов и сообщений для соц сетей Менеджер контактов и сообщений для соц сетей

Web сервис для интегрирования с порталом на Sharepoint Написание Web сервисов для интерации самописного приложения с корпоративным порталом на Sharepoint

MS Office Excel add-in: интеграция с сервисом отчетности Необходимо реализовать MS Excel add-in ( https://dev.office.com/docs/add-ins/overview/office-add-ins ). Примерный порядок действий следующий: 0. При установке add-in указываем url сервиса и api key. 1. По нажатию кнопки [мыши] вводим идентификатор о…

Обработка документов Google Docs Реализовать приложение для автоматической обработки таблиц Google Drive при помощи SDK .NET Library от Google

Бот к Flash игре Бот к Flash игре