Есть парсер на php, который работает, но не долго. Через определенное время перестает. Нужно настроить его работу с правильными прокси, чтобы адресат не мог остановить работу парсера своими банами.
Оставлять заявки могут только авторизованные пользователи.
Бюджет правок в существующем механизме можно определить только по результатам анализа кода такого механизма. Если граббер на php, то с высокой долей вероятности речь идёт о php_curl - если так, то подключение динамического прокси-листа не должно вызвать проблем.
Аренда "правильных проксей" в бюджет не включается, поставщик и тарификация - на усмотрение заказчика.
Если сбор всякий раз останавливается, можно предположить наличие автоматических механизмов, препятствующих сбору. Агрессивный сбор (многопоток без пауз) должен пресекаться, поскольку создаёт неоправданную нагрузку на сайт-источник. Имеет смысл вводить ограничения скорости сбора.
Отладить работу парсера с прокси
Реклама
Отладить работу парсера с прокси
Есть парсер на php, который работает, но не долго. Через определенное время перестает. Нужно настроить его работу с правильными прокси, чтобы адресат не мог остановить работу парсера своими банами.