Сайт банит за частые запросы

Тема в разделе "Решение проблем с загрузкой WEB-страниц", создана пользователем Максим1281, 6 ноя 2019.

  1. Максим1281

    Максим1281 New Member Пользователи

    Регистрация:
    23 ноя 2013
    Сообщения:
    35
    Адрес:
    Москва
    Город:
    Москва
    Здравствуйте! Парсил успешно, но через какое то время перестал парсить, очевидно сайт забанил мой ip. Но, странное дело, из обычного браузера страницы открываются свободно. Возможно обойти этот бан в таком случае? Сделал ctrl+р - clever int. suite - текст стал парсить, но картинки по-прежнему не загружаются
     
  2. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Программа и сайт посылают запросы с разными HTTP-заголовками. Если хотите парсить, как браузером, парсите с помощью WBApp.

    В вашем случае, как я понял, вы получаете временный бан от сайта. Его можно обойти с помощью списка качественных прокси или просто не доводить до него парся в 1 поток с подобранной для сайта паузой между запросами.
     
  3. Максим1281

    Максим1281 New Member Пользователи

    Регистрация:
    23 ноя 2013
    Сообщения:
    35
    Адрес:
    Москва
    Город:
    Москва
    Спасибо!
     
    Root нравится это.

Поделиться этой страницей