Сайт, с которого парсил, заблокировал меня, что делать?

Тема в разделе "Решение различных задач по парсингу", создана пользователем roman_k, 22 ноя 2015.

  1. roman_k

    roman_k Member Пользователи

    Регистрация:
    4 ноя 2015
    Сообщения:
    46
    Добрый день всей команде!

    Друзья, помогите пожалуйста решить следующий вопрос - сайт с которого парсил товары, видимо заблокировал меня. Какие мои действия?

    Вот что пишет браузер при загрузке любой из страниц:

    403 - Permission Denied
    You do not have permission to retrieve the URL or link you requested. Please inform the administrator of the referring page, if you think this was a mistake.

    Вот что пишет программа:

    (user-agent: Mozilla/5.0 (Windows NT 6.1; WOW64; rv:35.0) Gecko/20100101 Firefox/35.0|cookies: |proxy:)

    Заранее благодарен!
     
  2. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.433
    Адрес:
    Latvia
  3. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Попробуйте:
    - Передать cookies из браузера (кнопка с изображением ключика во вкладке "Контент")
    - Если не поможет, переподключите интернет для смены IP и продолжайте парсить в 1 поток
    - Если не поможет и это, используйте список прокси, как и написали выше

    С уважением к вам, Сергей.
     
  4. J0seph

    J0seph New Member Пользователи

    Регистрация:
    26 ноя 2015
    Сообщения:
    1
    Наиболее параноидальные в этом плане движки - это битрикс. Там по умолчанию стоит блокировка ip при 15 хитах за 10 секунд. Выставляйте паузу около 1000 мс. т.е. 1 секунда.
     

Поделиться этой страницей