Как отключить обработку редиректов при парсинге

Тема в разделе "Решение проблем с загрузкой WEB-страниц", создана пользователем User123, 1 май 2021 в 08:08.

  1. User123

    User123 New Member Пользователи

    Регистрация:
    23 май 2015
    Сообщения:
    43
    Парсинг через библиотеку WIN

    например есть страница site/1

    но если открыть эту страницу то сработает редирект на site/2


    если начать парсить страницу site/1, то спарсится страница site/2

    как можно отменить передачу данных то есть парсинг этой страницы, если произошел редирект?
     
  2. User123

    User123 New Member Пользователи

    Регистрация:
    23 май 2015
    Сообщения:
    43
    если возможно проблему решить, то возьму дополнительный ключ
     
  3. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    13.865
    Город:
    Барнаул
    Здравствуйте.

    Нужно обновить программу до версии 11.1.1711150 (30.04.2021) (или новее).

    И отключить эту опцию

    2021-05-01_08-19-34.png
     
  4. User123

    User123 New Member Пользователи

    Регистрация:
    23 май 2015
    Сообщения:
    43
    с библиотекой WIN так не работает, всё равно проходит страница
    а Clever Internet Suite не парсится

    обновить еще надо. понял щас попробую


    или только с Clever Internet Suite работает?
     
  5. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    13.865
    Город:
    Барнаул
    Нужно обновить.

    Если не сработает, выложите под хайдом ссылку с редиректом и без редиректа. Проверю.
     
  6. User123

    User123 New Member Пользователи

    Регистрация:
    23 май 2015
    Сообщения:
    43
    обновил.
    я для проверки ставлю 3 ссылки которые редиректятся

    запускаю

    и сразу на 1 документе парсинг зависает. время - "прошло" растет и на другую не переходит
     
  7. User123

    User123 New Member Пользователи

    Регистрация:
    23 май 2015
    Сообщения:
    43
    редирект
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 9223372036854775807 постов.**
     
  8. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    13.865
    Город:
    Барнаул
    По предоставленной ссылке HTTP редиректа нет. Браузер редиректит.

    По HTTP запросу приходит такой ответ
    2021-05-01_09-11-26.png

    Предоставьте ссылку где нет "редиректа". Попробую найти решение.
     
  9. User123

    User123 New Member Пользователи

    Регистрация:
    23 май 2015
    Сообщения:
    43
    вроде всё заработало, если что обнуружу сообщу
    потестирую
     
  10. User123

    User123 New Member Пользователи

    Регистрация:
    23 май 2015
    Сообщения:
    43
    оплатил еще доп ключ
     
    Root нравится это.
  11. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    13.865
    Город:
    Барнаул
    Спасибо. Выслал...
     

Поделиться этой страницей