Как остановить парсинг при условии

Тема в разделе "Решение различных задач по парсингу", создана пользователем OnMan, 20 апр 2012.

  1. OnMan

    OnMan New Member Пользователи

    Регистрация:
    20 апр 2012
    Сообщения:
    11
    Есть список ссылок для парсинга, как сделать так, чтобы дальнейшее прохождение по этим ссылкам остановилось и начался парсинг контента, если на одной из этих ссылок нечего парсить?
     
  2. Valiks

    Valiks New Member Супер Модератор

    Регистрация:
    18 янв 2012
    Сообщения:
    554
    Адрес:
    Всё время в скэйпе
    Что-то вопрос какой-то мудрёный... Парсинг ссылок происходит в порядке очерёдности. Если какая-то ссылка битая, не парсится, на ней нет контента (неправильно заданы границы или по другой причине не найден контент) программа переходит автоматически к парсингу следующей ссылки
     
  3. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.442
    Адрес:
    Latvia
    Ознакомьтесь с программой получше - все есть для вашего случая.
    1.Если отсутствует одна из границ (для этого надо указать в дополнительных настройках границ парсинга)
    2.Если сайт забанил ваш ип пока парсили (настраивается как остановка или пауза парсинга)
     
    Последнее редактирование: 20 апр 2012
  4. OnMan

    OnMan New Member Пользователи

    Регистрация:
    20 апр 2012
    Сообщения:
    11
    Да вопрос реально мудренный :))) Голова уже кипела тогда. В общем разобрался. Спасибо.
     
  5. OnMan

    OnMan New Member Пользователи

    Регистрация:
    20 апр 2012
    Сообщения:
    11
    А где это настраивать?
     
  6. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.442
    Адрес:
    Latvia
    перейдите в настройки границ парсинга и там справо над большими кноками (на скриншоте 321 секунды пауза в случае бана)
    [​IMG]
     

Поделиться этой страницей