Как спарсить сайт с рандомными числовыми 11-ти значными ссылками?

Тема в разделе "Парсинг конкретных сайтов по запросу (ПЛАТНО)", создана пользователем Damatik, 23 ноя 2015.

  1. Damatik

    Damatik New Member Пользователи

    Регистрация:
    24 сен 2012
    Сообщения:
    16
    Приветствую, коллеги!
    Пытаюсь сделать свой первый проект в сей чудной программе.
    Сайт:
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    После последнего слеша идет набор из 11 цифр, например:
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    Всего (по их же статистике) в реестре 272 956 записи. Задача: спарсить их в csv файл с определенным шаблоном вывода. Но для начала я попытался спарсить хотя бы мыла с каждой записи.

    Что я делал:
    1. Если генерить ссылки, то парсить 99999999999 ссылок программа будет месяцев 5 при моих 10 потоках. Попробовал задавать диапазоны, например - для Тульской области ссылки начинаются с 0366(+еще 7 цифр). За полчаса парсинга 0 мыл, что и понятно - просто парсились несуществующие страницы )
    2. Пробовал обходить роботом, с тонкой настройкой фильтра (исключал /suppliers/
    /supplier/
    /about/
    /Seminar/
    /lk/
    /Portals/
    /Главная/
    /region/
    /Home/
    /auctionsearch/) - получил 11 ссылок за полчаса парсинга. Ставил глубину ссылок от 0 до 70 (не понял, что означает глубина, хех)
    Не прошу готового решения, просто подскажите, куда копать, в каком направлении - опыта у меня еще совсем нет... Спасибо!
     
    Последнее редактирование: 23 ноя 2015
  2. Damatik

    Damatik New Member Пользователи

    Регистрация:
    24 сен 2012
    Сообщения:
    16
    Такс... Только сейчас обратил внимание, что в пагинации реестра при наведении на следующую страницу браузер показывает следующую ссылку: javascript:__doPostBack('dnn$ctr957$View$rptPager$ctl05$lnkPage',''), где 05 - номер страницы...
    То есть все остальные страницы, кроме первой, содержащие записи организаций закрыты JS?
     
    Последнее редактирование: 23 ноя 2015
  3. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Спасибо на добром слове!

    Данная задача решается с помощью WBApp (имитация кликов по результатам страниц выдачи сайта).

    Проект настроек прилагаю к сообщению (в программе: меню - файл - загрузить проект). Для работы списка событий WBApp требуется тип лицензии ULTIMATE.

    С уважением к вам, Сергей.
     

    Вложения:

Поделиться этой страницей