Сбор ссылок с olx.ua

Тема в разделе "Решение различных задач по парсингу", создана пользователем JagerJ, 17 авг 2017.

  1. JagerJ

    JagerJ Member Пользователи

    Регистрация:
    8 фев 2017
    Сообщения:
    46
    Не могу разобраться: если выбираю определенную категорию на этом сайте - вижу много страниц выдачи. Сам сайт говорит, что найдено около 10 тыс. объявлений. Ссылки на объявления отбираю парсингом во кладке контент. Во время задания границ парсинга и при предпросмотре любой страницы - выдаются все ссылки. Но по результату парсинга находится несколько меньше ссылок (8-9 тыс) - это списываю на непрогрузку и не совсем критично. Но при проверке в екселе на дубли ссылок - уникальных остается тысячи 3 не больше. Как я понимаю - во время работы программы подтягиваются ссылки с длока на подобии "Недавно просмотренные". Хотя при задании границ этот блок не входит в целевую часть кода.
    Для примера ссылка на раздел сайта:
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    и мой проект (я уже и параметры НТТР менял и паузы)
     

    Вложения:

  2. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
  3. JagerJ

    JagerJ Member Пользователи

    Регистрация:
    8 фев 2017
    Сообщения:
    46
    Я хотел получить помощь именно в разделе "Решение различных задач по парсингу - Помощь в создании алгоритмов решения задач по парсингу или по обработке данных", а не получить готовый проект. Сам когда-то расписывал подход к решению парсинга телефонов в объявлениях, которые в виде картинок выдаются. Спасибо за внимание к моему посту. Если это возможно - верните его в указанный раздел, а еще лучше в раздел по ссылкам.
     
  4. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Ваш вопрос касается парсинга указанного сайта. Такие вопросы решаются либо у специалистов по настройке, либо в этом разделе.

    PS: Буду рад, если кто-то вам поможет в этой ветке.
     
    Последнее редактирование: 19 авг 2017

Поделиться этой страницей