Собирает половину ссылок с категории сайта

Тема в разделе "Парсинг во вкладке "Ссылки"", создана пользователем co11usor, 18 фев 2017.

  1. co11usor

    co11usor Member Пользователи

    Регистрация:
    17 фев 2017
    Сообщения:
    46
    Возникала проблема при парсинге сайта hm.com/ru_ru начинаю парсить раздел мужчины, вытаягивает кол-во ссылок на товары меньше, чем я насчитываю сам, думал проблема в отсутвии прокрутки, вроде настроил прокрутку, но ссылок всеравно мало! помогите, может кто сталкивался
     

    Вложения:

    • hm men.cdp
      Размер файла:
      33,1 КБ
      Просмотров:
      3
  2. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Попробуйте поставить тайминги побольше (добавив события вниз списка), возможно, что-то не успевает подгружать.

    2017-02-18_09-33-49.png

    Код:
    [SLABEL]
    [WAIT]:2000
    [SCROLLDOWNTHENRETURN]
    [WAIT]:5000
    [SCROLLDOWNTHENRETURN]
    Больше идей по этому сайту нет, нужно разбираться, тестировать, такой возможности у меня сейчас нет.

    С уважением к вам, Сергей.
     
  3. co11usor

    co11usor Member Пользователи

    Регистрация:
    17 фев 2017
    Сообщения:
    46
    Если собралось чуть больше, можно попробовать повысить тайминги?
     
  4. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Да. А лучше парсить в 1 поток.
     
  5. co11usor

    co11usor Member Пользователи

    Регистрация:
    17 фев 2017
    Сообщения:
    46
    в браузере при прокрутке дописываеться в адрес сайта ?product-type=men_cardigansjumpers&sort=stock&offset=0&page-size=60 это важно? можно добавить size=999 и выводить всю страницу, но категория всегда разная, как быть?)
     
  6. Kreol

    Kreol Модератор Команда форума Модератор

    Регистрация:
    6 янв 2013
    Сообщения:
    2.666
    size=999
    лучше не надо.
    Собирайте как собирали и не спешите.
     
  7. co11usor

    co11usor Member Пользователи

    Регистрация:
    17 фев 2017
    Сообщения:
    46
    Подскзали, что надо дергать ссылки через оффсет, подскажите как насроить метод оффсет, не могу нагуглить ((
     

Поделиться этой страницей