Проблема со сбором ссылок

Тема в разделе "Парсинг конкретных сайтов по запросу (ПЛАТНО)", создана пользователем Liooon, 21 авг 2015.

  1. Liooon

    Liooon New Member Пользователи

    Регистрация:
    7 июн 2015
    Сообщения:
    121
    Всем привет! Есть сайт
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    Собираются не все ссылки. Никакие танцы с бубном не помогают. Пробовал DOM запросы и все такое. Сначала нашел косяк: Я собирал с сайта ссылки глубиной 3, например
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    , там название "Косметичка Happy navy текст дорож уни_N", но если в названии есть фраза "д/шеи" или чего другого, например "Подушка д/шеи Grott blue флок+pvc_N" то этот слэш в ссылке тоже есть!:
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    и это уже глубина ссылки 4! Увеличил глубину ссылок - после этого немного ссылок добавилось, но все равно не хватает. Сравнивал две ссылки попавшего и не попавшего товара - особой разницы нет. Кто подскажет???
     
    Последнее редактирование модератором: 21 авг 2015
  2. Kreol

    Kreol Модератор Команда форума Модератор

    Регистрация:
    6 янв 2013
    Сообщения:
    2.666
    Здравствуйте!
    Заходите на любой раздел, например
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    крутите вниз и там есть ссылка "Показать ВСЕ"
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    Вот с этих страниц и собираете.
    Категории собирать руками.
     
  3. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.442
    Адрес:
    Latvia
    Какие то проблемы придумали на пустом месте, обычная настройка сканера там позволяет все собрать.
    Пример приложен к сообщению, после проверки сообщите все ли собрало.:soccer:
     

    Вложения:

  4. Liooon

    Liooon New Member Пользователи

    Регистрация:
    7 июн 2015
    Сообщения:
    121
    Огромное спасибо. Вроде все собрались - буду смотреть что делал не так.
     
  5. Liooon

    Liooon New Member Пользователи

    Регистрация:
    7 июн 2015
    Сообщения:
    121
    Я смотрю ты выставил паузу в мс, а с какой целью и по каким критериям определил?
     
  6. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.442
    Адрес:
    Latvia
    Стандартная пауза чтоб исключить вероятность бана
     
  7. Liooon

    Liooon New Member Пользователи

    Регистрация:
    7 июн 2015
    Сообщения:
    121
    пасиб
     

Поделиться этой страницей