Нужна удочка

Тема в разделе "Парсинг конкретных сайтов по запросу (ПЛАТНО)", создана пользователем HAT, 24 фев 2015.

  1. HAT

    HAT New Member Пользователи

    Регистрация:
    17 фев 2015
    Сообщения:
    15
    Вчера весь день убил, но ничего не получилось, знаний маловато.
    Собственно пациент:
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    С первого взгляда мне показалось, что это повторяющиеся границы, я создал проект и спарсил... но как оказалось большинство характеристик осталось за бортом
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    Изображение продукта имеют ссылку вида
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    При нажатии на картинку (classname glc-image) появляется окно о всеми характеристиками, где ссылка "Подробное описание" это полная ссылка на товар со всеми характеристиками вида
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    Задача собрать ссылки на товары со страницы с полными характеристиками вида
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    а дальше я умею.
    Sitemap.xml у сайта вроде нет.
     
  2. Kreol

    Kreol Модератор Команда форума Модератор

    Регистрация:
    6 янв 2013
    Сообщения:
    2.666
    Здравствуйте!
    там есть такой запрос
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    и есть параметр id=10806 (который как раз есть на странице доноре.
    Но как их связать я не в курсе.
     
  3. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Простите, но долго вникать в это не имею времени. Прошу обозначить задачу попроще, а именно:
    Вот есть страница (URL) и нужно собрать с нее вот такие вот ссылки (указать URL или выделить их на скриншоте).

    Спасибо!
     
  4. HAT

    HAT New Member Пользователи

    Регистрация:
    17 фев 2015
    Сообщения:
    15
    Cсылки под "кнопкой" как на авито, только вместо кнопки используется изображение товара.
    Ссылка на коллекцию
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    прямая ссылка на карточку товара
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    если на странице коллекции кликнуть на изображение первого товара, появится карточка товара в которой
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    и есть ссылка на полную карточку товара
     
  5. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Сканером (ctrl+7) пройдитесь по сайту и соберите конечные ссылки типа:
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    Ведь их же вам надо получить...
     
  6. HAT

    HAT New Member Пользователи

    Регистрация:
    17 фев 2015
    Сообщения:
    15
    прошёл сканером и получил ссылки вида:
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    то есть ссылки на коллекции и страницы, карточек товаров там нет...

    но если мы загуглим
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    то вторая же ссылка в гуле выводит нас конкретно на ссылку с карточкой товара , а не на коллекцию... чудеса
     
  7. Freesty1er

    Freesty1er New Member Пользователи

    Регистрация:
    30 дек 2013
    Сообщения:
    95
    Здесь методом POST ссылки можно получать, подставляя в параметр id:
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    Как это делать с помощью ContentDownloader не знаю. Разве что через PHP скрипт.
     
    Последнее редактирование: 25 фев 2015
  8. HAT

    HAT New Member Пользователи

    Регистрация:
    17 фев 2015
    Сообщения:
    15
    виноват, глубина стояла на 3, сейчас переделаю
     
  9. HAT

    HAT New Member Пользователи

    Регистрация:
    17 фев 2015
    Сообщения:
    15
    Ссылки стали глубже, но карточек товара так и нет, печаль
     
  10. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    У меня нет идей по поводу парсинга этих ссылок. Простите.
     
  11. HAT

    HAT New Member Пользователи

    Регистрация:
    17 фев 2015
    Сообщения:
    15
    ну ладно хоть не я один такой )))
     
  12. omer21

    omer21 New Member Пользователи

    Регистрация:
    4 фев 2015
    Сообщения:
    14
    Завтра на работе попробую найти решение, если еще интересует конечно, пока только выяснил количество товаров. Если не ошибаюсь то 2083. (ID начинаются от 1959 до 4042) хотя может есть пустые. Нет, товаров больше, придется только перебором выяснять.
     
    Последнее редактирование: 25 фев 2015
  13. omer21

    omer21 New Member Пользователи

    Регистрация:
    4 фев 2015
    Сообщения:
    14
    9594 ссылок на товары, товаров на сайте указано 10838. Не знаю почему меньше, возможно из за того что коллекция тоже считается как товар, хотя насколько я понял что это вроде как комплект.
     

    Вложения:

Поделиться этой страницей