Обьясните, пожалуйста, насчет прокси...

Тема в разделе "Разное", создана пользователем Иван_Т, 24 мар 2014.

  1. Иван_Т

    Иван_Т New Member Пользователи

    Регистрация:
    24 мар 2014
    Сообщения:
    3
    Здравствуйте!

    При сборе ссылок из инет-магаза получилось собрать всего 100 ссылок, очевидно спарсились ссылки только с первой страницы каталога товаров... по неопытности не поставил паузу в начале и вероятно получил бан... повторные попытки с выставленной паузой не сработали... 100 ссылок не более..

    обьясните, пожалуйста, поэтапно, как решить этот вопрос)
     
  2. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.433
    Адрес:
    Latvia
  3. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте, подождать, пока разбанит (переподключить интернет - помогает снять бан).
    Парсить в 1 поток с использованием подобранной паузы.
    Прокси не рекомендую - это часто "помойка", простите =)
     
  4. Иван_Т

    Иван_Т New Member Пользователи

    Регистрация:
    24 мар 2014
    Сообщения:
    3
    поставил во вкладке контент - 1поток
    начал с 60сек(60000мс) паузой, результат тот же - 100ссылок и все
    может проблема в самих ссылках?

    они такого вида
    http://www.6pm.com/men-sneakers-athletic-shoes~f#!/men-sneakers-athletic-shoes-page2/CK_XARC81wHAAQLiAgMBGAI.zso?p={num}&s=goliveRecentSalesStyle/desc/

    открываются все нормально...
    [​IMG]
     
    Последнее редактирование: 25 мар 2014
  5. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Ну да, если бы вы еще предпросмотр второй ссылки сделали и проанализировали, что выдача такая же, как и на первой, кто мешал...

    Для гет-запроса неважно все, что стоит после # в ссылке:
    Пробуйте так:
     
  6. Иван_Т

    Иван_Т New Member Пользователи

    Регистрация:
    24 мар 2014
    Сообщения:
    3
    Ссылки недоступны для гостей
    и
    Ссылки недоступны для гостей

    выдачу просмотривал, она разная...

    а вот насчет # не знал... без него все нормально заработало!
    спасибо!
     
  7. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Я имел ввиду выдачу ссылок в программе (при предпросмотре результата парсинга ссылок).
    Пожалуйста, обращайтесь...
     

Поделиться этой страницей