Яндекс Маркет банит

Тема в разделе "Решение различных задач по парсингу", создана пользователем Yurijd, 4 дек 2012.

  1. Yurijd

    Yurijd New Member Пользователи

    Регистрация:
    29 мар 2011
    Сообщения:
    18
    Столкнулся с проблеммой парсинга выдачи Яндекса. Где то читал подробный мануал, но теперь не могу найти. Натыкаюсь на посты но всё не те.
    Либо подскажите, если кто знает как менять юзер-агенты и вроде еще там было написано про куки. Вроде очищать их как то нужно было.
    Заранее спасибо
     
  2. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.431
    Адрес:
    Latvia
    Лучше не связываться с яндексом, очень жестко блочит прокси, кстати многие прокси уже в бан внесены (даже платные).Если пользуете кукисы то юзер агент привязан к ним.
    Если не жалко нервов и времени то попробуйте парсить яндекс, еще поможет скрыть данные программа Advor
     
  3. Yurijd

    Yurijd New Member Пользователи

    Регистрация:
    29 мар 2011
    Сообщения:
    18
    Спасибо качну программу. Сижу мучаю яндекс. Примерно 1000-1400 ссылок выдает и все.
     
  4. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    А паузу какую задаете между запросами?
     
  5. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    И вот еще, можно ввести капчу и дальше парсинг пойдет! Вкладка "контент", кнопка "авторизация...".
    С уважением к вам, Сергей.
     
  6. Yurijd

    Yurijd New Member Пользователи

    Регистрация:
    29 мар 2011
    Сообщения:
    18
    Паузу не ставил совсем. Да я кстати так и стал делать через авторизацию и вроде парсит потихоньку. Под мои нужды думаю хватит. Еще бы капчу на antigate отправляла вобще бы классно было.
     
    Последнее редактирование: 5 дек 2012
  7. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    5000 попробуйте. И если капча уже вылетела: либо IP сменить (переподключиться к интернет, если IP динамический), либо капчу ввести...
     
  8. Yurijd

    Yurijd New Member Пользователи

    Регистрация:
    29 мар 2011
    Сообщения:
    18
    Спасибо буду экспериментировать
     
  9. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.431
    Адрес:
    Latvia
    Не внимательно первый раз название темы прочитал
    Яндекс маркет на отлично парсится через Advor, 5 потоков без паузы (если потоков больше то адвор не выдерживает)
    Самое главное не брать кукисы при адворе, а юзер агентов на свой вкус можно поставить
     
  10. Djahat

    Djahat Well-Known Member Пользователи

    Регистрация:
    14 янв 2013
    Сообщения:
    543
    Город:
    Мордор
    Я правильно понял content downloader + Advor - Ямдиксмакет парсится отлично?
    Никаких проксей и другого не надо?
     
  11. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.431
    Адрес:
    Latvia
    Да, недавно попробовал и в новых версиях адвора стало нормально работать при 50 потоках
     
  12. Djahat

    Djahat Well-Known Member Пользователи

    Регистрация:
    14 янв 2013
    Сообщения:
    543
    Город:
    Мордор
    Круто - а настроить прогу для подобного парсинга насколько сложно ?
     
  13. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.431
    Адрес:
    Latvia
    Достаточно иметь малейшее знание HTML,тогда настроите самостоятельно, правда сначало могут пугать общирное содержание настроек "как в кабине вертолета" но это заблуждение изначально... потом в привычку войдет что все удобно и под рукой.
    Ссылки недоступны для гостей
     
  14. obscurant

    obscurant New Member Пользователи

    Регистрация:
    19 июн 2013
    Сообщения:
    1
    Реально-ли парсить я.маркет в связке CD + AdvOR ?
    Сейчас стоит задача парсить цены по определенным товарам. Пользовался своим скриптом + proxifier - яндекс зарубил купленные прокси-сервера.
    Возможен-ли парсинг с учетом нужного региона "Москва"?
     
  15. alamina.moon

    alamina.moon Модератор Команда форума Модератор

    Регистрация:
    14 янв 2013
    Сообщения:
    214
    конечно можно, но не быстро ;)
     
  16. Djahat

    Djahat Well-Known Member Пользователи

    Регистрация:
    14 янв 2013
    Сообщения:
    543
    Город:
    Мордор
    Всем привет, подниму тему по новой.

    Можно гдето посмотреть инструкцию - как эту самую капчу - заантигейтить, нужно понимание хотябы на уровне процесса.

    В двух словах, что куда пихать, чтобы если Янд Маркет начал вы.....ться, заткнуть его антигейтом.


    Ключь антигейт у меня есть.
    Проект под Парс Маркета - есть.
    запускаю, на паузе 5000-11000, в 1 поток, на 300 запросе - просит капчу.

    Вот с этого момента не понимаю, чем и как дополнить проект, чтобы яндекс отвалил - как скормить ему антигейт - вот вопрос.

    Если кто в силах объяснить в пару строк, буду весьма признателен.
     
  17. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте!

    Если парсите не через "Internet Explorer (DOM)" -> Ссылки недоступны для гостей
    Если через "Internet Explorer (DOM)" -> Ссылки недоступны для гостей (Распознавание текста капчи с помощью сервиса Antigate)

    PS: "Internet Explorer (DOM)" включается в ctrl+h! =)
     
  18. Djahat

    Djahat Well-Known Member Пользователи

    Регистрация:
    14 янв 2013
    Сообщения:
    543
    Город:
    Мордор
    Черт - никак не наскребу бабла, чтоб купить комп на котором можно семерку поставить и 11 експлорер - технический регрес епт
     
  19. Octavian

    Octavian Active Member Пользователи

    Регистрация:
    8 ноя 2016
    Сообщения:
    177
    Всем привет
    На форуме о страданиях с яндекс-маркетом написано много, поэтому не буду открывать новую тему
    Использую элит SOCKS5 , но они судя по всему в черном списке у яндекса, банит весь список, в коде страниц текст про капчу.
    Тот же список но через DOM, никакого бана нет, ставлю 3-5 потоков, процесс идет, скорость понятно совсем не та.
    Может кто знает как это можно объяснить.
     

Поделиться этой страницей