Парсинг яндекс картинок по списку товаров

Тема в разделе "Скачивание картинок и файлов", создана пользователем Diabet, 10 апр 2014.

  1. Diabet

    Diabet Member Пользователи

    Регистрация:
    12 фев 2012
    Сообщения:
    114
    Нужно по списку товаров из прайса спарсить картинки Яндекс маркета и уложить по папочкам голову сломал ничо не могу выдумать версия последняя
     
  2. xxredlinexx

    xxredlinexx New Member Пользователи

    Регистрация:
    25 апр 2014
    Сообщения:
    6
    прошу создать видео урок на данную тему Т.К. н нашел решение данного вопроса на форуме кроме как перенаправление на платные услуги и создание проекта.
    Невольно возникает вопрос а нафига покупал программу если можно было просто заказать платную услугу без всевозможных головоломок
     
    Последнее редактирование: 29 апр 2014
  3. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    В создании видео урока вам сейчас отказываю, так как не считаю ваши манеры поведения подобающими. Претензии тут неуместны, вас никто не заставлял покупать и функционал никто от вас не скрывал (есть демо и система помощи, где видно, как все работает).
     
  4. xxredlinexx

    xxredlinexx New Member Пользователи

    Регистрация:
    25 апр 2014
    Сообщения:
    6
    ни кто претензии не предъявляет.

    Просто перестаньте отвечать на реальные вопросы по функционалу программы
    "вам это долго объяснять...... и вообще вам проще заказать услугу по созданию проекта..." дело в том что программа покупалась с целью работать с этой программой.

    согласитесь что еще проще просто заказать услуги профессионала который сам заполнит сайт. А на вопрос по яндекс парсингу я не нашел на форуме ответа с указанием на способы решения с помощью программы.
     
  5. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Думайте сами, кто вам не дает?
    Вам до сих пор не ответили только потому, что НИ У КОГО ПОКА НЕТ РЕШЕНИЯ ЭТОЙ ЗАДАЧИ! Там тратится куча бабок на защиту от парсинга (в Яндексе). Неужели вы думаете, что можно вот так просто взять и в огромных масштабах оттуда парсить все подряд. Нет!
    Да если даже будет решение этого, то ОНО БУДЕТ ПРОДАВАТЬСЯ! Так как никто это в паблик выставлять не будет! О халявных решениях по парсингу Маркета, думаю, можно и забыть уже =)
    ТУТ ВАМ НИКТО И НИЧЕГО НЕ ДОЛЖЕН!!! У вас, скорее всего, какая-то неверная иллюзия по этому поводу, забудьте ее и работайте сами...
     
  6. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Я вам бесплатно составлял два проекта на эту тему. Вы спасибо сказали? Хотя я потратил на их реализацию не один час времени!
    Сожалею, что они пока не на 100% доработаны, но в этих проектах показан метод парсинга картинок с Маркета...
    PS: Вот ситуация, у примеру вы купили Фотошоп. Да, софт хороший, но вот рисовать то в нем как-то и не хочется самому. Напишу ка я в поддержку Adobe: ребята, вот нате вам задачу, рисуйте ка мне быстро дизайн сайта, я купил у вас софт и мне посрать, что он сам не рисует, я верю в чудеса! Я буду возмущаться по поводу того, что если я посажу за свой ПК дизайнера (для того, чтобы нарисовать МНЕ картинки) он попросит за это деньги. Странно да!? Может он их попросит потому, что он выполнит вам работу? Может дизайнеру тоже нужно кушать или тратить деньги на свои нужды... Подумайте...
     
    ivan881488 нравится это.
  7. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Теперь по теме, проводил кучу опытов с капчей и баном по IP, пока думаю над решением этой проблемы, она пока не решена!

    Вот, если кому интересно - проект. Его нужно запускать отдельно, парсить картинки в отдельный CSV, потом склеивать два CSV (оригинальный CSV с товарами и новый CSV с картинками с Маркета) в инструменте "редактор CSV файлов" (на панели инструментов).

    Можете повыбирать паузу между запросами, может быть, если ее использовать - не будет банить. С прокси я пока опыты на Маркете не проводил...
     

    Вложения:

    yfan78 нравится это.
  8. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Вот, пожалуйста, видео с пояснениями и новые проекты Ссылки недоступны для гостей
     
    yfan78 нравится это.
  9. СТЕПАН

    СТЕПАН New Member Супер Модератор

    Регистрация:
    10 мар 2013
    Сообщения:
    51
    Адрес:
    Казахстан
    Во спасибо все четко и точно! Классный шаблон, тем более бесплатный спасибо! ;)
     
  10. xxredlinexx

    xxredlinexx New Member Пользователи

    Регистрация:
    25 апр 2014
    Сообщения:
    6
    а как на счет того чтобы сказать что проблемы с защитой от парсинга на яндексе и все терпеливо бы ждали решения как минимум
     
  11. xxredlinexx

    xxredlinexx New Member Пользователи

    Регистрация:
    25 апр 2014
    Сообщения:
    6
    огромное спасибо за видео
     
  12. Jusper

    Jusper New Member Пользователи

    Регистрация:
    6 авг 2015
    Сообщения:
    27
    Здравствуйте, решил пропарсить картинки по списку из csv, как показано на видео, но облом, ничего не парсит из примеров. То ли ошибка в границах парсинга картинок, после обновления ЯМ, то ли проблемы с IE, который не открывает выпадающие окна на ЯМ (войти, пункт меню "еще" и картинки при клике на них), посмотрел на IE который на ноуте, та же шляпа, переустановил IE от 8 до 11 версии, перебрал все настройки, с отключение блокировки всплывающих окон и отработки сценариев, ничего не помогает. В остальных браузерах все норм, но как я понимаю, CD использует IE.
    Вопросы:
    1. Задействованы ли как-то всплывающие окна при парсинге картинок или я не туда копаю? Возможно ли сменить webbrowser CD на Firefox
    2. Можно уточнить, где и как быстро поменять границы парсинга в скрипте? А то в видео показано, как настроить, но не объяснен принцип, что откуда берется

    При этом код для ручной установки границ для парсинга не загружается
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
     
    Последнее редактирование: 8 авг 2015
  13. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Скажите с какого URL какие картинки спарсить. Постараюсь предоставить вам решение.

    С уважением к вам, Сергей.
     
  14. Jusper

    Jusper New Member Пользователи

    Регистрация:
    6 авг 2015
    Сообщения:
    27
    Изначальная цель была в том, чтобы спарсить картинки из яндекс маркета по списку запросов из CSV, в частности, по теме авто дисков. То есть, по сути, сделать один в один с описанным на видео решением, только с другими запросами.
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
     

    Вложения:

    • disc pars.csv
      Размер файла:
      64 КБ
      Просмотров:
      10
  15. Jusper

    Jusper New Member Пользователи

    Регистрация:
    6 авг 2015
    Сообщения:
    27
    Сергей, можете объяснить, в чем ошибка работы парсера, которые выложен здесь и в двух словах, как можно поправить?
     
  16. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Проблемы парсинга картинки по указанной ссылке я не выявил. Проект прилагаю.

    С уважением к вам, Сергей.
     

    Вложения:

  17. Jusper

    Jusper New Member Пользователи

    Регистрация:
    6 авг 2015
    Сообщения:
    27
    По привычке стал ковырять код проекта, хотя все делается через интерфейс программы и достаточно просто)
    Автор огромнейшее спасибо за такую классную вещь)

    Кстати, забыл добавить, я уже долгое время занимаюсь юзабилити, так вот программа, на очень высоком уровне, в части понятности и удобства использования интерфейсов, я бы даже сказал на исключительном)


    Картинка нормально загружалась, только в папку, где находится КД, а не по адресу "сохранение результата", далее заменил в проекте ссылку на другую, через нотпад++, другая картинка тоже нормально загрузилась, далее усложнил задачу, добавив две ссылки одновременно, друг за другом, нормально грузившие картинки до этого, и все полетело "1 DOWNLOADFILE (BAD URL):Программе не удалось загрузить файл, проверьте url". Перезалил чистый проект с форума, который изначально работал, но он картинку перестал загружать, создание нового проекта в программе и очистка всех настроек не помогали. В принципе ничего не делал, чтобы все полетело, ссылки вставлял по аналогии с тем, как были вставлены ссылки в проекте MarketImagesSUPERFINAL(SEPARATED_METHOD)!!!, нотпад тоже не причем. Перезагрузил комп, тыкнул на изначальный проект, картинка загрузилась, вновь добавил вторую ссылку, опять все полетело, после очередной перезагрузки, изначальный проект перестал грузить картинку, причинно-следственные связи перестали быть очевидными(

    Решил проверить через час, оба проекта работают, запустил парсинг, список очистился и все вновь слетело. Короче понятно, что ничего не понятно, можно помочь на платной основе?
     
    Последнее редактирование: 18 авг 2015
  18. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Это Маркет банит за частые запросы. Поставьте количество потоков 1 во вкладке "Контент" и подберите паузу между запросами. Это должно помочь избежать бан.
     
  19. Jusper

    Jusper New Member Пользователи

    Регистрация:
    6 авг 2015
    Сообщения:
    27
    Сергей, вы бы не могли пояснить, каким образом осуществляется переход по первой ссылки выдачи яндекс маркета в данном видео
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    для скачивания более качественных фото товара?
    И вообще, может ли настроить парсер переходить по ссылкам на сайте работая с контентом другой страницы или определенными ее элементами.
     
  20. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.431
    Адрес:
    Latvia
    На меркете яндекса есть такие категории где более половины товаров в виде анонсов, кликнув по товару перекидывает на другой магазин.
     

Поделиться этой страницей