WBAppCEF проблема с Cloudflare

Тема в разделе "Решение различных задач по парсингу", создана пользователем lionz, 17 авг 2022.

  1. lionz

    lionz New Member Пользователи

    Регистрация:
    4 апр 2020
    Сообщения:
    12
    Город:
    Msk
    На одном из доноров перестало парсить. Банально WBAppCEF не пускает Cloudflare - игры с таймаутами не дают результата.
    Может у меня версия старовата
    Ссылки недоступны для гостей
    и надо обновлять?
     
  2. inotoxic

    inotoxic Well-Known Member Пользователи

    Регистрация:
    13 сен 2015
    Сообщения:
    868
    Здается обновление ничем не поможет
    Проблема в версии движка WBApp
     
  3. inotoxic

    inotoxic Well-Known Member Пользователи

    Регистрация:
    13 сен 2015
    Сообщения:
    868
    Что за сайт, если не секрет?
     
  4. lionz

    lionz New Member Пользователи

    Регистрация:
    4 апр 2020
    Сообщения:
    12
    Город:
    Msk
    В телегу скинул
     
  5. lionz

    lionz New Member Пользователи

    Регистрация:
    4 апр 2020
    Сообщения:
    12
    Город:
    Msk
    Я так понял, что Cloudflare апнулся, а апдейт CEF не предвидится... жаль
     
  6. atech

    atech New Member Пользователи

    Регистрация:
    24 фев 2019
    Сообщения:
    13
    у меня такая же проблема, просто каптчу от Cloudflare по кругу решаешь и все, у кого-то есть решение
     
  7. inotoxic

    inotoxic Well-Known Member Пользователи

    Регистрация:
    13 сен 2015
    Сообщения:
    868
    Можно решить на платной основе
     
  8. lionz

    lionz New Member Пользователи

    Регистрация:
    4 апр 2020
    Сообщения:
    12
    Город:
    Msk
    CD не решит проблему никаким макаром - автор забил на обновы
     
  9. dima911

    dima911 New Member Пользователи

    Регистрация:
    5 апр 2018
    Сообщения:
    89
    Город:
    Волгоград
    Та же проблема cloudflare не решается
     
  10. Xpite

    Xpite Member Пользователи

    Регистрация:
    13 мар 2017
    Сообщения:
    103
    Добрый день! Хотел уточнить, в обновленных версиях CD детектится CloudFlare защитой от ботов?
     
  11. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Не изучал этот вопрос.

    Предоставьте ссылку на сайт или товар, попробую изучить.
     
  12. Xpite

    Xpite Member Пользователи

    Регистрация:
    13 мар 2017
    Сообщения:
    103
    например при заходе на любую страницу discogs.com - там установили защиту от cloudflare - браузер сразу детектится и не пускает. Возможно можно было бы обойти, получив куку от WebAPP, но и тот тоже не проходит. И количество таких сайтов растет огромными темпами, увы( Посмотрите пожалуйста. Спасибо!
     
  13. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Не вижу проблем с этим сайтом.

    В 1 поток даже 3000 страниц в час парсит.
     

    Вложения:

    • discogs_com.cdp
      Размер файла:
      559,1 КБ
      Просмотров:
      13
    Xpite нравится это.
  14. Xpite

    Xpite Member Пользователи

    Регистрация:
    13 мар 2017
    Сообщения:
    103
    А у меня пишет "Your browser is out of date!" при переходе в вашем проекте и не парсит. Видимо в какой-то из версий эта проблема решилась. Спасибо, буду обновляться
     
    Root нравится это.
  15. Xpite

    Xpite Member Пользователи

    Регистрация:
    13 мар 2017
    Сообщения:
    103
    Обновился, но у меня все равно даже через webapp в Вашем проекте вылетает
    "Warning Your browser is out of date!
    Update your browser to view this website correctly. More Information."
     
  16. dima911

    dima911 New Member Пользователи

    Регистрация:
    5 апр 2018
    Сообщения:
    89
    Город:
    Волгоград
    Да это старая и известная проблема. Сейчас большинство маркетплейсов и агрегаторов сидят за CloudFlare
    контент данлоадер с ним бессилен.
    Было бы круто если бы автор нашел решение.
    Постоянно приходится искать обход через PHP
     
  17. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Я же не придумал, что спарсил.

    Специально на тесте побольше, 6000 страниц с указанного сайта снял.

    Что-то не так у вас происходит, напишите мне в Telegram, расшарите экран и покажете. Решим проблему.

    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
     
    Xpite нравится это.
  18. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Жду.
     
  19. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Предоставьте адреса конкретных страниц, где у вас есть такая проблема. Я вот, например, таких не наблюдаю. Есть известные мне проблемы с Яндекс Маркет и все. С остальными сайтами нормально.
     
  20. Xpite

    Xpite Member Пользователи

    Регистрация:
    13 мар 2017
    Сообщения:
    103
    Все просто, я сейчас проверил, проверка CF не со всех ip адресов показывается для дискогса, поэтому у вас нормально, а у меня стопорился. Но есть ресурсы, где проверка CF идет на каждый запрос от нового юзера. Обязательно найду пример и пришлю! Спасибо!
     
    Root нравится это.

Поделиться этой страницей