Завис парсинг с dynamicvalues

Тема в разделе "Решение проблем с использованием программы", создана пользователем BishopFingers, 20 фев 2020.

Метки:
  1. BishopFingers

    BishopFingers New Member Пользователи

    Регистрация:
    12 фев 2020
    Сообщения:
    5
    После того, как было спарсено 25к из 30к товаров, программа зависла на час. Закрыл-открыл, предлагает начать парсинг заново. В ту же таблицу продолжить нельзя, так как используется dynamicvalues. Подключить таблицу с уже 25к спарсенных товаров и преобразовать характеристики не получается, так как названий харакетиристик там нет, они появляются после окончания парсинга. Что посоветуете делать в такой ситуации?
     
  2. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Для начала нужно приложить файл проекта, чтобы протестировать.

    Также пояснить, как зависла программа (отвечает или нет) сколько процентов процессора при этом в диспетчере задач занимает.
     
  3. BishopFingers

    BishopFingers New Member Пользователи

    Регистрация:
    12 фев 2020
    Сообщения:
    5
    Не отвечала. Процессор на процентов 10%, не больше. Приложил файл проекта.
     
    Root нравится это.
  4. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Спасибо большое.

    По результату отпишусь тут.
     
    BishopFingers нравится это.
  5. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Вы сказали, что 30 000 товаров. В проекте только 3000.

    Также там используется прокси, если есть возможность, вышлите мне личным сообщением список прокси, который используете при парсинге.

    В общем, нужен проект, чтобы я его поставил на тестирование.

    Спасибо!
     
  6. BishopFingers

    BishopFingers New Member Пользователи

    Регистрация:
    12 фев 2020
    Сообщения:
    5
    Я без прокси использовал, парсил в один поток. Проект не мой, только дополнил, но в чем не был уверен, не трогал. Парсил, периодически вводя капчу вручную. Приложил проект с 30 000 товаров. Использовал проект ровно в таком виде, без списка прокси.
     
  7. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Сильно поможете если определите ссылку, на которой происходит зависание.

    Для этого в логе включите опцию записи ссылок WEB документов в файл, чтобы понять, на каком документе процесс остановился.

    2020-02-20_21-43-31.png

    Либо определите адрес "проблемного" WEB документа по результатам вашего прошлого парсинга, где у вас произошло зависание.

    Спасибо!
     
  8. BishopFingers

    BishopFingers New Member Пользователи

    Регистрация:
    12 фев 2020
    Сообщения:
    5
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 10000 постов.**
     
  9. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Могли бы вы написать мне в Skype
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 5 постов.**
     
  10. winchester7

    winchester7 New Member Пользователи

    Регистрация:
    24 дек 2012
    Сообщения:
    3
    Добрый день.

    Похожая проблема, только зависла не программа, а ноут. Парсил 10к страниц с DYNAMICVALUES. На 95% завершилось. Понадобилось паузнуть и перенести ноут. Приостановил, перевёл ноут в режим гибернации (и раньше так делал, всё ок было). Запускаю ноут - завис при запуске... Пришлось полностью выключать и включать заново. Естественно парсинг слетел.

    Восстановить заголовки никак теперь нельзя, только вручную по значениям проставлять?
     
  11. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Заголовки восстановить нельзя, только перепарсить.

    Компьютер зависать от программы не должен. Возможно, есть какой-то сбой в самой системе.
     
  12. winchester7

    winchester7 New Member Пользователи

    Регистрация:
    24 дек 2012
    Сообщения:
    3
    Ясно, спасибо.

    Конечно. Это Windows порой любит так пошалить.
     

Поделиться этой страницей