Принудительное завершение работы инстанса в WBAppCEF

Тема в разделе "WBAppCEF", создана пользователем Smodey, 24 апр 2021.

Метки:
  1. Smodey

    Smodey Active Member Пользователи

    Регистрация:
    27 ноя 2013
    Сообщения:
    59
    Доброго дня.
    Столкнулся с проблемой.
    Парсинг всеми любимого 2gis.ru
    При парсинге компаний руководствовался первым видео по ссылке: Ссылки недоступны для гостей

    Начинается всё довольно шустро и хорошо, однако со временем начинается что-то непонятное.
    Я паршу в 15 потоков браузера. Мощности для этого вполне хватает (8-ми ядерный Ryzen и 40Гб оперативной памяти). Однако со временем замечаю, что начинают накапливаться инстансы, продолжая висеть. При этом новые запускаются (т.е. выходят за предел 15). В итоге идёт просто забивка всего и вся ими.
    Как пример, специально подождал час, остановив парсинг. Рабочие остановились, зависшие что-то грузят.
    upload_2021-4-24_0-20-1.png


    Использую вот этот список событий:
    [INSTANTACTIONS]
    [NOJSALERTS]
    [REPEAT]:30
    [RESETJSMESSAGE]
    [DOSCRIPT]:Observer
    [WAIT]:500
    [CHECKJSMESSAGE]:eek:k
    [GOTO]:Finish
    [/CHECKJSMESSAGE]
    [WAIT]:100
    [/REPEAT]
    Finish:
    [YESJSALERTS]
    [WAIT]:500

    В функциях и макросах выставлено вот это:
    upload_2021-4-24_0-21-3.png

    Грешу конечно же на миллион в GOTO, но почему же тогда больше 15 инстансов запускается?

    На всякий случай проект:
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 100 постов.**
     
  2. Smodey

    Smodey Active Member Пользователи

    Регистрация:
    27 ноя 2013
    Сообщения:
    59
    К слову, эта опция всё равно не закрывает принудительно:
    upload_2021-4-24_1-26-50.png
     
  3. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Я не помню, реализована ли передача этой опции в WBAppCEF.

    Пока обратите внимание на такую опцию

    2021-04-24_07-19-19.png

    Возможно, в вашем случае нужно прописать правильное условие выхода из цикла. Проект ваш посмотреть смогу, скорее всего на днях.

    1 приложение WBAppCEF создает три процесса, поэтому у вас множество процессов в диспетчере.

    Также рекомендуется включить отображение WBApp при парсинге (соответствующая опция в окне Ctrl+H). Тогда можно отследить, что именно происходит в каждом запущенном экземпляре WBApp.
     
  4. Smodey

    Smodey Active Member Пользователи

    Регистрация:
    27 ноя 2013
    Сообщения:
    59
    Выставил 30000мс, ничего не поменялось.


    На сколько я правильно понимаю, цикл там единственный, и там прописано на 30 выполнений максимум "[REPEAT]:30"


    Запустил в 1 поток. Да, запустилось 3 процесса WBApp. Через пару минут их стало 4, потом 5 и т.д.
    upload_2021-4-24_21-59-44.png
    При этом визуально отображается только один работающий процесс
    upload_2021-4-24_22-0-55.png
    При остановке парсинга закрываются три работающих, остальные остаются висеть.
    upload_2021-4-24_22-3-37.png
    И естественно, нигде они не отображаются.

    Есть догадка. По логу заметил, что несколько страниц не спарсилось.
    upload_2021-4-24_22-5-37.png
    Тогда, если из-за этого, то почему процесс WBApp не завершился и продолжает что-то делать, а новый начинает работу.
     
    Последнее редактирование: 24 апр 2021
  5. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Для начала обновите программу.

    Если проблема после обновления программы не решится - напишите.
     
  6. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Хотел у себя протестировать ваш проект, но у меня нет списка прокси. Можете выслать список прокси, которые вы используете для парсинга мне на почту, тогда я протестирую.

    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
     
  7. Smodey

    Smodey Active Member Пользователи

    Регистрация:
    27 ноя 2013
    Сообщения:
    59
    Выслал на почту.
     

Поделиться этой страницей