Скорость парсинга ресурсов 0,2-0,5 документа в сек

Тема в разделе "Решение проблем с использованием программы", создана пользователем korteller, 2 ноя 2012.

  1. korteller

    korteller New Member Пользователи

    Регистрация:
    2 ноя 2012
    Сообщения:
    1
    Здравствуйте

    Подскажите приобрел программу стандрат. Но скорость парсинга всегда 0,2-0,5 док в сек. Что может быть ?
     
  2. nikolas1612

    nikolas1612 Member Пользователи

    Регистрация:
    27 ноя 2011
    Сообщения:
    439
    скорость зависит от -

    1. типа лицензии на программу, и, соотв., количества рабочих потоков (у вас стандарт, тут все понятно; на всякий случай, проверьте, не парсите ли вы ресурс в один поток, да еще з задержкой между запросами);

    2. ресурсоемкости самой задачи (если у вас парсится материал с проследующей пост-обработкой, к примеру, с использованием сложных регулярок - то и 0,5 док/сек - это очень достойный показатель; учитывайте объективные ограничения по вычислительному ресурсу ЦП вашей системы);

    3. насколько широк и стабилен Ваш Интернет - канал;

    4. насколько тормознут удаленный сайт, который Вы "раздеваете". потолок скорости работы программы упирается в скорость работы удаленного ресурса. откройте сайт в браузере - лучше всего в IE (его использует CD) если на это уходит несколько секунд - то и удивляться нечему.

    P.S. по своему опыту скажу - в том, что касается непосредственно парсинга - программа довольно шустрая. 90% проблем = см. п. 4.
     
    Последнее редактирование: 2 ноя 2012

Поделиться этой страницей