скрипт

Тема в разделе "Шаблон вывода", создана пользователем booyanka, 15 авг 2019.

  1. booyanka

    booyanka New Member Пользователи

    Регистрация:
    14 дек 2015
    Сообщения:
    6
    Требуется минимизировать время обработки скрипта в CD.
    Для этого нужно логирование работы проекта. Есть ли оно в CD.
    Скрипт работает так.
    Скачал нужные мне html файлы на локалку. 1 файл- 1 страница. Загружаю по урлу файл в CD.
    Обрабатываю файл, нужные мне элементы пересылаю в скрипт php командой PHP_SCRIPT, DATAENCODE. С результирующим кодом, который мне вернул php сохраняю в отдельный файл.

    При таком подходе в 50 потоков, у меня скорость 2,3-3 документа в секунду.
    1 000 000 файлов будет обрабатываться 100 часов.
    Диск при этом нагружен на 5%, процессор на 15%, оперативка до 9 гигов(есть запас)

    Замерил время выполнения php скрипта и снизил его до 0,005 секунды.
    Что нужно:
    Замерить время выполнение каждой границы парсинга (как это сделать).
    То есть, есть лив программе логирование подробное.
    Где будет писаться, файл загружен за n секунд, граница 1 за n секунд, общее время n секунд
     
    Последнее редактирование: 15 авг 2019
  2. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.431
    Адрес:
    Latvia
    Лайфхак на ускорение в 10х раз
    Запустите одновременно штук 10 CD, в каждом клон проекта под своим номером и своей частью списка.
     
  3. inotoxic

    inotoxic Well-Known Member Пользователи

    Регистрация:
    13 сен 2015
    Сообщения:
    867
    Вставляйте в начале и в конце парсинга каждого файла- макрос текущего времени
     
  4. napserious

    napserious Well-Known Member Пользователи Активирован

    Регистрация:
    16 окт 2015
    Сообщения:
    324
    Обрабатывать файлы очень быстро можно на чистом PHP или bash.
    Покажите пример файла, PHP скрипт и что вы хотите получить в конце
     
    kagorec нравится это.
  5. booyanka

    booyanka New Member Пользователи

    Регистрация:
    14 дек 2015
    Сообщения:
    6
    ), спасибо. Это я уже знал и так.
     
  6. booyanka

    booyanka New Member Пользователи

    Регистрация:
    14 дек 2015
    Сообщения:
    6
    Круто, пошел тестировать.
     
  7. booyanka

    booyanka New Member Пользователи

    Регистрация:
    14 дек 2015
    Сообщения:
    6
    Странный совет программировать на чистом php, когда есть волшебный CD который делает всю грязную работу за меня.
     
  8. booyanka

    booyanka New Member Пользователи

    Регистрация:
    14 дек 2015
    Сообщения:
    6
    Нужна помощь по макросу текущего времени. Я так понял макрос [CD_UNIXTIME] считает в секундах.
    А есть ли макрос выводящий результат в микросекундах?

    Так как иначе я вижу, что весь скрипт выполняется за 1 секунду. Время без изменений у меня. При этом 100 результатов выполняются за 27 секунд. То есть один скрипт выполняется за 0,3 секунды.
     

Поделиться этой страницей