Предложения по улучшению программы

Тема в разделе "Развитие Content Downloader", создана пользователем Root, 13 мар 2010.

  1. kadishev1997

    kadishev1997 Well-Known Member Пользователи

    Регистрация:
    27 мар 2019
    Сообщения:
    310
    Доброго дня!
    Добавьте пожалуйста, возможность подгружать PHP_SCRIPT_0 в макрос [APPENDDOCSOURCE]
    Необходимо для того, чтобы получать токен - ключ авторизации, который необходим для подгрузки данных в GETMORECONTENT, и уже из него в дальнейшем дообрабатывать данные.
    Дополнительно под хайдом (потому как там есть логин/пароль) приложил файл проекта, где наглядно показываю вариант того, как это работает через PHP_SCRIPT и GETMORECONTENT. В нем я более нагляно описал и рассказал о проблеме.
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 10000 постов.**
    UP: Решил с помощью GETMORECONTENT с функцией порядка выполнения макроса "В начале".

    Но как вариант, можно добавить PHP_SCRIPT_0 для обработки данных в [APPENDDOCSOURCE], предложение которой я написал выше
     
    Последнее редактирование: 27 июл 2020
  2. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Замените файл Content Downloader.exe (в папке с программой) этим файлом:
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 10 постов.**
     
  3. kadishev1997

    kadishev1997 Well-Known Member Пользователи

    Регистрация:
    27 мар 2019
    Сообщения:
    310
    Красота! Спасибо вам большое! Лучшее решение!
    P.S., сегодня-завтра ожидайте от меня донатик)
     
    Root нравится это.
  4. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Сайт Ссылки недоступны для гостей не загружается компонентами на Windows 7. Для загрузки этого сайта перенесите программу на ПК c Windows 10.

    Также добавил параметр can_harvest_non_target_pages -> Ссылки недоступны для гостей

    Замените файл Content Downloader.exe (в папке с программой) этим файлом:
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 100 постов.**
    В логе есть информация по работе макроса [CRAWLER]

    2020-07-27_20-34-17.png
     
    gans нравится это.
  5. kadishev1997

    kadishev1997 Well-Known Member Пользователи

    Регистрация:
    27 мар 2019
    Сообщения:
    310
    В главном окне программы сделать небольшой ползунок (скролл) для строки заголовка. Не очень удобно искать параметры вручную (с помощью стрелочек на клавиатуре), когда у тебя больше 50 заголовков.
    Только маленький, чтобы он не занимал значимую часть окна, а то на маленьких разрешениях экрана и так мало места)
    Или как вариант добавить её в настройку программы (Вкл/Выкл), а там кому будет надо, тот под себя настроит)
     
    Root нравится это.
  6. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Обратите внимание, что в редакторе шаблона вывода (ctrl+2) есть Splitter, за который можно "потянуть" и изменить размер строки заголовка.

    2020-07-29_12-16-07.png
     
    kadishev1997 нравится это.
  7. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Замените файл Content Downloader.exe (в папке с программой) этим файлом:
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 100 постов.**
    В контекстное меню добавлены функции увеличения и уменьшения текстового поля

    2020-07-29_17-10-29.png
     
    kadishev1997 нравится это.
  8. kenny872012

    kenny872012 Well-Known Member Пользователи

    Регистрация:
    18 фев 2018
    Сообщения:
    313
    Здравствуйте. Хорошая новая функция автоматической расшифровки закодированных файлов проектов. Было бы неплохо, иметь возможность самому кодировать файлы cdp и расшифровывать через ввод пароля в программе. А еще лучше компилировать парсеры с уже закодированным проектом и ограниченным функционалом программы для дальнейшей передачи клиенту, полезно когда нет времени юзать ЯП для написания парсера и открыть эту функцию пользователям cd, которые готовы платить за нее абон. плату чтобы вам не терять прибыль.
     
    Последнее редактирование: 30 июл 2020
    kadishev1997 и Dron25 нравится это.
  9. Dron25

    Dron25 Well-Known Member Пользователи

    Регистрация:
    17 июн 2014
    Сообщения:
    263
    Отлично было бы иметь возможность компилировать парсеры
    сделать как в zp, платная компиляция с подключением к аккаунту по примеру зеннобокс
    или выпустить версию какую то "ультимат про" которая будет стоить в десять раз дороже но уметь компилировать проекты
     
  10. kadishev1997

    kadishev1997 Well-Known Member Пользователи

    Регистрация:
    27 мар 2019
    Сообщения:
    310
    Недавно на время перепривязывал лицензию с первого ПК на второй. С первого ПК саму программу не удалял (и не пользовался). Вторым временно попользовался (потребовалась RDP на время), хотел перекинуть лицензию обратно, на первый ПК. Ничего не нашел, кроме как переустановить программу и уже при первом заходе её активировать.
    По возможности, добавьте в программу функционал ввести лицензионный ключ в программе, не переустонавливая её.
    P.S. Возможно, я просто не нашел ни на форуме ответа, ни подобной настройки в самой программе, поэтому тапочками в меня не кидайте, если такое уже есть)
    P.S.S. Если это как то может повлиять на безопасность использования программы (дабы интузиасты не смогли её взломать/сделать nulled-версию) - то тогда лучше не надо, пускай все останется как есть. Все равно разово делается, но если допилится, будет маааленькая, но приятная мелочь)
     
    Root нравится это.
  11. kadishev1997

    kadishev1997 Well-Known Member Пользователи

    Регистрация:
    27 мар 2019
    Сообщения:
    310
    Всем доброго дня, утра, вечера и ночи.

    Предложение: в списке прокси-серверов (ctrl+r) добавить возможность проверять ip-адреса сразу по четырем типам прокси (http, https, socks4 и socks5).

    Думаю, логика понятна, но объясню почему: Есть много сайтов с публичными (бесплатными) прокси-серверами, и многие из них дают общий пул ip-адресов с перемешкой типов прокси, а их актуальность и скорость работ ну намного меньше, нежели покупать приватные.

    И проверять каждый из них на каждый тип, закидывать в программу, ставить в обработку (даже при максимальном потоке в 100 проверок) - честно, гемморойно, особенно когда у тебя проект, где ссылок вроде не очень много, а занимает все это времени больше, чем если бы ты их обработал вручную, а у них скорость маленькая и отваливаются быстро, их нужно пересобирать, по новой проверять каждый тип прокси и т.д. (немного о наболевшем, но не об этом).

    Так вот, добавьте возможность в прокси-чекер проверять IP-адреса сразу по всем 4 типам прокси. Думаю, очень многим сократит время работы и немного сэкономит нервов :)
     
    Root нравится это.
  12. gans

    gans Well-Known Member Пользователи

    Регистрация:
    21 апр 2014
    Сообщения:
    309
    Добрый день! Макрос отрабатывает на пять баллов! Огромное спасибо! Есть ещё чисто технические вопросы по извлечению имэйлов, которые хотелось бы озвучить немного позднее. Т.е. привести примеры простых сайтов, где имейлы не извлекаются.
     
    Root нравится это.
  13. kadishev1997

    kadishev1997 Well-Known Member Пользователи

    Регистрация:
    27 мар 2019
    Сообщения:
    310
    Доброго дня!
    При парсинге через PHP_SCRIPT некоторые ответы выдают ошибку 500 internal server error (при условии, что делаю один и тот же запрос с разными параметрами, и кол-во обработок может достигать до 100 с одной ссылки) , из-за чего необходимых данных может попросту не хватать. Делаю парсинг через платные прокси, поэтому проблем с сетью быть не должно. Пробовал выставлять паузу перед каждым зпросом в настройках PHP_SCRIPT - к сожалению без изменений.
    upload_2020-8-9_15-53-59.png

    Такое предложение: добавить возможность "дообрабатывать" данные с любой ошибкой (номера ошибок может выбирать пользователь) и дозаписывать в итоги парсинга. Возможно, сделать какую-то галочку в самой настройке PHP_SCRIPT или в виде макроса...

    Другими словами и если очень грубо, то совмещение CHECKENTRY + RELOADDOCUMENT , только для PHP_SCRIPT, который отработал с ошибкой.
    Ну и возможно для GETMORECONTENT то же самое сделать заодно.

    P.S. Могу под хайдом приложить проект, но думаю это мало чем поможет, т.к. там нужны прокси, а у меня привязка по IP, так бы поделился

    P.S.S Вот еще пару скриншотов с этой же ошибкой (в моем проекте они выделяются как пустые строки
    upload_2020-8-9_16-3-3.png
    upload_2020-8-9_16-10-4.png
     
    Последнее редактирование: 9 авг 2020
  14. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    При такой ошибке навряд ли какие-то данные приходят, она возникает при установке соединения с сервером.

    Просто увеличьте количество попыток запросов и добавьте паузу.

    2020-08-09_13-23-37.png

    Если не поможет, напишите.
     
  15. kadishev1997

    kadishev1997 Well-Known Member Пользователи

    Регистрация:
    27 мар 2019
    Сообщения:
    310
    Количество попыток и так стояло 10, попробую увеличить до 50, но скорее всего не в этом дело
    __
    Немного подразобрался: в CIS выдает пустую строку, а вот в WIN есть какое-то значение (ошибка).
    Сейчас пытаюсь зацепиться за это непустое значение (ошибку), в формате если ошибка будет, сделать RELOADDOCUMENT и загрузить по новой. Или какой-то другой макрос, если придумаю костыль.

    По результатам отпишусь, спасибо за ответ.
     
  16. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Зачем вам за что-то зацепляться. Перезагрузка документа (при ошибке) происходит автоматически.
     
  17. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Напишите в Whatsapp

    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 1 постов.**
    Можно попробовать изменять параметры KeepConnection и KeepAlive.
     
    kadishev1997 нравится это.
  18. kadishev1997

    kadishev1997 Well-Known Member Пользователи

    Регистрация:
    27 мар 2019
    Сообщения:
    310
    Доброго дня!
    В макросе [ADDURL] в дополнении к нему [ALLOWDUP] добавить возможность ставить ограничение кол-ва добавления ссылок в список парсинга.
    Что-то типа такого:
    Где [ALLOWDUP:10] - максимальное кол-во загрузок в список ссылок - 10 раз.
    Иногда бывают попадают "не удачные" ссылки, которые постоянно пытаются пройти через checkentry, и по сути попадают в постоянную циклическую обработку. Особенно когда работает автоматизация, это не есть хорошо, ибо проект не завершается никогда.
     
    Root нравится это.
  19. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Замените файл Content Downloader.exe (в папке с программой) этим файлом:
    Скрытое содержимое:
    **Скрытое содержимое: доступно при наличии 100 постов.**
    Обратите внимание на новый параметр {ADDCOUNT}
    Код:
    [ADDURL]http://SBFactory.ru/?p=[INT_ID]{ADDCOUNT}3{/ADDCOUNT}[/ADDURL]
     
    kagorec и kadishev1997 нравится это.
  20. kadishev1997

    kadishev1997 Well-Known Member Пользователи

    Регистрация:
    27 мар 2019
    Сообщения:
    310
    Доброго вечера!
    В работе подключаемых файлов, в макросе [CSVREPLACE] (или ему подобном из ряда подключаемых CSV) добавить такую возможность:
    Удалять строку, загруженную через LOADCSV, если в столбце встретится определенное слово.

    Поясню: есть значение в макросе [IF1] такого формата
    Этот макрос помещен внутри макросов PUTCSVDATA и GETCSVCOORD
    Нужно, чтобы там, где добавилось значение (FILTER) в ячейке - удалять (отчищать) строку.
    Примерно вот так:
    upload_2020-8-11_21-25-33.png
    Хотел сделать подобное через [CSVREPLACE], но не нашел подходящего варианта, как реализовать подобное.

    Было бы здорово, если такое внесли в функцинал программы.
    P.S. Возможно, подобное решение уже есть, но ни на форуме, ни в системе помощи такого не нашел)
     
    Root нравится это.

Поделиться этой страницей