Очистка кеша элементов

Тема в разделе "Решение различных задач по парсингу", создана пользователем portret32, 16 янв 2015.

  1. portret32

    portret32 New Member Пользователи

    Регистрация:
    26 апр 2014
    Сообщения:
    167
    Здравствуйте!

    Заметил такую проблему. Во время парса с одного и того же сайта большого количества ссылок получается следующие.

    У меня для границ парсинга задан некий параметр который присутствует далеко не на всех страницах, и после парсинга нескольких страниц на которых он отсутствует в код забивается кеш этих страниц в которых отсутствует нужная мне часть кода...и получается что даже когда он доходит до той ссылки на которой все таки есть нужная мне граница, он ее не сохраняет, а после того как я вручную удалю кеш с этой ссылки, вауля открываешь и он все находит, но это не надолго....потом опять кеш забивается и вылетает найденная граница....Можно как нибудь сделать автоматическую очистку кеша элемента парсинга перед тем как он откроет ссылку. Делал по 100 раз очистить кеш всех, не помогает...точней помогает но опять таки не на долго.
     
  2. Kreol

    Kreol Модератор Команда форума Модератор

    Регистрация:
    6 янв 2013
    Сообщения:
    2.666
    Проблема раскрыта не полностью.
    Описывайте проблемы с примерами.
     
  3. portret32

    portret32 New Member Пользователи

    Регистрация:
    26 апр 2014
    Сообщения:
    167
    Я думаю нормально был описан смысл задачи. Автоматически удалять кеш перед началом загрузки ссылки в парс. Пока ждал ответа решил задачу самостоятельно следующим образом, вдруг кому потом интересно будет.

    Использовал несколько юзер агентов и на каждый задал свою границу парсинга, потому что сайт который я парсил был в мобильной версии. И каждый юзер агент заново подгружал код, потому что код ( ЗАКЕШИРОВАННЫЙ ) от предыдущего юзер агента уже не подходил...таким образом сделал очистку кеша.
     

Поделиться этой страницей