Очистка кеша элементов

Discussion in 'Решение различных задач по парсингу' started by portret32, Jan 16, 2015.

  1. portret32

    portret32 New Member Пользователи

    Joined:
    Apr 26, 2014
    Messages:
    167
    Здравствуйте!

    Заметил такую проблему. Во время парса с одного и того же сайта большого количества ссылок получается следующие.

    У меня для границ парсинга задан некий параметр который присутствует далеко не на всех страницах, и после парсинга нескольких страниц на которых он отсутствует в код забивается кеш этих страниц в которых отсутствует нужная мне часть кода...и получается что даже когда он доходит до той ссылки на которой все таки есть нужная мне граница, он ее не сохраняет, а после того как я вручную удалю кеш с этой ссылки, вауля открываешь и он все находит, но это не надолго....потом опять кеш забивается и вылетает найденная граница....Можно как нибудь сделать автоматическую очистку кеша элемента парсинга перед тем как он откроет ссылку. Делал по 100 раз очистить кеш всех, не помогает...точней помогает но опять таки не на долго.
     
  2. Kreol

    Kreol Модератор Staff Member Модератор

    Joined:
    Jan 6, 2013
    Messages:
    2,666
    Проблема раскрыта не полностью.
    Описывайте проблемы с примерами.
     
  3. portret32

    portret32 New Member Пользователи

    Joined:
    Apr 26, 2014
    Messages:
    167
    Я думаю нормально был описан смысл задачи. Автоматически удалять кеш перед началом загрузки ссылки в парс. Пока ждал ответа решил задачу самостоятельно следующим образом, вдруг кому потом интересно будет.

    Использовал несколько юзер агентов и на каждый задал свою границу парсинга, потому что сайт который я парсил был в мобильной версии. И каждый юзер агент заново подгружал код, потому что код ( ЗАКЕШИРОВАННЫЙ ) от предыдущего юзер агента уже не подходил...таким образом сделал очистку кеша.
     

Share This Page