Сайт виснет во время процесса грабинга

Статус
В этой теме нельзя размещать новые ответы.

aaaf

Создатель
Заблокирован
Регистрация
14 Окт 2007
Сообщения
14
Реакции
0
  • Автор темы
  • Заблокирован
  • #1
Здравствуйте, уважаемые пользователи NewsGrabber!
Столкнулся с одной проблемой, что когда идет процесс обновления контента (грабинг), то сайт, на котором стоит граббер не открывается. Как только контент сграбиться – сайт сразу продолжает работать. Все бы ничего, но когда грабиться сразу по 10 новостных лент раз в час… То грабиться все по ~5 минут, и сайт в это время лежит.

Кто-нибудь сталкивался с этой проблемой, и имеет способы решения?
 
что-то мне кажется что просто у хостера стоит ограничение либо на кол-во запущенных процессов, либо...
На самом деле, когда в базе около 100к ньюсов я заметил такую тему что могй Коре2Дуо 3Ггц греется не на шутку... мускуль загружает на 50% систему и на остальные 50% пхп-парсер находит занятия... поэтому у меня парсинг стоит на 5 утра.. .окурат с 5 до 6 утра он успевает со всем справиться...

Кстати, что за хостер?
 
Ну так вы сами и назвали причину
Все бы ничего, но когда грабиться сразу по 10 новостных лент раз в час… То грабиться все по ~5 минут, и сайт в это время лежит.
Тоесть все 10 новостных лент грабятся за 5 минут. Что вы еще хотели. У вас просто время стоит одно. Поставьте чтоб каждая лента если у вас их 10 то пусть на каждую идет минут 5-6 и проблем никаких не будет.
 
  • Заблокирован
  • #4
Новости грабятся какоето время а потом выскакивает ошибка, время каждый раз разное.
 
Статус
В этой теме нельзя размещать новые ответы.
Назад
Сверху