Тема: WASP.kz :: Xenu - ищем битые ссылки на сайте

Прислано Kolmar-X 10-07-2024 07:30
#1

Мне несколько раз написали, что на одном моем (который я веду) сайте много "мертвых" ссылок на внешние ресурсы - вручную их искать невозможно. Там много страниц, форум, комментарии и так далее.

Есть такая программа Xenu - маленькая и удаленькая. Она сканирует весь сайт на предмет ссылок, отмечает все нормальные и все неработающие... битые... и где сайт по ссылке вовремя не ответил... В общем, полезный инструмент.

И я прогнал этот сайт через Xenu - там несколько тысяч страниц, как говорил - это статьи, каталоги, форум, фотогалерея, скачивание файлов, новости... проверка прошла быстро. На удивление!

Но, я быстро понял, что-то идет не так! Примерно треть страниц высветилась красным - error 507... Серверу не хватает ресурсов. Но каких ресурсов?

Прогнал этой программой еще один сайт - результат тот же. Показал битые ссылки и много страниц с ошибкой 507... Что за напасть?

Зашел в панель управления сайтом на хостинге - это Гудхост. Смотрю использование ресурсов - "Ваш сайт достиг лимитов ресурсов в течение последних 24 часов"... CPU Usage - 100%... и по времени как раз, когда я Xenu запустил проверять этот сайт...

Это называется "Парсинг информации с сайта" - программа Xenu сканирует сайт и создает повышенную нагрузку на сервер. Радовался скорости работы? Ну вот локти кусай! Пусть она бы час-два сканировала, но без такой пиковой нагрузки!

Теперь надо немного разобраться с этой программой - наверное настройки есть соответствующие...

Редактировал Kolmar-X 01-01-1970 05:00

Прислано Kolmar-X 10-07-2024 07:36
#2

Но зато заодно я почистил сайт от хлама... там файл error.log один только весил 1,7 Гб...

Но походу что-то не то щелкнуло... бац - сайт пропал! Вместо него вот такая синяя заставка нарисовалась, с приглашением воспользоваться конструктором сайтов.. В общем, геморрой. В итоге, вместе с техподдержкой Гудхоста все исправил - был поврежден/заменен этим конструктором файл index.php - его закачал с копии сайта на компе и все заработало...