MavirankBot
MavirankBot to program, za pomocą którego mavirank pobiera strony internetowe. Odczytuje stronę, aby można ją było sprawdzić pod kątem SEO, technologii i bezpieczeństwa. Nie buduje indeksu wyszukiwania: do raportu trafiają tylko ocenione wartości strony.
Jak go rozpoznać
Każde żądanie MavirankBota ma poniższy user agent. Adres w nawiasie to ta strona.
MavirankBot/1.0 (+https://mavirank.com/bot)- Żądania to zwykłe żądania
GETprzez HTTP lub HTTPS. Bot nie wykonuje JavaScriptu, nie przechowuje plików cookie i podąża za najwyżej 10 przekierowaniami. - Łączy się przez IPv4. Nie publikujemy listy adresów IP; bota rozpoznasz po
MavirankBotw user agencie. - Klienci mogą ustawić inny user agent dla audytów własnych stron, na przykład dla systemu testowego. Te żądania podlegają tym samym limitom.
Kiedy pobiera strony
MavirankBot nie przemierza sieci samodzielnie. Pobiera stronę tylko wtedy, gdy ktoś zleci mavirank jej sprawdzenie.
- Audyty zlecone przez klientów
- Klient podaje adres URL lub listę adresów URL do sprawdzenia. Bot pobiera tę stronę i kilka plików pomocniczych tej samej witryny, takich jak
robots.txti favicon. - Cykliczne audyty witryn
- Klienci rejestrują witrynę. Bot odczytuje jej mapę witryny i audytuje wymienione w niej strony według harmonogramu wybranego przez klienta.
- Publiczne narzędzia SEO
- Osoba korzystająca z naszych bezpłatnych narzędzi podaje adres URL lub nazwę hosta. Bot pobiera jeden raz to, czego potrzebuje dane narzędzie.
robots.txt
Zaplanowane audyty, crawle mapy witryny i audyty zbiorcze przestrzegają robots.txt. Obowiązują reguły dla MavirankBot; gdy takiej grupy nie ma, reguły dla *. Adres URL zablokowany w tym pliku nie jest pobierany.
Allow i Disallow są odczytywane zgodnie z RFC 9309. Crawl-delay nie jest uwzględniany; zawsze obowiązują poniższe limity. Plik jest przechowywany w pamięci podręcznej do godziny, więc zmiana zaczyna działać w ciągu godziny.
Gdy człowiek uruchamia pojedynczy audyt lub używa publicznego narzędzia dla jednego adresu URL, bot pobiera tę jedną stronę nawet wtedy, gdy robots.txt ją blokuje, tak jak zrobiłaby to przeglądarka tej osoby, i podaje regułę w wyniku.
Częstotliwość żądań
- Najwyżej 2 żądania na sekundę do jednej nazwy hosta, licząc wszystkich klientów łącznie.
- Najwyżej 8 żądań na sekundę do jednego adresu IP, aby wiele nazw hostów na jednym serwerze nie zwielokrotniało obciążenia.
- Pojedynczy audyt wysyła najwyżej 20 żądań.
Jak go zablokować
Aby trzymać MavirankBota z dala od swojej witryny, dodaj tę grupę do swojego robots.txt. Aby wykluczyć tylko część, podaj jej ścieżkę zamiast /.
User-agent: MavirankBot
Disallow: /To zatrzymuje zaplanowane audyty, crawle mapy witryny i audyty zbiorcze. Pojedyncze sprawdzenia uruchomione przez człowieka są odrzucane, jeśli Twój serwer WWW lub zapora odrzuca żądania, których user agent zawiera MavirankBot.
Zgłoś problem
MavirankBot sprawia kłopoty w Twojej witrynie albo podejrzewasz, że ktoś go nadużywa? Podaj nam nazwę hosta i czas żądań, a sprawdzimy to.