Zurück zum Glossar

Begriff

Crawl-Rate

Die Geschwindigkeit, mit der ein Suchmaschinen-Crawler Anfragen an eine Site stellt — gemessen in Requests pro Sekunde oder pro Tag und automatisch an Server-Antwortzeit angepasst.

Crawl-Rate — ausführlicher erklärt

Googlebot und Co. regulieren die Crawl-Rate selbst, basierend auf Server-Reaktion: schnelle, fehlerfreie Antworten → höhere Rate, häufige 5xx-Fehler oder lange Antwortzeiten → Rate sinkt automatisch ab. Ziel ist „so viel crawlen wie möglich, ohne die Site zu überlasten”.

In der Search Console lässt sich die Crawl-Rate nicht mehr manuell hochsetzen (das alte Setting ist 2024 entfallen) — stattdessen kann man bei Überlastung über das Crawl-Rate-Reduce-Formular eine Drosselung melden. Bing Webmaster Tools bietet weiterhin ein zeitabhängiges Drosselungs-Profil.

Beispiel / Praxisbezug

Eine kleine Site mit 200 URLs und stabilen 200-Antworten wird typisch alle paar Tage komplett gecrawlt. Eine Site mit häufigen 5xx oder Timeouts sieht im Crawl-Stats-Report eine sinkende Kurve — typisches Frühwarnsignal für Server-Probleme.

Abgrenzung zu ähnlichen Begriffen

Crawl-Rate = Geschwindigkeit der Anfragen. Crawl-Demand = wie viele URLs der Bot überhaupt crawlen will (Beliebtheit, Aktualität). Beides zusammen ergibt das Crawl-Budget — der praktische Output bei großen Sites.

Entdecke mehr