📖 Glossar-Eintrag
Crawling
Der Prozess, bei dem Suchmaschinen-Bots Webseiten systematisch durchsuchen und deren Inhalte erfassen.
Geprüft von SEOX-ExpertenDieser Artikel wurde von unserem Team mit über 25 Jahren Erfahrung in SEO und digitalem Marketing verfasst und geprüft.
Was ist Crawling?
Crawling bezeichnet den Prozess, bei dem Suchmaschinen-Bots (auch Spider oder Crawler genannt) das Internet systematisch durchsuchen, Links folgen und Webseiten-Inhalte erfassen.
Wie funktioniert der Googlebot?
Der Googlebot startet mit einer Liste bekannter URLs, folgt Links auf diesen Seiten und entdeckt so neue Inhalte. Die Crawl-Frequenz hängt von der Website-Autorität und der Aktualisierungsrate ab.
- Crawl-Budget – Jede Website hat ein begrenztes Budget, das Google für das Crawling aufwendet
- Robots.txt – Steuert, welche Bereiche gecrawlt werden dürfen
- Sitemap – Hilft Google, alle wichtigen Seiten zu finden