Skip to main content

Was ist ein Googlebot?

Google ist vorrangig eine Suchmaschine, auch wenn der Konzern bereits in vielen verschiedenen Bereichen tätig ist und längst nicht mehr nur eine Suchmaschine. Damit Google als Suchmaschine funktionieren kann, wird ein Crawler benötigt. Bei Google wird dieser eben Googlebot genannt, da dieser sehr viel macht. Er crawlt die verschiedenen Webseiten und deren Unterseiten und schreibt sie in die Datenbank von Google.

 

Wie arbeitet der Googlebot?

Der Googlebot greift alle paar Sekunden einmal auf die Webseite zu um den Inhalt dieser herunterzuladen und anschließen in die Datenbank zu speichern. Der Googlebot greift solange auf die Webseite zu, bis diese komplett heruntergeladen ist, also auch die Unterseiten. Je nach Aktualität und Frequenz der Veröffentlichung von Artikeln, kommt der Googlebot einige Male pro Monat oder Woche, sodass der Inhalt in der Google Datenbank aktualisiert werden kann.

 

Googlebot aussperren

Möchte man vermeiden, dass der Googlebot oder auch ein anderer Bot auf die eigene Internetpräsenz zugreift oder auf einen bestimmten Bereich, dann kann man diesen Bot komplett sperren oder den Zugriff zu diesem Bereich. In der Regel funktioniert das Aussperren eines Bots oder eines bestimmten Bereichs mittels der robots.txt Datei. In dieser ist definiert, welche Crawler, Spider und Bots darauf zugreifen können oder eben nicht.

Wenn du den Googlebot oder auch einen anderen aussperrst, dann kann dieser deine Webseite nicht mehr richtig crawlen und somit nicht in den Index aufnehmen. Damit verbaust du dir von anderen gefunden zu werden. Es gibt aber bestimmte Unterseiten und vor allem Bereiche, welche von den Crawlern nicht gecrawlet werden sollen. Bei bestimmten Bereichen kannst du dies über die robots.txt aussperren, bei bestimmten Seiten solltest du lieber „noindex“ wählen.

Mit der robots.txt kannst du dies also tun und entweder entsprechende Seiten, Bots, Clients (Browser) etc. zulassen und aussperen. So hast du die volle Kontrolle, wer auf welche Bereiche deiner Webseite darf und wer und wohin eben nicht.

 

Ich würde mich sehr freuen, wenn du meine Zeit und Arbeit würdigst und den Beitrag teilst. Es ist nur ein kleiner Klick für dich, aber eine große Hilfe für mich.

Du willst mehr Sichtbarkeit und geilen Content?

Mehr Sichtbarkeit durch geilen Content und Content Marketing. Analyse deine Rankings, optimiere die Schwächen deiner Website und erhalte kostenlos und unverbindlich einen SEO-Check für deine Website. Prüfe, wie sich dein Content schlägt und optimiere ihn mit der Content Suite.

Loslegen, analysieren, optimieren, dominieren!*

Du willst mehr Sichtbarkeit in den Suchmaschinen?

Dann analysiere deine Rankings, optimiere die Schwächen deiner Website und erhalte kostenlos und unverbindlich einen SEO-Check für deine Website. Mache auch eine schnelle WDF*IDF-Analyse und prüfe deinen Content auf duplicate Content.

Jetzt kostenlos einen SEO-Check machen!*

Sponsor: Clixado

Hochwertige Backlinks kaufen

Durch Kooperationen mit unzähligen und unabhängigen Seitenbetreibern stehen uns über 4000 Blogs und Magazine zu verschiedenen Themen zur Verfügung, auf denen wir Artikel mit einem DoFollow Link zu deiner Seite veröffentlichen können.

  • Kein SEO-Netzwerk, verschiedene Seiteninhaber (kein PBN! oder ähnliches)
  • Keine abgestraften oder blackisted Seiten
  • Unterschiedliche Qualitäts- und Preisklassen
  • Einmalzahlung, keine laufenden Kosten

Jetzt kostenlos und unverbindlich Beispiele anfordern

>
vgw