Hello,
macht google das auch? ich meine alle links durchgehen und "mal drauf klicken und sehen was kommt" oder durch sucht er alle Dateien die er im Verzeichnis (auf meinem Webspace) findet(dann findet er ja nur eine Datei)?
Google beachtet inzwischen wieder sehr genau die Angaben im Header der Datei:
z.B.:
<meta name="robots" content="index,follow">
und die robots-Datei
http://de.selfhtml.org/navigation/html.htm#kopfdaten
http://de.selfhtml.org/html/kopfdaten/meta.htm#robots
http://de.selfhtml.org/diverses/robots.htm
Das mag wohl daran liegen, dass es inzwischen auch Gerichte gibt, die im Streitfall danach fragen, ob die Seite denn eine entsprechende Verfügung enthalten hat.
Liebe Grüße aus dem schönen Oberharz
Tom vom Berg