wahsaga: Probleme beim Eintrag in Google

Beitrag lesen

hi,

Ja, robots.txt muss im Wurzelverzeichnis liegen. Wie verhält sich ein Robot aber nun, wenn er über eine Linkverfolgung direkt in das Verzeichnis http://www.foo.com/german/willkommen.html gelangt? Wähnt er sich im Wurzelverzeichnis oder "rät" er das Wurzelverzeichnis, indem er nach der TLD abschneidet? _Das_ meinte ich mit Raten.

es ist klar _definiert_, dass DOMAIN.TLD SLASH robots.txt der URL für die robots.txt zu sein hat.
wenn sich der bot also in irgendeinem unterverzeichnis im root wähnt, ist er falsch programmiert ...

gruss,
wahsaga