hi,
Ja, robots.txt muss im Wurzelverzeichnis liegen. Wie verhält sich ein Robot aber nun, wenn er über eine Linkverfolgung direkt in das Verzeichnis http://www.foo.com/german/willkommen.html gelangt? Wähnt er sich im Wurzelverzeichnis oder "rät" er das Wurzelverzeichnis, indem er nach der TLD abschneidet? _Das_ meinte ich mit Raten.
es ist klar _definiert_, dass DOMAIN.TLD SLASH robots.txt der URL für die robots.txt zu sein hat.
wenn sich der bot also in irgendeinem unterverzeichnis im root wähnt, ist er falsch programmiert ...
gruss,
wahsaga