Calocybe: Suche Hilfe in Bezug auf robots.txt

Beitrag lesen

Hi!

Wozu brauch ich sie, was macht sie und wie erzeuge ich sie ???

Nachdem Du mit dem anderen Link rausgefunden hast, wozu man die braucht, findest Du hier,
wie sie funktionieren:

http://info.webcrawler.com/mak/projects/robots/exclusion.html
http://info.webcrawler.com/mak/projects/robots/norobots.html

Bye