hotti: Dokumentverwaltung und Suchmaschinen, HTTP-Status

Beitrag lesen

hi,

Kann man da mit einer zentralen Robots.txt etwas machen?

Ja. robots.txt, steht drin:

User-agent: *
Sitemap: /sitemap.xml
Allow: /

Jetzt musst Du nur noch dafür sorgen, dass das sitemap.xml automatisch erstellt wird und so kriegen die Bots immer gleich alles mit.

Hotti