Robert: bzw. (CLIENTS): bekannte IPs von robots

Beitrag lesen

Hallöle,

Das sind die, die die robots.txt abfragen (OK, nebst Spidern). ;-) Sorg also dafür, daß die robots.txt ein Script ist, welches

überflüssig ist.
Das kann ich auch aus dem Logfile rauslesen.

Schade, daß keiner meine Frage nach Listen bekannter Robot-IPs beantworten will.

Daß ich die Logfiles auswerten kann, hab ich schon im ersten Posting geschrieben.

cu,
Robert