Hier wäre ich vorsichtig. Die Rechtsprechung die ich bisher so gehört habe sieht in der robots.txt und den Meta-Angaben ein Gegenstück zu Hinweisschildern die einen rechtlich relevanten Willen des Authors ausdrücken (sowohl zum Aussperen aber auch als Einladung per meta keyword). Auch das halte ich durchaus für korrekt.
Und somit bin ich aus dem Schneider. Ich entscheide mich dafür, Metas auszuwerten und die robots.txt zu ignorieren. So halten es andere Suchmascnhinen auch. Entweder, oder.
Und die Metas bei Google zeigen keinen Hinweis darauf, dass ein Spidern nicht erwünscht ist ;)