nntp2http.com
Posting
Suche
Optionen
Hilfe & Kontakt

Neuer Googlebot ohne Beachtung von robots.txt?

Von: Juergen Kuehne (hexelbox@gmx.de) [Profil]
Datum: 30.01.2008 19:17
Message-ID: <fnqen5$tl8$02$1@news.t-online.com>
Newsgroup: de.comm.infosystems.suchmaschinen
Hallo,

habe in meinen (Webseiten-) Logs eine IP gefunden, die zu Google gehört,
aber weder die robots.txt liest noch deren Inhalt beachtet :-(
Hat versucht, Inhalte gelesen, die lt. robots.txt auch für Google nicht
"erlaubt" sein sollten.

Kennt jemand schon   72.14.193.161 ?

Kam ohne Agent-Kennung. Bei Google selber <gr> habe ich kaum
verwertbares gefunden, ausser dass mit Range 72.14.* einiges an Spam
über gmail gelaufen ist.

Jürgen

[ Auf dieses Posting antworten ]

Antworten