# hilfe auf http://www.searchcode.de/robotstxt.php User-agent: EmailCollector Disallow: / User-agent: * Disallow: /index Disallow: /temp/ Disallow: /cgi-bin/ Disallow: /testshop # Massendownloader vom CGI Verzeichnis fernhalten User-agent: wget User-agent: webzip User-agent: webmirror User-agent: webcopy