User-agent: *
Disallow: /logfiles/   # Die ändern sich jeden Tag
Disallow: /images/     # Bilder nicht downloaden
Disallow: /cgi-bin/    # CGI Ausgaben nicht indexieren