Robots.txt for archive.org
Sitemap: https://archive.org/sitemap/sitemap.xml ############################################## # # Welcome to the Archive! # ############################################## # Please crawl our files. # We appreciate if you can crawl responsibly. # Stay open! ############################################## User-agent: * Disallow: /control/ Disallow: /report/