November 26, 2024
Robots.txt for tomsguide.com
        ##################################################
# Vanilla-wide rules                             #
##################################################
User-agent: *
# Common path patterns (* prefix to handle localisation)
Disallow: */deals/compare
Disallow: */html/
Disallow: */p/*/embed/captioned
# Common query string patterns
Disallow: *searchTerm=*
Disallow: *sortBy=*
Disallow: *productBrand=*
Disallow: *%7B*%7D*
# Infinite scroll paths
Disallow: /infinite-scroll-article/*
Disallow: /infinite-scroll-review/*
Disallow: /infinite-scroll-recipe/*
##################################################
# Site-specific rules                            #
##################################################
User-Agent: *
Disallow: /r/
Disallow: /?*
Disallow: /us/s/
Disallow: */primary-style
##################################################
# Sitemaps                                       #
##################################################
User-agent: *
Sitemap: https://www.tomsguide.com/sitemap.xml
Sitemap: https://www.tomsguide.com/au/sitemap.xml
Sitemap: https://www.tomsguide.com/uk/sitemap.xml
    
