🤖
Générateur Robots.txt
Créez un fichier robots.txt pour votre site web. Contrôlez les moteurs de recherche, bloquez les bots IA et gérez les sitemaps.
🕷️ Rule
📁 Common Paths to Block
🗺️ Sitemaps
📄 robots.txt
💡 Upload this file to the root of your website: https://yoursite.com/robots.txt
📚 About robots.txt
- • robots.txt tells search engine crawlers which pages to index
- • Place the file at the root of your domain
- • Use
Disallow: /to block all crawling - • Use
Disallow:(empty) to allow all crawling - • Block AI bots like GPTBot and CCBot to protect your content
- • Always add your sitemap URL for better indexing
Générateur Robots.txt
Notre générateur gratuit Robots.txt vous aide à créer un fichier robots.txt correctement formaté. Configurez les règles, bloquez les crawlers IA, ajoutez des sitemaps.