Onduidelijke regels
Orden Allow en Disallow in duidelijke User-agent-groepen.
Gratis SEO-tool
De robots.txt-generator helpt site-eigenaren en SEO-teams crawlregels, sitemapregels, kopie en download klaar te zetten voor lancering.
Een kleine robots.txt-fout kan belangrijke pagina's blokkeren of sitemapdetectie verwarren.
Orden Allow en Disallow in duidelijke User-agent-groepen.
Gebruik de robots.txt-generator als SEO-checklist voor publicatie.
Maak regels voor *, Googlebot, Bingbot of aangepaste crawlers.
Voeg paden, sitemaps en Crawl-delay toe waar passend.
Kopieer de uitvoer of download robots.txt.
Kies een sjabloon, controleer paden en exporteer het bestand.
Bereid nieuwe sites voor, bescherm privé-paden en orden SEO-basics.
Zet velden om naar User-agent-, Allow-, Disallow-, Crawl-delay- en Sitemap-regels.
Controleer sitemap en privé-paden voordat je downloadt.
Voor SEO, ontwikkeling en publicatie.
Maak eenvoudige robots.txt zonder elke directive te schrijven.
Sta belangrijke pagina's toe en blokkeer privé-paden.
robots.txt stuurt crawlen, maar garandeert geen de-indexering.
Voor https://example.com/ gebruik je https://example.com/robots.txt.
Neem protocol en domein op in Sitemap-regels.
Vragen over regels, Crawl-delay en Sitemap.
Nee. Het stuurt crawlen; gebruik noindex of passende tools voor indexering.
Nee. Google negeert Crawl-delay.
Open de tool, kies een sjabloon en exporteer robots.txt.