Regole confuse
Organizza Allow e Disallow in gruppi User-agent chiari.
Strumento SEO gratuito
Il Generatore robots.txt aiuta proprietari di siti e team SEO a preparare regole di crawling, sitemap, copia e download prima del lancio.
Un errore in robots.txt può bloccare pagine importanti o rendere poco chiaro il sitemap.
Organizza Allow e Disallow in gruppi User-agent chiari.
Usa il Generatore robots.txt come checklist SEO prima della pubblicazione.
Crea regole per *, Googlebot, Bingbot o crawler personalizzati.
Aggiungi percorsi, sitemap e Crawl-delay quando serve.
Copia il risultato o scarica robots.txt.
Scegli modello, rivedi percorsi ed esporta il file.
Prepara nuovi siti, proteggi percorsi privati e sistema le basi SEO.
Trasforma campi in righe User-agent, Allow, Disallow, Crawl-delay e Sitemap.
Controlla sitemap e percorsi privati prima del download.
Per SEO, sviluppo e pubblicazione.
Creare robots.txt semplice senza scrivere ogni direttiva.
Consentire pagine importanti e bloccare percorsi privati.
robots.txt controlla il crawling, non garantisce la rimozione dall’indice.
Per https://example.com/ usa https://example.com/robots.txt.
Includi protocollo e dominio nelle righe Sitemap.
Domande su regole, Crawl-delay e Sitemap.
No. Controlla il crawling; per l’indicizzazione usa noindex o strumenti dedicati.
No. Google ignora Crawl-delay.
Apri lo strumento, scegli un modello ed esporta robots.txt.