Gerador de robots.txt
Este gerador de robots.txt cria o arquivo em poucos cliques: você escolhe um modelo, adiciona os caminhos bloqueados e o seu sitemap e, se quiser, exclui rastreadores de IA. O arquivo pronto aparece na hora e é conferido contra erros comuns.
Fonte: IETF RFC 9309 – Robots Exclusion Protocol (grupos, Allow/Disallow, curingas * e $). Atualizado em: .
Como o cálculo é feito
O robots.txt é um pequeno arquivo de texto na raiz de um site que diz aos rastreadores quais áreas eles podem acessar. Ele segue o Protocolo de Exclusão de Robôs (RFC 9309): cada grupo começa com um User-agent e contém regras Allow e Disallow.
O que o gerador escreve
- Modelo: “Permitir tudo” escreve uma linha Disallow vazia, o WordPress bloqueia
/wp-admin/e permiteadmin-ajax.php, o modelo de loja bloqueia URLs típicas de carrinho, checkout e filtros. - Seus caminhos: caminhos começam com
/. O caractere*vale por quaisquer caracteres,$pelo fim do endereço. - Rastreadores de IA: se você pedir, cada rastreador de treinamento de IA conhecido recebe seu próprio grupo com
Disallow: /. Se o provedor obedece, depende dele. - Sitemap: a linha fica fora dos grupos e informa o endereço completo.
Bom saber
O arquivo precisa estar acessível em /robots.txt do domínio e é público; não é controle de acesso. Para que uma página não apareça no Google, use noindex em vez de bloqueio, pois páginas bloqueadas podem ser listadas sem conteúdo. Depois de enviar, o validador de robots.txt testa se os rastreadores leem as regras como esperado, e o simulador de SERP mostra como título e descrição aparecem na busca.
Perguntas frequentes
Como criar um robots.txt?
Escolha um modelo, adicione os caminhos bloqueados e o sitemap, copie o texto e salve como robots.txt na raiz do seu domínio. Depois abra seu-dominio.com.br/robots.txt e confira.
Onde o robots.txt deve ficar?
Na raiz do domínio, ou seja, em https://seu-dominio.com.br/robots.txt. Um arquivo em uma subpasta é ignorado. Cada subdomínio precisa do seu próprio arquivo.
O robots.txt tira páginas do Google?
Não de forma confiável. Ele só proíbe o rastreamento. Uma página bloqueada pode aparecer no índice com o endereço, mas sem conteúdo, se outras páginas apontarem para ela. Para excluir, use noindex.
Como bloquear rastreadores de IA?
Com um grupo próprio para cada rastreador e Disallow: /. A ferramenta adiciona os rastreadores de treinamento de IA conhecidos. Não é juridicamente vinculante, mas provedores sérios respeitam o arquivo.
Preciso mesmo de um robots.txt?
Não necessariamente: sem o arquivo, os rastreadores podem acessar tudo. Vale a pena para tirar do rastreamento áreas sem importância, como carrinho ou busca interna, e para divulgar o sitemap.
Fontes e base legal
- IETF RFC 9309 – Robots Exclusion Protocol (grupos, Allow/Disallow, curingas * e $)
- Google Search Central – Create and submit a robots.txt file
- Google Search Central – robots.txt: regras compatíveis (crawl-delay não é compatível)
Última atualização: · Princípios editoriais
Ferramentas relacionadas
- Validador robots.txt com checagem do sitemapValidador robots.txt online: uma URL está bloqueada para Googlebot, Bingbot ou robôs de IA? Mostra a regra decisiva, erros de sintaxe e confere o sitemap.
- Simulador de SERP com largura em pixelsDigite o title e a meta description para ver a prévia do resultado de busca, com largura em pixels, número de caracteres e aviso de corte.
- Gerador de UTMAdicione parâmetros UTM aos seus links: utm_source, utm_medium, utm_campaign e outros, bem codificados, mantendo os parâmetros existentes. Com aviso de erros.
- Códigos de status HTTPCódigos de status HTTP explicados: significado de 200, 301, 404, 500 e de mais de 40 códigos, com busca por código ou palavra-chave e filtro por classe.
- Qual é o meu endereço IP?Mostra na hora seu endereço IP público, detecta se é IPv4 ou IPv6 e explica a diferença. Grátis – seu IP não é armazenado.
- Gerador de meta tagsGerador de meta tags: crie title, meta description, canonical, Open Graph e cartões do X para o head da sua página, pronto para copiar e com conferência.
- Gerador JSON-LDGerador JSON-LD para Schema.org: preencha artigo, FAQ, produto, negócio local ou organização e copie o código pronto, com verificação de erros embutida.
- Formatar XMLFormatar XML, minificar e validar com linha e coluna do erro, visão em árvore, consulta XPath e XML para JSON. No navegador, nada é enviado.
- Decodificar JWT: ler e verificar um JSON Web TokenDecodificar JWT: cabeçalho, payload e validade (exp, iat, nbf). Verifique a assinatura com segredo ou chave pública. Tudo fica no seu navegador, sem envio.