Ferramentas / Gerador de robots.txt para IA
🚦 Grátis e ilimitado

Gerador de robots.txt para os robôs de IA

Libere ou bloqueie cada robô de IA sabendo exatamente o que ele faz, depois copie o bloco para adicionar ao seu robots.txt.

GPTBot e OAI-SearchBot: duas decisões, não uma

O GPTBot coleta páginas para treinar os modelos da OpenAI. Bloqueá-lo não tem efeito nenhum sobre a sua presença dentro do ChatGPT. Já o OAI-SearchBot alimenta o índice de busca do ChatGPT: é ele que decide se a sua página pode ser recuperada, resumida e citada com um link. Bloqueá-lo tira você das respostas do ChatGPT. Muitos sites copiaram um bloqueio de GPTBot e acrescentaram o OAI-SearchBot “por segurança”, cortando-se justamente do canal de tráfego que queriam conquistar. Decida linha por linha, não em bloco.

Predefinições
Abre tudo o que pode citar você, fecha os coletores que nunca citam.
GPTBot OpenAI Treinamento

Coleta páginas para treinar os modelos da OpenAI.

Bloqueá-lo não tira você das respostas do ChatGPT. É uma decisão sobre os seus dados, não sobre a sua visibilidade.

OAI-SearchBot OpenAI Busca e citação

Indexa páginas para a busca do ChatGPT.

É este robô que determina se você aparece e recebe um link dentro das respostas do ChatGPT. Bloqueá-lo elimina você das citações.

OAI-AdsBot OpenAI Publicidade

Verifica as páginas de destino usadas pelo ChatGPT Ads.

Necessário se você pretende comprar anúncios dentro do ChatGPT: sem ele, suas páginas de destino não podem ser validadas.

ChatGPT-User OpenAI Visita disparada por um usuário

Busca uma página ao vivo porque um usuário compartilhou o link ou fez uma pergunta sobre ela.

Tráfego disparado por uma pessoa real, em tempo real. Bloqueá-lo é recusar uma visita pedida explicitamente.

ClaudeBot Anthropic Treinamento

Coleta páginas para os modelos Claude.

A Anthropic também usa o Claude-User para as buscas ao vivo e o Claude-SearchBot para a pesquisa: são agentes distintos e merecem decisões separadas.

PerplexityBot Perplexity Busca e citação

Indexa páginas para as respostas com fontes do Perplexity.

O Perplexity sempre exibe suas fontes. Bloqueá-lo é abrir mão dessas citações e do tráfego que vem com elas.

Google-Extended Google Treinamento

Token que controla se o seu conteúdo alimenta o Gemini e o embasamento das respostas.

Não é um robô de rastreamento: não muda nem a sua indexação nem a sua posição no Google Search.

CCBot Common Crawl Treinamento

Monta um corpus público reaproveitado por muitos treinamentos.

Nenhum ganho direto de visibilidade: o Common Crawl não cita ninguém. É o primeiro candidato ao bloqueio se você está protegendo o seu conteúdo.

Bytespider ByteDance Treinamento

Coleta páginas para os modelos da ByteDance.

Conhecido por um ritmo de rastreamento agressivo. Muitos sites o bloqueiam por causa da carga no servidor tanto quanto por questão de direitos.

meta-externalagent Meta Treinamento

Coleta páginas para os modelos da Meta e para o Meta AI.

A Meta usa vários agentes. Este é o crawler documentado para treinamento.

Applebot-Extended Apple Treinamento

Token que controla se o seu conteúdo alimenta a Apple Intelligence.

Ele não mexe no Applebot, que alimenta a Siri e o Spotlight: a sua presença na busca da Apple não é afetada.

Um por linha. Útil para uma área do cliente, um carrinho ou uma zona de testes.
Adicionada no fim do arquivo. Deixe vazio para omitir.
Grátis, ilimitado, sem cadastro

Esta ferramenta roda inteiramente no seu navegador. Nada do que você digita aqui chega aos nossos servidores, nada fica gravado, não há conta para criar nem cota a respeitar. Podemos oferecê-la sem contrapartida: ela não nos custa nada.

O que esta ferramenta faz

Um robots.txt mal calibrado é a forma mais rápida de sumir das respostas de IA sem perceber. A confusão mais frequente e mais cara envolve a OpenAI: GPTBot e OAI-SearchBot não fazem o mesmo trabalho, e bloquear um no lugar do outro tem consequências opostas. Esta ferramenta mostra o papel real de cada robô antes de deixar você decidir.

  • Onze robôs de IA cobertos, cada um com seu papel real: treinamento, busca e citação, visita disparada por um usuário, publicidade.
  • Quatro predefinições, entre elas uma que preserva as citações e recusa a coleta para treinamento.
  • Acrescenta caminhos proibidos que valem para os robôs que você deixa passar, protegendo uma área do cliente ou um carrinho.
  • Adiciona a linha Sitemap no fim do arquivo e comentários que lembram o papel de cada robô.
  • Geração local: o arquivo é montado no seu navegador e nada é transmitido.

Perguntas frequentes

Bloquear o GPTBot me faz sumir do ChatGPT?
Não. O GPTBot serve ao treinamento dos modelos. O que determina a sua presença nas respostas do ChatGPT é o OAI-SearchBot, mais o ChatGPT-User para as buscas ao vivo. Você pode perfeitamente recusar o treinamento e continuar citável.
Os robôs realmente respeitam o robots.txt?
Os agentes documentados da OpenAI, da Anthropic, do Google, da Apple e da Perplexity dizem respeitar, e na prática respeitam. O robots.txt continua sendo uma convenção, não uma barreira técnica. Se você precisa mesmo impedir o acesso, bloqueie no firewall de aplicação ou no CDN, conferindo as faixas de IP publicadas.
Onde colocar o arquivo?
Na raiz do domínio, e só ali: https://exemplo.com/robots.txt. Um arquivo dentro de um subdiretório nunca é lido. Cada subdomínio tem o seu próprio robots.txt.
Posso bloquear só uma parte do site?
Sim. O campo de caminhos proibidos acrescenta linhas Disallow a cada robô que você mantém liberado: eles continuam com acesso ao site, mas não a esses diretórios. É a abordagem certa para uma área do cliente ou um funil de compra.
Como verificar se as minhas regras estão sendo aplicadas?
Olhe os logs do seu servidor: são eles que dizem quais robôs passam de verdade e sobre o quê. É exatamente o trabalho do nosso analisador de logs de crawlers de IA, que também detecta bloqueios acidentais do firewall ou do CDN.

Ir além do gerador

Estas microferramentas produzem um arquivo. Os scanners Ready2GEO vão olhar o que acontece de verdade no seu site e dentro das respostas dos motores de IA.

Todas as ferramentas Ready2GEO