Claude-SearchBot: token de robots, verificacao, permitir ou bloquear
Esta pagina foi traduzida automaticamente. Os numeros e as provas vem sem alteracao das observacoes guardadas.
Claude-SearchBot e um rastreador de IA operado por Anthropic. Seu token de robots.txt e Claude-SearchBot, e a documentacao do fornecedor que baixamos em 2026-09-06 e a fonte de cada afirmacao desta pagina.
| Token de robots | Claude-SearchBot |
|---|---|
| Fornecedor | Anthropic |
| Finalidade | search index |
| Verificacao documentada | nenhuma publicada |
| Documentacao do fornecedor verificada pela ultima vez | 2026-09-06 |
| Parcela dos dominios lidos que o bloqueiam para / | 3.9% of 128 |
| Last verified |
Identidade
| Token de robots | Claude-SearchBot |
|---|---|
| Comparado como | claude-searchbot |
| Fornecedor | Anthropic |
| Finalidade | search index |
| Documentacao | https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler |
| Verificacao documentada | nenhuma publicada |
Third robot documented by the vendor on 2026-09-06 (6 occurrences): 'Claude-SearchBot navigates the web to improve search result quality for users.' Not present in app/main.AI_CRAWLERS, so hits carrying it are currently unclassified by the fleet counter.
Permitir ou bloquear
User-agent: Claude-SearchBot Allow: /
User-agent: Claude-SearchBot Disallow: /
Uma regra do robots.txt e um pedido que um rastreador bem comportado atende. Nao e um controle de acesso, e esta pagina nao diz a ninguem o que escolher.
Perguntas
O Claude-SearchBot respeita o robots.txt?
A documentacao do fornecedor em https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler afirma que o Claude-SearchBot respeita o robots.txt. Baixamos essa pagina e ela respondeu ao nosso verificador em 2026-09-06. Isto registra o que o fornecedor documenta, nao o que uma requisicao especifica fez.
Como permito o Claude-SearchBot no robots.txt?
Adicione este grupo ao robots.txt na raiz do host: User-agent: Claude-SearchBot Allow: /. Pela RFC 9309 o token e comparado sem diferenciar maiusculas como subcadeia do user agent, e vence a regra correspondente mais longa.
Como bloqueio o Claude-SearchBot no robots.txt?
Adicione este grupo ao robots.txt na raiz do host: User-agent: Claude-SearchBot Disallow: /. Uma regra do robots.txt e um pedido que um rastreador bem comportado atende; nao e um controle de acesso.
Como verifico se uma requisicao veio mesmo do Claude-SearchBot?
Nao encontramos um metodo de verificacao documentado para o Claude-SearchBot: o fornecedor nao publica nem arquivo de faixas IP nem convencao de DNS reverso que pudessemos baixar. Sem isso, uma cadeia de user agent nao e prova de origem.
O que medimos
Dos 128 dominios cadastrados cujo robots.txt lemos, 5 bloqueiam o Claude-SearchBot para / e 123 o permitem, ou seja 3.9% bloqueados, semana 2026-W37. Apenas contagens: nenhum dominio e nomeado.
O indice semanal de acesso dos rastreadores de IA
Fontes
| Fonte | Tipo | HTTP | Verificado | Observacao |
|---|---|---|---|---|
| https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler | vendor | 200 | 2026-09-06 | 6 occurrences of Claude-SearchBot in the body |
Dados livres
Verificar um dominio com todos os tokens
O AEO Watch e um monitor independente e factual. Nao tem vinculo com nenhum fornecedor de rastreadores, nao e endossado por nenhum e nao fala por nenhum. Cada afirmacao e uma observacao com a data em que foi feita e a prova bruta por tras dela: uma linha do robots.txt, um codigo de estado HTTP, um cabecalho. Aqui nao ha notas, classificacoes ou vereditos, e nada nesta pagina e aconselhamento. Um site pode pedir exclusao a qualquer momento e a exclusao e respeitada de forma automatica e permanente.