Claude-User: token de robots, verificacao, permitir ou bloquear
Esta pagina foi traduzida automaticamente. Os numeros e as provas vem sem alteracao das observacoes guardadas.
Claude-User e um rastreador de IA operado por Anthropic. Seu token de robots.txt e Claude-User, e a documentacao do fornecedor que baixamos em 2026-09-17 e a fonte de cada afirmacao desta pagina.
| Token de robots | Claude-User |
|---|---|
| Fornecedor | Anthropic |
| Finalidade | user-initiated fetch |
| Verificacao documentada | faixas de IP publicadas |
| Documentacao do fornecedor verificada pela ultima vez | 2026-09-17 |
| Parcela dos dominios lidos que o bloqueiam para / | 5.7% of 12976 |
| Last verified |
Identidade
| Token de robots | Claude-User |
|---|---|
| Comparado como | claude-user |
| Fornecedor | Anthropic |
| Finalidade | user-initiated fetch |
| Documentacao | https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler |
| Verificacao documentada | faixas de IP publicadas: https://claude.com/crawling/bots.json |
Vendor text: 'When individuals ask questions to Claude, it may access websites using a Claude-User agent.' Disabling it is documented to reduce visibility for user directed web search. The three documented Anthropic robots share one published IP range file, which is what verifies a hit carrying this token. Read again on 2026-09-17.
Permitir ou bloquear
User-agent: Claude-User Allow: /
User-agent: Claude-User Disallow: /
Uma regra do robots.txt e um pedido que um rastreador bem comportado atende. Nao e um controle de acesso, e esta pagina nao diz a ninguem o que escolher.
Build a robots.txt with Claude-User and every other documented token
Perguntas
O Claude-User respeita o robots.txt?
A documentacao do fornecedor em https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler afirma que o Claude-User respeita o robots.txt. Baixamos essa pagina e ela respondeu ao nosso verificador em 2026-09-17. Isto registra o que o fornecedor documenta, nao o que uma requisicao especifica fez.
Como permito o Claude-User no robots.txt?
Adicione este grupo ao robots.txt na raiz do host: User-agent: Claude-User Allow: /. Pela RFC 9309 o token e comparado sem diferenciar maiusculas como subcadeia do user agent, e vence a regra correspondente mais longa.
Como bloqueio o Claude-User no robots.txt?
Adicione este grupo ao robots.txt na raiz do host: User-agent: Claude-User Disallow: /. Uma regra do robots.txt e um pedido que um rastreador bem comportado atende; nao e um controle de acesso.
Como verifico se uma requisicao veio mesmo do Claude-User?
O fornecedor publica em https://claude.com/crawling/bots.json as faixas de enderecos IP de onde este rastreador busca. Compare o endereco da requisicao com esse arquivo. Uma cadeia de user agent sozinha nao prova nada, porque qualquer um pode envia la.
O que medimos
Dos 12976 dominios cadastrados cujo robots.txt lemos, 739 bloqueiam o Claude-User para / e 12237 o permitem, ou seja 5.7% bloqueados, semana 2026-W43. Apenas contagens: nenhum dominio e nomeado.
O indice semanal de acesso dos rastreadores de IA
Fontes
| Fonte | Tipo | HTTP | Verificado | Observacao |
|---|---|---|---|---|
| https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler | vendor | 200 | 2026-09-17 | 10 occurrences of Claude-User in the body; the article links the published IP range file |
| https://claude.com/crawling/bots.json | vendor | 200 | 2026-09-17 | published IP ranges for the Anthropic robots, 26 IPv4 prefixes under a prefixes array, creationTime 2026-08-18. The vendor help article links it with the words 'If a crawler has a source IP address on this list, it indicates that the crawler is coming from Anthropic'. Identical bytes and hash on two fetches on 2026-09-17, so it is not a volatile source; also refreshed weekly into data/bot_ranges.json |
| https://darkvisitors.com/agents/claude-user | aggregator | 200 | 2026-09-06 | corroboration only; volatile source: identical byte count but a different content hash on every fetch (verified twice on 2026-09-06), so the refresher compares byte counts for it, not hashes |
Dados livres
- The AEO Watch dataset
- Tranco top 1,000 AI crawler policy (CSV, CC BY 4.0)
- The AEO Watch API
- The checker as a command line tool (one file, no install)
Verificar um dominio com todos os tokens
Check your own site
The same checks, run on your domain now: what robots.txt tells each AI crawler, whether the edge answers them, and whether the text is readable without JavaScript. Free, no signup.
Limits: 8 checks and 5 different domains per address per hour; a repeat of the same domain inside 7 days is answered from what we already hold.
O AEO Watch e um monitor independente e factual. Nao tem vinculo com nenhum fornecedor de rastreadores, nao e endossado por nenhum e nao fala por nenhum. Cada afirmacao e uma observacao com a data em que foi feita e a prova bruta por tras dela: uma linha do robots.txt, um codigo de estado HTTP, um cabecalho. Aqui nao ha notas, classificacoes ou vereditos, e nada nesta pagina e aconselhamento. Um site pode pedir exclusao a qualquer momento e a exclusao e respeitada de forma automatica e permanente.
Cite this
| Claude-User: token de robots, verificacao e como permitir ou bloquear - https://bikoosh.com/pt/aeo/crawler/claude-user | |
| <a href="https://bikoosh.com/pt/aeo/crawler/claude-user">Claude-User: token de robots, verificacao e como permitir ou bloquear</a> | |
| [Claude-User: token de robots, verificacao e como permitir ou bloquear](https://bikoosh.com/pt/aeo/crawler/claude-user) | |
| Claude-User: token de robots, verificacao e como permitir ou bloquear. Bikoosh. Retrieved 2026-10-22, from https://bikoosh.com/pt/aeo/crawler/claude-user |