Claude-User: token robots, verifica, consentire o bloccare
Questa pagina e tradotta automaticamente. I numeri e le prove provengono invariati dalle osservazioni memorizzate.
Claude-User e un crawler di IA gestito da Anthropic. Il suo token robots.txt e Claude-User, e la documentazione del fornitore che abbiamo scaricato il 2026-09-06 e la fonte di ogni affermazione in questa pagina.
| Token robots | Claude-User |
|---|---|
| Fornitore | Anthropic |
| Finalita | user-initiated fetch |
| Verifica documentata | nessuno pubblicato |
| Documentazione del fornitore verificata l'ultima volta | 2026-09-06 |
| Quota dei domini letti che lo bloccano per / | 3.1% of 128 |
| Last verified |
Identita
| Token robots | Claude-User |
|---|---|
| Confrontato come | claude-user |
| Fornitore | Anthropic |
| Finalita | user-initiated fetch |
| Documentazione | https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler |
| Verifica documentata | nessuno pubblicato |
Vendor text: 'When individuals ask questions to Claude, it may access websites using a Claude-User agent.' Disabling it is documented to reduce visibility for user directed web search.
Consentire o bloccare
User-agent: Claude-User Allow: /
User-agent: Claude-User Disallow: /
Una regola del file robots.txt e una richiesta che un crawler educato rispetta. Non e un controllo di accesso, e questa pagina non dice a nessuno cosa scegliere.
Domande
Claude-User rispetta il file robots.txt?
La documentazione del fornitore all'indirizzo https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler afferma che Claude-User rispetta il file robots.txt. Abbiamo scaricato quella pagina e ha risposto al nostro verificatore il 2026-09-06. Questo registra cio che il fornitore documenta, non cio che ha fatto una singola richiesta.
Come consento Claude-User nel file robots.txt?
Aggiungi questo gruppo al file robots.txt nella radice dell'host: User-agent: Claude-User Allow: /. Secondo la RFC 9309 il token viene confrontato senza distinzione tra maiuscole e minuscole come sottostringa dello user agent, e vince la regola corrispondente piu lunga.
Come blocco Claude-User nel file robots.txt?
Aggiungi questo gruppo al file robots.txt nella radice dell'host: User-agent: Claude-User Disallow: /. Una regola del file robots.txt e una richiesta che un crawler educato rispetta; non e un controllo di accesso.
Come verifico che una richiesta provenga davvero da Claude-User?
Non abbiamo trovato un metodo di verifica documentato per Claude-User: il fornitore non pubblica ne un file di intervalli IP ne una convenzione di DNS inverso che potessimo scaricare. Senza di essi, una stringa di user agent non e prova dell'origine.
Che cosa misuriamo
Dei 128 domini censiti di cui abbiamo letto il file robots.txt, 4 bloccano Claude-User per / e 124 lo consentono, cioe il 3.1% bloccato, settimana 2026-W37. Solo conteggi: nessun dominio viene nominato.
L'indice settimanale di accesso dei crawler di IA
Fonti
| Fonte | Tipo | HTTP | Verificato | Nota |
|---|---|---|---|---|
| https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler | vendor | 200 | 2026-09-06 | 10 occurrences of Claude-User in the body |
| https://darkvisitors.com/agents/claude-user | aggregator | 200 | 2026-09-06 | corroboration only; volatile source: identical byte count but a different content hash on every fetch (verified twice on 2026-09-06), so the refresher compares byte counts for it, not hashes |
Dati liberi
Verifica un dominio con tutti i token
AEO Watch e un osservatorio indipendente e fattuale. Non e affiliato ad alcun fornitore di crawler, non e approvato da nessuno e non parla per nessuno. Ogni affermazione e un'osservazione con la data in cui e stata fatta e la prova grezza che la sostiene: una riga del file robots.txt, un codice di stato HTTP, un'intestazione. Qui non ci sono punteggi, voti o verdetti, e nulla in questa pagina e un consiglio. Un sito puo chiedere l'esclusione in qualsiasi momento e l'esclusione e rispettata in modo automatico e permanente.