Claude-SearchBot: jeton robots, verification, autoriser ou bloquer
Cette page est traduite automatiquement. Les mesures et les preuves proviennent telles quelles des observations enregistrees.
Claude-SearchBot est un robot d'IA exploite par Anthropic. Son jeton robots.txt est Claude-SearchBot, et la documentation de l'editeur que nous avons telechargee le 2026-09-06 est la source de chaque affirmation de cette page.
| Jeton robots | Claude-SearchBot |
|---|---|
| Editeur | Anthropic |
| Finalite | search index |
| Verification documentee | aucune publiee |
| Documentation de l'editeur verifiee le | 2026-09-06 |
| Part des domaines lus qui le bloquent pour / | 3.9% of 128 |
| Last verified |
Identite
| Jeton robots | Claude-SearchBot |
|---|---|
| Compare comme | claude-searchbot |
| Editeur | Anthropic |
| Finalite | search index |
| Documentation | https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler |
| Verification documentee | aucune publiee |
Third robot documented by the vendor on 2026-09-06 (6 occurrences): 'Claude-SearchBot navigates the web to improve search result quality for users.' Not present in app/main.AI_CRAWLERS, so hits carrying it are currently unclassified by the fleet counter.
Autoriser ou bloquer
User-agent: Claude-SearchBot Allow: /
User-agent: Claude-SearchBot Disallow: /
Une regle du fichier robots.txt est une demande qu'un robot bien eleve respecte. Ce n'est pas un controle d'acces, et cette page ne dit a personne quoi choisir.
Questions
Est-ce que Claude-SearchBot respecte le fichier robots.txt?
La documentation de l'editeur a l'adresse https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler indique que Claude-SearchBot respecte le fichier robots.txt. Nous avons telecharge cette page et elle a repondu a notre verificateur le 2026-09-06. Cela enregistre ce que l'editeur documente, pas ce qu'une requete particuliere a fait.
Comment autoriser Claude-SearchBot dans le fichier robots.txt?
Ajoutez ce groupe au fichier robots.txt place a la racine de l'hote: User-agent: Claude-SearchBot Allow: /. Selon la RFC 9309, le jeton est compare sans tenir compte de la casse comme sous chaine du user agent, et la regle correspondante la plus longue l'emporte.
Comment bloquer Claude-SearchBot dans le fichier robots.txt?
Ajoutez ce groupe au fichier robots.txt place a la racine de l'hote: User-agent: Claude-SearchBot Disallow: /. Une regle du fichier robots.txt est une demande qu'un robot bien eleve respecte; ce n'est pas un controle d'acces.
Comment verifier qu'une requete vient reellement de Claude-SearchBot?
Nous n'avons trouve aucune methode de verification documentee pour Claude-SearchBot: l'editeur ne publie ni fichier de plages IP ni convention de DNS inverse que nous puissions telecharger. Sans cela, une chaine de user agent ne prouve pas l'origine.
Ce que nous mesurons
Sur les 128 domaines recenses dont nous avons lu le fichier robots.txt, 5 bloquent Claude-SearchBot pour / et 123 l'autorisent, soit 3.9% de blocage, semaine 2026-W37. Uniquement des comptes: aucun domaine n'est nomme.
L'index hebdomadaire de l'acces des robots d'IA
Sources
| Source | Type | HTTP | Verifie | Remarque |
|---|---|---|---|---|
| https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler | vendor | 200 | 2026-09-06 | 6 occurrences of Claude-SearchBot in the body |
Donnees libres
Verifier un domaine pour tous les jetons
AEO Watch est un observateur independant et factuel. Il n'est affilie a aucun editeur de robot, n'est soutenu par aucun et ne parle au nom d'aucun. Chaque affirmation est une observation portant la date a laquelle elle a ete faite et la preuve brute qui la fonde: une ligne du fichier robots.txt, un code d'etat HTTP, un en tete. Il n'y a ici ni note, ni classement, ni verdict, et rien sur cette page n'est un conseil. Un site peut se retirer a tout moment et ce retrait est respecte automatiquement et definitivement.