ClaudeBot: robots トークン、検証方法、許可と拒否
このページは機械翻訳です。数値と証拠は保存された観測結果をそのまま表示しています。
ClaudeBot は Anthropic が運用する AI クローラーです。robots.txt のトークンは ClaudeBot で、2026-09-06 に取得したベンダーの文書がこのページのすべての記述の出典です。
| robots トークン | ClaudeBot |
|---|---|
| ベンダー | Anthropic |
| 目的 | training corpus |
| 文書化された検証方法 | 公開なし |
| ベンダー文書の最終確認 | 2026-09-06 |
| 読み取ったドメインのうち / を拒否する割合 | 17.2% of 128 |
| Last verified |
識別情報
| robots トークン | ClaudeBot |
|---|---|
| 照合される文字列 | claudebot |
| ベンダー | Anthropic |
| 目的 | training corpus |
| 文書 | https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler |
| 文書化された検証方法 | 公開なし |
Vendor text: 'ClaudeBot helps enhance the utility and safety of our generative AI models by collecting web content that could potentially contribute to their training.' No published IP ranges and no reverse DNS convention were found on 2026-09-06, so a hit carrying this token is recorded as unverifiable, never as verified (same rule as app/botverify.py).
許可または拒否
User-agent: ClaudeBot Allow: /
User-agent: ClaudeBot Disallow: /
robots.txt の規則は行儀のよいクローラーが尊重する要請です。アクセス制御ではなく、このページは何を選ぶべきかを誰にも指示しません。
よくある質問
ClaudeBot は robots.txt に従いますか
https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler にあるベンダーの文書は、ClaudeBot が robots.txt を尊重すると記載しています。私たちはそのページを取得し、2026-09-06 に確認しました。これはベンダーが文書化している内容の記録であり、個々のリクエストの動作ではありません。
robots.txt で ClaudeBot を許可するにはどうしますか
ホストのルートにある robots.txt に次のグループを追加します: User-agent: ClaudeBot Allow: /。RFC 9309 により、トークンは User Agent の部分文字列として大文字と小文字を区別せずに照合され、最も長く一致した規則が優先されます。
robots.txt で ClaudeBot を拒否するにはどうしますか
ホストのルートにある robots.txt に次のグループを追加します: User-agent: ClaudeBot Disallow: /。robots.txt の規則は行儀のよいクローラーが尊重する要請であり、アクセス制御ではありません。
そのリクエストが本当に ClaudeBot から来たかをどう確認しますか
ClaudeBot について文書化された確認方法は見つかりませんでした。ベンダーは私たちが取得できる IP レンジのファイルも逆引き DNS の規約も公開していません。それがなければ User Agent 文字列は出所の証拠になりません。
計測している内容
robots.txt を読み取った 128 件の収録ドメインのうち、22 件が ClaudeBot に対して / を拒否し、106 件が許可しています。拒否は 17.2% です。2026-W37 週。件数のみで、ドメイン名は挙げません。
出典
| 出典 | 種類 | HTTP | 確認日 | 備考 |
|---|---|---|---|---|
| https://support.claude.com/en/articles/8896518-does-anthropic-crawl-data-from-the-web-and-how-can-site-owners-block-the-crawler | vendor | 200 | 2026-09-06 | URL taken from the support.claude.com sitemap, not guessed; 12 occurrences of ClaudeBot and the exact snippet 'User-agent: ClaudeBot Disallow: /' in the body |
| https://darkvisitors.com/agents/claudebot | aggregator | 200 | 2026-09-06 | third-party aggregator, redirects to knownagents.com; corroboration only; volatile source: identical byte count but a different content hash on every fetch (verified twice on 2026-09-06), so the refresher compares byte counts for it, not hashes |
無料データ
AEO Watch は独立した事実重視のモニターです。いかなるクローラー提供者とも提携しておらず、推奨も代弁もしません。すべての記述は、実施した日付と根拠となる生の証拠を伴う観測です。robots.txt の一行、HTTP ステータスコード、ヘッダーなどです。ここに点数、等級、判定はなく、このページのどの内容も助言ではありません。サイトはいつでも除外を求めることができ、その求めは自動的かつ恒久的に守られます。