Googlebot: robots トークン、検証方法、許可と拒否
このページは機械翻訳です。数値と証拠は保存された観測結果をそのまま表示しています。
Googlebot は Google が運用する AI クローラーです。robots.txt のトークンは Googlebot で、2026-09-06 に取得したベンダーの文書がこのページのすべての記述の出典です。
| robots トークン | Googlebot |
|---|---|
| ベンダー | |
| 目的 | search index |
| 文書化された検証方法 | 公開された IP レンジと逆引き DNS |
| ベンダー文書の最終確認 | 2026-09-06 |
| 読み取ったドメインのうち / を拒否する割合 | 0.8% of 128 |
| Last verified |
識別情報
| robots トークン | Googlebot |
|---|---|
| 照合される文字列 | googlebot |
| ベンダー | |
| 目的 | search index |
| 文書 | https://developers.google.com/search/docs/crawling-indexing/googlebot |
| 文書化された検証方法 | 公開された IP レンジと逆引き DNS: https://developers.google.com/static/search/apis/ipranges/googlebot.json (.googlebot.com, .google.com) |
Included because AI answers frequently ground on the Google index. The reverse DNS suffixes are the ones app/botverify.py already forward confirms.
許可または拒否
User-agent: Googlebot Allow: /
User-agent: Googlebot Disallow: /
robots.txt の規則は行儀のよいクローラーが尊重する要請です。アクセス制御ではなく、このページは何を選ぶべきかを誰にも指示しません。
よくある質問
Googlebot は robots.txt に従いますか
https://developers.google.com/search/docs/crawling-indexing/googlebot にあるベンダーの文書は、Googlebot が robots.txt を尊重すると記載しています。私たちはそのページを取得し、2026-09-06 に確認しました。これはベンダーが文書化している内容の記録であり、個々のリクエストの動作ではありません。
robots.txt で Googlebot を許可するにはどうしますか
ホストのルートにある robots.txt に次のグループを追加します: User-agent: Googlebot Allow: /。RFC 9309 により、トークンは User Agent の部分文字列として大文字と小文字を区別せずに照合され、最も長く一致した規則が優先されます。
robots.txt で Googlebot を拒否するにはどうしますか
ホストのルートにある robots.txt に次のグループを追加します: User-agent: Googlebot Disallow: /。robots.txt の規則は行儀のよいクローラーが尊重する要請であり、アクセス制御ではありません。
そのリクエストが本当に Googlebot から来たかをどう確認しますか
ベンダーは IP レンジのファイル (https://developers.google.com/static/search/apis/ipranges/googlebot.json) と逆引き DNS の規約の両方を公開しています。どちらの確認方法も文書化されています。リクエストを証明するのはアドレスであり、User Agent 文字列ではありません。
計測している内容
robots.txt を読み取った 128 件の収録ドメインのうち、1 件が Googlebot に対して / を拒否し、127 件が許可しています。拒否は 0.8% です。2026-W37 週。件数のみで、ドメイン名は挙げません。
出典
| 出典 | 種類 | HTTP | 確認日 | 備考 |
|---|---|---|---|---|
| https://developers.google.com/search/docs/crawling-indexing/googlebot | vendor | 200 | 2026-09-06 | 35 occurrences of Googlebot in the common crawlers page fetched the same day |
| https://developers.google.com/search/docs/crawling-indexing/overview-google-crawlers | vendor | 200 | 2026-09-06 | crawler overview index page |
無料データ
AEO Watch は独立した事実重視のモニターです。いかなるクローラー提供者とも提携しておらず、推奨も代弁もしません。すべての記述は、実施した日付と根拠となる生の証拠を伴う観測です。robots.txt の一行、HTTP ステータスコード、ヘッダーなどです。ここに点数、等級、判定はなく、このページのどの内容も助言ではありません。サイトはいつでも除外を求めることができ、その求めは自動的かつ恒久的に守られます。