Googlebot: robots jetonu, dogrulama, izin verme veya engelleme

Bu sayfa makine cevirisidir. Sayilar ve kanitlar kayitli gozlemlerden oldugu gibi gelir.

All 21 documented crawlers

Kimlik

Included because AI answers frequently ground on the Google index. The reverse DNS suffixes are the ones app/botverify.py already forward confirms.

Izin ver veya engelle

User-agent: Googlebot
Allow: /

User-agent: Googlebot
Disallow: /

robots.txt kurali, iyi davranan bir tarayicinin yerine getirdigi bir ricadir. Bir erisim denetimi degildir ve bu sayfa kimseye ne secmesi gerektigini soylemez.

Build a robots.txt with Googlebot and every other documented token

Sorular

Googlebot robots.txt kurallarina uyar mi?

https://developers.google.com/search/docs/crawling-indexing/googlebot adresindeki saglayici belgeleri Googlebot icin robots.txt dosyasina uyuldugunu belirtiyor. Bu sayfayi indirdik ve 2026-09-06 tarihinde denetleyicimize yanit verdi. Bu, saglayicinin belgeledigi seyin kaydidir, tek bir istegin ne yaptiginin degil.

robots.txt icinde Googlebot nasil izin verilir?

Bu grubu sunucunun kokundeki robots.txt dosyasina ekleyin: User-agent: Googlebot Allow: /. RFC 9309 uyarinca belirtec, kullanici aracisi dizesinin bir parcasi olarak buyuk kucuk harf ayrimi gozetmeden eslesir ve en uzun eslesen kural gecerlidir.

robots.txt icinde Googlebot nasil engellenir?

Bu grubu sunucunun kokundeki robots.txt dosyasina ekleyin: User-agent: Googlebot Disallow: /. robots.txt kurali, iyi davranan bir tarayicinin yerine getirdigi bir ricadir; bir erisim denetimi degildir.

Bir istegin gercekten Googlebot tarafindan gonderildigini nasil dogrularim?

Saglayici hem bir IP aralik dosyasi (https://developers.google.com/static/search/apis/ipranges/googlebot.json) hem de bir ters DNS uzlasimi yayimlar. Iki dogrulama da belgelenmistir; istegi kanitlayan adrestir, asla kullanici aracisi dizesi degildir.

Neyi olcuyoruz

robots.txt dosyasini okudugumuz 12976 kayitli alan adindan 276 tanesi Googlebot icin / yolunu engelliyor, 12700 tanesi izin veriyor, yani yuzde 2.1 engelli, hafta 2026-W43. Yalnizca sayilar: hicbir alan adi anilmaz.

Haftalik yapay zeka tarayici erisim endeksi

Kaynaklar

Ucretsiz veri

• The AEO Watch dataset
• Tranco top 1,000 AI crawler policy (CSV, CC BY 4.0)
• The AEO Watch API
• The checker as a command line tool (one file, no install)

Bir alan adini tum jetonlara karsi kontrol et

Check your own site

The same checks, run on your domain now: what robots.txt tells each AI crawler, whether the edge answers them, and whether the text is readable without JavaScript. Free, no signup.

Limits: 8 checks and 5 different domains per address per hour; a repeat of the same domain inside 7 days is answered from what we already hold.

AEO Watch bagimsiz ve olgusal bir izleme hizmetidir. Hicbir tarayici saglayicisiyla baglantili degildir, hicbiri tarafindan desteklenmez ve hicbiri adina konusmaz. Her ifade, yapildigi tarihi ve arkasindaki ham kaniti tasiyan bir gozlemdir: bir robots.txt satiri, bir HTTP durum kodu, bir baslik. Burada puan, not ve hukum yoktur ve bu sayfadaki hicbir sey tavsiye degildir. Bir site istedigi anda kapsam disinda kalmayi isteyebilir ve bu istek otomatik ve kalici olarak yerine getirilir.