CCBot: robots jetonu, dogrulama, izin verme veya engelleme

Bu sayfa makine cevirisidir. Sayilar ve kanitlar kayitli gozlemlerden oldugu gibi gelir.

All 21 documented crawlers

Kimlik

Not an answer engine itself: it builds the public corpus that many models train on, which is why site owners treat it as an AI crawler. The exact snippet 'User-agent: CCBot Disallow: /' appears on the vendor page fetched on 2026-09-06.

Izin ver veya engelle

User-agent: CCBot
Allow: /

User-agent: CCBot
Disallow: /

robots.txt kurali, iyi davranan bir tarayicinin yerine getirdigi bir ricadir. Bir erisim denetimi degildir ve bu sayfa kimseye ne secmesi gerektigini soylemez.

Build a robots.txt with CCBot and every other documented token

Sorular

CCBot robots.txt kurallarina uyar mi?

https://commoncrawl.org/ccbot adresindeki saglayici belgeleri CCBot icin robots.txt dosyasina uyuldugunu belirtiyor. Bu sayfayi indirdik ve 2026-09-06 tarihinde denetleyicimize yanit verdi. Bu, saglayicinin belgeledigi seyin kaydidir, tek bir istegin ne yaptiginin degil.

robots.txt icinde CCBot nasil izin verilir?

Bu grubu sunucunun kokundeki robots.txt dosyasina ekleyin: User-agent: CCBot Allow: /. RFC 9309 uyarinca belirtec, kullanici aracisi dizesinin bir parcasi olarak buyuk kucuk harf ayrimi gozetmeden eslesir ve en uzun eslesen kural gecerlidir.

robots.txt icinde CCBot nasil engellenir?

Bu grubu sunucunun kokundeki robots.txt dosyasina ekleyin: User-agent: CCBot Disallow: /. robots.txt kurali, iyi davranan bir tarayicinin yerine getirdigi bir ricadir; bir erisim denetimi degildir.

Bir istegin gercekten CCBot tarafindan gonderildigini nasil dogrularim?

CCBot icin belgelenmis bir dogrulama yontemi bulamadik: saglayici, indirebilecegimiz ne bir IP aralik dosyasi ne de bir ters DNS uzlasimi yayimliyor. Bunlar olmadan kullanici aracisi dizesi koken kaniti degildir.

Neyi olcuyoruz

robots.txt dosyasini okudugumuz 12976 kayitli alan adindan 1836 tanesi CCBot icin / yolunu engelliyor, 11140 tanesi izin veriyor, yani yuzde 14.1 engelli, hafta 2026-W43. Yalnizca sayilar: hicbir alan adi anilmaz.

Haftalik yapay zeka tarayici erisim endeksi

Kaynaklar

Ucretsiz veri

• The AEO Watch dataset
• Tranco top 1,000 AI crawler policy (CSV, CC BY 4.0)
• The AEO Watch API
• The checker as a command line tool (one file, no install)

Bir alan adini tum jetonlara karsi kontrol et

Check your own site

The same checks, run on your domain now: what robots.txt tells each AI crawler, whether the edge answers them, and whether the text is readable without JavaScript. Free, no signup.

Limits: 8 checks and 5 different domains per address per hour; a repeat of the same domain inside 7 days is answered from what we already hold.

AEO Watch bagimsiz ve olgusal bir izleme hizmetidir. Hicbir tarayici saglayicisiyla baglantili degildir, hicbiri tarafindan desteklenmez ve hicbiri adina konusmaz. Her ifade, yapildigi tarihi ve arkasindaki ham kaniti tasiyan bir gozlemdir: bir robots.txt satiri, bir HTTP durum kodu, bir baslik. Burada puan, not ve hukum yoktur ve bu sayfadaki hicbir sey tavsiye degildir. Bir site istedigi anda kapsam disinda kalmayi isteyebilir ve bu istek otomatik ve kalici olarak yerine getirilir.