anthropic-ai: robots jetonu, dogrulama, izin verme veya engelleme

Bu sayfa makine cevirisidir. Sayilar ve kanitlar kayitli gozlemlerden oldugu gibi gelir.

All 21 documented crawlers

Kimlik

documentation_url is null on purpose: the vendor help article fetched on 2026-09-06 documents three robots (ClaudeBot, Claude-User, Claude-SearchBot) and contains zero occurrences of 'anthropic-ai'. The token is still widely present in site robots.txt files, so it stays in the registry as a legacy token whose current behaviour the vendor does not document.

Izin ver veya engelle

User-agent: anthropic-ai
Allow: /

User-agent: anthropic-ai
Disallow: /

robots.txt kurali, iyi davranan bir tarayicinin yerine getirdigi bir ricadir. Bir erisim denetimi degildir ve bu sayfa kimseye ne secmesi gerektigini soylemez.

Build a robots.txt with anthropic-ai and every other documented token

Sorular

robots.txt icinde anthropic-ai nasil izin verilir?

Bu grubu sunucunun kokundeki robots.txt dosyasina ekleyin: User-agent: anthropic-ai Allow: /. RFC 9309 uyarinca belirtec, kullanici aracisi dizesinin bir parcasi olarak buyuk kucuk harf ayrimi gozetmeden eslesir ve en uzun eslesen kural gecerlidir.

robots.txt icinde anthropic-ai nasil engellenir?

Bu grubu sunucunun kokundeki robots.txt dosyasina ekleyin: User-agent: anthropic-ai Disallow: /. robots.txt kurali, iyi davranan bir tarayicinin yerine getirdigi bir ricadir; bir erisim denetimi degildir.

Bir istegin gercekten anthropic-ai tarafindan gonderildigini nasil dogrularim?

anthropic-ai icin belgelenmis bir dogrulama yontemi bulamadik: saglayici, indirebilecegimiz ne bir IP aralik dosyasi ne de bir ters DNS uzlasimi yayimliyor. Bunlar olmadan kullanici aracisi dizesi koken kaniti degildir.

Neyi olcuyoruz

robots.txt dosyasini okudugumuz 12976 kayitli alan adindan 1278 tanesi anthropic-ai icin / yolunu engelliyor, 11698 tanesi izin veriyor, yani yuzde 9.8 engelli, hafta 2026-W43. Yalnizca sayilar: hicbir alan adi anilmaz.

Haftalik yapay zeka tarayici erisim endeksi

Kaynaklar

Ucretsiz veri

• The AEO Watch dataset
• Tranco top 1,000 AI crawler policy (CSV, CC BY 4.0)
• The AEO Watch API
• The checker as a command line tool (one file, no install)

Bir alan adini tum jetonlara karsi kontrol et

Check your own site

The same checks, run on your domain now: what robots.txt tells each AI crawler, whether the edge answers them, and whether the text is readable without JavaScript. Free, no signup.

Limits: 8 checks and 5 different domains per address per hour; a repeat of the same domain inside 7 days is answered from what we already hold.

AEO Watch bagimsiz ve olgusal bir izleme hizmetidir. Hicbir tarayici saglayicisiyla baglantili degildir, hicbiri tarafindan desteklenmez ve hicbiri adina konusmaz. Her ifade, yapildigi tarihi ve arkasindaki ham kaniti tasiyan bir gozlemdir: bir robots.txt satiri, bir HTTP durum kodu, bir baslik. Burada puan, not ve hukum yoktur ve bu sayfadaki hicbir sey tavsiye degildir. Bir site istedigi anda kapsam disinda kalmayi isteyebilir ve bu istek otomatik ve kalici olarak yerine getirilir.