# CCBot

## In short

CCBot ist ein KI Crawler, betrieben von Common Crawl Foundation. Sein robots.txt Token lautet CCBot, und die Herstellerdokumentation, die wir am 2026-09-06 abgerufen haben, ist die Quelle jeder Aussage auf dieser Seite.

| Fact | Value |
| --- | --- |
| Robots Token | CCBot |
| Hersteller | Common Crawl Foundation |
| Zweck | training corpus, public web corpus |
| Dokumentierte Pruefung | nicht veroeffentlicht |
| Herstellerdokumentation zuletzt geprueft | 2026-09-06 |
| Anteil der gelesenen Domains, die ihn fuer / sperren | 19.1% of 131 |
| Last verified | 2026-09-06 |

## Befolgt CCBot die robots.txt?

Die Herstellerdokumentation unter https://commoncrawl.org/ccbot gibt an, dass CCBot die robots.txt beachtet. Wir haben diese Seite abgerufen, und sie hat unserem Pruefer am 2026-09-06 geantwortet. Das haelt fest, was der Hersteller dokumentiert, nicht was eine einzelne Anfrage getan hat.

## Wie erlaube ich CCBot in der robots.txt?

Fuegen Sie diese Gruppe in die robots.txt im Wurzelverzeichnis des Hosts ein: User-agent: CCBot
Allow: /. Nach RFC 9309 wird der Token ohne Beachtung der Gross und Kleinschreibung als Teilzeichenkette des User Agent verglichen, und die laengste passende Regel gewinnt.

## Wie sperre ich CCBot in der robots.txt?

Fuegen Sie diese Gruppe in die robots.txt im Wurzelverzeichnis des Hosts ein: User-agent: CCBot
Disallow: /. Eine Regel in der robots.txt ist eine Bitte, die ein gut erzogener Crawler befolgt; sie ist keine Zugriffskontrolle.

## Wie pruefe ich, ob eine Anfrage wirklich von CCBot kam?

Wir haben fuer CCBot keine dokumentierte Pruefmethode gefunden: Der Hersteller veroeffentlicht weder eine Datei mit IP Bereichen noch eine Reverse DNS Konvention, die wir abrufen koennten. Ohne eine solche ist eine User Agent Zeichenkette kein Beleg fuer die Herkunft.

## Quelle

- https://commoncrawl.org/ccbot (HTTP 200, Geprueft 2026-09-06)

AEO Watch ist ein unabhaengiger, faktischer Monitor. Er ist mit keinem Crawler Hersteller verbunden, wird von keinem unterstuetzt und spricht fuer keinen. Jede Aussage ist eine Beobachtung mit dem Datum, an dem sie gemacht wurde, und dem Rohbeleg dahinter: eine Zeile aus der robots.txt, ein HTTP Statuscode, ein Header. Es gibt hier keine Noten, keine Bewertungen und keine Urteile, und nichts auf dieser Seite ist eine Beratung. Eine Website kann jederzeit widersprechen, und der Widerspruch wird automatisch und dauerhaft beachtet.