Googlebot: token robots, weryfikacja, zezwolenie lub blokada

Ta strona jest tlumaczona maszynowo. Liczby i dowody pochodza bez zmian z zapisanych obserwacji.

All 21 documented crawlers

Tozsamosc

Included because AI answers frequently ground on the Google index. The reverse DNS suffixes are the ones app/botverify.py already forward confirms.

Zezwol lub zablokuj

User-agent: Googlebot
Allow: /

User-agent: Googlebot
Disallow: /

Regula w pliku robots.txt jest prosba, ktora spelnia dobrze wychowany robot. Nie jest kontrola dostepu, a ta strona nikomu nie mowi, co wybrac.

Build a robots.txt with Googlebot and every other documented token

Pytania

Czy Googlebot przestrzega pliku robots.txt?

Dokumentacja dostawcy pod adresem https://developers.google.com/search/docs/crawling-indexing/googlebot podaje, ze Googlebot przestrzega pliku robots.txt. Pobralismy te strone i odpowiedziala naszemu programowi sprawdzajacemu dnia 2026-09-06. To zapisuje, co dokumentuje dostawca, a nie to, co zrobilo pojedyncze zadanie.

Jak zezwolic na Googlebot w pliku robots.txt?

Dodaj te grupe do pliku robots.txt w katalogu glownym hosta: User-agent: Googlebot Allow: /. Zgodnie z RFC 9309 token jest porownywany bez rozroznienia wielkosci liter jako fragment ciagu user agent, a wygrywa najdluzsza pasujaca regula.

Jak zablokowac Googlebot w pliku robots.txt?

Dodaj te grupe do pliku robots.txt w katalogu glownym hosta: User-agent: Googlebot Disallow: /. Regula w pliku robots.txt jest prosba, ktora spelnia dobrze wychowany robot; nie jest kontrola dostepu.

Jak sprawdzic, czy zadanie naprawde pochodzilo od Googlebot?

Dostawca publikuje zarowno plik z zakresami IP (https://developers.google.com/static/search/apis/ipranges/googlebot.json), jak i konwencje odwrotnego DNS. Obie weryfikacje sa udokumentowane; to adres dowodzi zadania, nigdy ciag user agent.

Co mierzymy

Sposrod 12976 zarejestrowanych domen, ktorych plik robots.txt odczytalismy, 276 blokuje Googlebot dla / a 12700 na niego zezwala, czyli 2.1% blokuje, tydzien 2026-W43. Wylacznie liczby: zadna domena nie jest wymieniona.

Tygodniowy indeks dostepu robotow AI

Zrodla

Wolne dane

• The AEO Watch dataset
• Tranco top 1,000 AI crawler policy (CSV, CC BY 4.0)
• The AEO Watch API
• The checker as a command line tool (one file, no install)

Sprawdz domene wzgledem wszystkich tokenow

Check your own site

The same checks, run on your domain now: what robots.txt tells each AI crawler, whether the edge answers them, and whether the text is readable without JavaScript. Free, no signup.

Limits: 8 checks and 5 different domains per address per hour; a repeat of the same domain inside 7 days is answered from what we already hold.

AEO Watch jest niezaleznym, faktograficznym monitorem. Nie jest powiazany z zadnym dostawca robotow, nie jest przez nikogo wspierany i nie wypowiada sie w niczyim imieniu. Kazde stwierdzenie jest obserwacja z data jej wykonania i surowym dowodem: wiersz pliku robots.txt, kod stanu HTTP, naglowek. Nie ma tu ocen, stopni ani wyrokow, a nic na tej stronie nie jest porada. Witryna moze w kazdej chwili zrezygnowac, a rezygnacja jest respektowana automatycznie i trwale.