Immer mehr Leute fragen ChatGPT, welchen Anbieter sie nehmen sollen, statt selbst zu googeln. Für die Antwort schickt ChatGPT eigene Bots los, die Websites lesen. Steht auf deiner Seite, dass diese Bots draußen bleiben müssen, kommst du in solchen Antworten nicht vor. Empfohlen wird dann wer anders.
Das Gemeine daran: Du merkst es nicht. Deine Seite lädt ganz normal, Google findet sie, Kunden kommen drauf. Die Sperre greift nur bei bestimmten Besuchern, und die sagen dir nicht Bescheid.
Ob deine Seite betroffen ist, prüfst du mit Claude SEO. Das ist ein kostenloses Open-Source-Paket für Claude Code von Agrici Daniel, MIT-Lizenz, 19.355 Sterne auf GitHub (Stand 20.10.2026). Der Befehl /seo agentic ruft deine Seite mit den Kennungen der KI-Bots ab und sagt dir, wer reindarf und was fehlt.
Warum deine Seite KI-Bots aussperren kann
Dafür gibt es zwei typische Stellen. Die erste ist Cloudflare. Viele Websites laufen über Cloudflare, manchmal hat das der Hoster oder die Agentur eingerichtet, und der Besitzer hat die Einstellungen nie gesehen. Am 1. Juli 2025 hat Cloudflare umgestellt: Neue Domains blocken KI-Crawler seitdem standardmäßig, berichtete die MIT Technology Review. Laut der Pressemitteilung fragt Cloudflare jede neue Domain bei der Anmeldung. Wer die Crawler will, muss sie zulassen.
Seit dem 15. September 2026 ist es feiner aufgeteilt. Laut den Cloudflare-Docs dürfen Such-Bots bei neuen Domains standardmäßig rein. Bots fürs Training und Bots, die für einen Nutzer live abrufen, werden auf Seiten mit Werbung geblockt. Was bei deiner Domain aktiv ist, hängt davon ab, wann und von wem sie eingerichtet wurde. Genau deshalb lohnt der Blick.
Die zweite ist die robots.txt. Das ist eine kleine Textdatei unter deine-seite.de/robots.txt. Darin steht, welche Bots welche Bereiche lesen dürfen. Manche Baukästen und Hoster haben einen Schalter, der dort Regeln für KI-Bots einträgt. Die Crawler der großen Anbieter halten sich laut eigener Doku an diese Datei. Für Live-Abrufe, die ein Nutzer auslöst, gilt sie laut OpenAI nicht unbedingt. Die robots.txt ist also eine Bitte, eine Firewall wie die von Cloudflare blockt wirklich.
Der Unterschied zwischen Trainings-Bots und Such-Bots
Hier verheddern sich viele, auch Tools. Die großen KI-Firmen schicken verschiedene Bots für verschiedene Zwecke los.
| Wofür | OpenAI | Anthropic |
|---|---|---|
| Training der Modelle | GPTBot | ClaudeBot |
| Suche im Chat | OAI-SearchBot | Claude-SearchBot |
| Live-Abruf, wenn jemand fragt | ChatGPT-User | Claude-User |
Laut OpenAI sind diese Einstellungen unabhängig voneinander. Sperrst du GPTBot, landen deine Texte nicht mehr im Training. In der ChatGPT-Suche kannst du trotzdem auftauchen, solange OAI-SearchBot reindarf. Anthropic trennt genauso. Und bei Google steuert der Eintrag Google-Extended nur, ob Gemini mit deinen Inhalten trainiert. Auf die normale Google-Suche hat er laut Google keinen Einfluss.
Für dich heißt das: Willst du empfohlen werden, müssen vor allem die Such-Bots und die Live-Abrufe durchkommen. Ob du beim Training mitmachst, kannst du getrennt entscheiden.
Was du brauchst
- Claude Code, im Terminal angemeldet. Falls noch nicht: Claude Code in 10 Minuten startklar.
- Python 3.10 oder neuer. Auf vielen Macs ist ab Werk nur Python 3.9.6 drauf, das reicht nicht. Der Prompt prüft das und holt bei Bedarf Python 3.11 über das Tool uv, ohne dein vorhandenes Python anzufassen.
- Node.js für den Hook, den das Paket mitbringt. Auch das prüft der Prompt.
- Die Adresse deiner Website.
So richtest du es ein
Oben auf der Seite steht der Prompt. Öffne Claude Code in irgendeinem Ordner, kopier ihn rein und schick ihn ab. Claude führt dich dann durch:
- Er prüft deine Python-Version. Ist sie zu alt, fragt er dich, installiert Python 3.11 über uv und merkt sich den Pfad in deinen Claude-Code-Einstellungen, damit Claude SEO es findet.
- Er prüft, ob Node.js da ist.
- Er sagt dir, wann du zwei Befehle selbst tippst. Plugins installieren kann Claude nicht für dich, das machst du:
/plugin marketplace add AgriciDaniel/claude-seo
/plugin install claude-seo@agricidaniel-claude-seo
- Du startest Claude Code einmal neu, mit
claude --continue. So bist du direkt wieder im selben Chat. - Du tippst
/seo setup. Das legt eine eigene Python-Umgebung in Claudes Plugin-Daten an und lädt einen Browser für die Prüfungen. Globale Pakete installiert es laut README nicht. - Du tippst
/seo agenticund deine Adresse, zum Beispiel/seo agentic https://deine-seite.de.
Ein Hinweis zum Hook: Claude SEO hängt sich an jedes Schreiben und Ändern von Dateien in Claude Code. Danach schaut ein kleines Skript nach, ob in der Datei Schema-Markup steckt, also versteckte Infos für Suchmaschinen, und meldet Fehler an Claude. Bei Website-Dateien ist das praktisch, in allen anderen Projekten beendet es sich sofort. Stört es dich, schaltest du das Plugin über /plugin aus, bis du es wieder brauchst.
Was der Check dir zeigt
/seo agentic prüft deine robots.txt und schaut, welche Regeln für welchen KI-Bot gelten. Weil es deine eigene Seite ist, darf Claude sie zusätzlich mit den Kennungen der Bots abrufen. Das ist eine Simulation: Die Anfrage gibt sich als GPTBot oder ClaudeBot aus, echter Besuch von OpenAI ist es nicht. Blockt eine Firewall diese Kennungen, siehst du es trotzdem sofort, weil statt deiner Seite eine Sperrseite oder ein Fehler zurückkommt.
Dazu kommen ein paar Punkte, die für KI-Agenten zählen: Steht dein Inhalt auch ohne JavaScript im Quelltext? Gibt es eine llms.txt? Liefert eine falsche Adresse eine echte Fehlerseite? Am Ende bekommst du die Funde nach Dringlichkeit sortiert, das Wichtigste zuerst.
Ich habe die Prüfung an meiner eigenen Seite georgkinzel.de laufen lassen. Alle 18 getesteten Kennungen bekamen die normale Seite ausgeliefert, von GPTBot über OAI-SearchBot, ClaudeBot und PerplexityBot bis zum normalen Browser. Die llms.txt war da, alle 119 Links darin funktionierten. Bei mir war also alles offen.
Gefunden wurde trotzdem was, nur an anderer Stelle: Auf meiner Seite steht zu wenig darüber, wer dahintersteckt. Meine Über-mich-Seite hatte 330 Wörter. In den versteckten Infos für Suchmaschinen war mein Profil nur mit Instagram verknüpft, ohne Foto und ohne Themen, mit denen ich mich auskenne. Ein Bot, der wissen will, wer Georg Kinzel ist, findet also nicht viel.
Was du danach tun kannst
Je nachdem, was der Check findet:
- Cloudflare blockt: Im Cloudflare-Dashboard unter Security Settings findest du die Einstellungen für KI-Bots, getrennt nach Suche, Agent und Training. Willst du in KI-Antworten auftauchen, lass Suche und Agent zu. Training kannst du getrennt erlauben oder sperren. Hat jemand anders deine Seite eingerichtet, schick ihm das Ergebnis.
- Die robots.txt sperrt: Lösch die Regeln für die Such-Bots oder lass dir von Claude eine neue Version schreiben. Mit
/seo agentic fixund deiner Adresse entwirft Claude SEO Vorschläge für robots.txt und llms.txt. Laut Doku wird dabei nichts hochgeladen und keine Datei überschrieben, du bekommst nur Entwürfe. - llms.txt fehlt: Das ist eine Datei, die KI-Diensten eine Übersicht deiner Seite gibt. Sie wurde 2024 vorgeschlagen, ein Standard ist sie nicht. Claude SEO gibt ihr bei der KI-Sichtbarkeit kein Gewicht, Google Search ignoriert sie. Kann man haben, wichtiger sind die beiden Punkte davor.
- Zu wenig über dich: Schreib eine Über-mich-Seite, die sagt, wer du bist, was du anbietest und für wen. Verlink deine anderen Profile. Das hilft Menschen genauso wie Bots.
Was Claude SEO nicht kann
Kostenlos messen, ob ChatGPT dich empfiehlt, kann es nicht. Das Paket prüft die Voraussetzungen, also Zugang, Aufbau und Infos über dich. Wie oft ChatGPT, Gemini oder Perplexity dich wirklich nennen, misst es nur über Erweiterungen mit eigenem Bezahl-Konto, etwa SE Ranking oder Profound.
Darum endet der Prompt mit drei Fragen, die Claude für dich formuliert. Die stellst du ChatGPT selbst, so wie ein Kunde fragen würde, und schaust, wer genannt wird. Das kostet nichts und ist ehrlicher als jeder Score.
Drei Sachen solltest du noch wissen:
- Lass den vollen Audit auf Claude Pro weg.
/seo auditschickt bis zu 17 Agents gleichzeitig los, fünf davon laufen laut README fest auf Opus. Das frisst viel vom Limit. Für die Frage in diesem Artikel reicht/seo agentic, für die Zitierfähigkeit deiner Texte/seo geo. - Core Web Vitals brauchen einen Google-Schlüssel. Ohne lief die Ladezeit-Messung in meinem Test sofort in ein Limit. Den Schlüssel gibt es kostenlos, für den KI-Check brauchst du ihn nicht.
- Deutsche Texte bewertet ein Teil der Skripte zu gut. Die Prüfung auf Füllwörter kennt nur englische Listen und meldet bei deutschen Texten dann „alles super“. Den Bot-Check betrifft das nicht.
Mein Urteil: Für die Frage „dürfen KI-Bots auf meine Seite?“ hält Claude SEO. Es trennt Trainings- und Such-Bots sauber, belegt seine Aussagen mit Quellen und verkauft llms.txt nicht als Wundermittel. Das Einrichten ist mit dem Python-Schritt etwas fummelig, der Prompt nimmt dir das ab.
Zum Stöbern
- Claude SEO auf GitHub (AgriciDaniel/claude-seo)
- Was /seo agentic im Detail prüft
- Die Bots von OpenAI erklärt
Du willst wissen, ob Google deine Seiten überhaupt kennt und wie sie verlinkt sind? Dafür passt OpenSEO, die Open-Source-Alternative zu Semrush.
Newsletter
Willst du wissen, welche KI-Tools bei mir wirklich halten und welche nur Hype sind? Im Newsletter schicke ich dir, was ich getestet habe, bevor du deine Wochenenden damit verbringst.
Quellen
- GitHub: AgriciDaniel/claude-seo (README, MIT-Lizenz)
- Claude SEO: Installationsanleitung (docs/INSTALLATION.md)
- Claude SEO: was /seo agentic prüft (skills/seo-agentic/SKILL.md)
- Claude SEO: Einordnung von llms.txt (skills/seo-geo/references/llmstxt-evidence.md)
- MIT Technology Review: Cloudflare will now, by default, block AI bots from crawling its clients' websites (01.07.2025)
- Cloudflare-Pressemitteilung zur Standard-Sperre für KI-Crawler (01.07.2025)
- Cloudflare Docs: Block AI bots und AI bot policies
- OpenAI: Overview of OpenAI Crawlers (GPTBot, OAI-SearchBot, ChatGPT-User)
- Anthropic: Crawler von Anthropic und wie Seitenbetreiber sie sperren
- Google Search Central: Google-Extended und andere Crawler
- llmstxt.org: der Vorschlag für llms.txt
20. Oktober 2026. KI-Tools, Preise und Funktionen ändern sich schnell. Vor wichtigen Entscheidungen den aktuellen Stand direkt beim Anbieter prüfen.
Transparenz. Dieser Beitrag ist mit KI-Unterstützung entstanden und von mir geprüft. Genau mit diesen Workflows arbeite ich, und genau die zeige ich hier.
Klau mein System
Das Setup, mit dem KI bei mir 80 % der Arbeit übernimmt. Im kostenlosen PDF: Projekt, Anweisung und fünf Vorlagen für Angebot, Kundenmail, Nachfassen, Posts und Wochenplan. Skills folgen.
Mein System holen