Was wird geprüft
Prüft, ob eine llms.txt im Web-Root liegt.
Warum ist das wichtig
llms.txt ist ein Vorschlag (llmstxt.org) für einen Markdown-Index der wichtigsten Inhalte, den LLM-Werkzeuge statt des vollen HTML lesen können. Sie regelt keine Zugriffsrechte, das bleibt Sache der robots.txt, und kein großer Crawler hat sich bisher verpflichtet, sie auszuwerten. Der Aufwand ist klein, der Nutzen bislang eine Wette.
Häufige Ursachen
- Die Datei wurde nie angelegt, der Standard ist jung und der häufigste Befund schlicht: fehlt.
- Eine llms.txt existiert, listet aber veraltete URLs, die ins Leere führen.
- Die Datei liegt in einem Unterverzeichnis statt im Web-Root, wo sie kein Crawler sucht.