
Crawlers IA : robots.txt consulté 1 150 fois, llms.txt seulement 4 fois
Une analyse des logs de dejan.ai montre que les crawlers de Google, Anthropic et OpenAI ont demandé robots.txt 1 150 fois, contre seulement quatre accès à llms.txt. La collecte porte sur 20 jours, du 27 juillet au 15 août 2026, et permet de distinguer précisément les agents à l’origine des requêtes.








