OpenAI a mis à jour sa documentation sur ses crawlers. La firme précise désormais que le numéro de version des user-agents peut changer et qu’un marqueur robots.txt peut être ajouté dans certains cas.
Le numéro de version peut changer
La documentation ne présente plus le user-agent comme une chaîne totalement fixe. OpenAI ajoute que le numéro de version indiqué dans l’exemple peut évoluer.
Cela concerne notamment OAI-SearchBot et GPTBot, dont les exemples de user-agents affichent désormais une version susceptible de changer.
Un marqueur pour les requêtes robots.txt
OpenAI indique aussi qu’un marqueur robots.txt peut être ajouté au user-agent lorsque le crawler récupère le fichier robots.txt d’un site.
Ce marqueur doit aider les propriétaires de sites à distinguer ces requêtes des autres accès, notamment lorsque leurs logs ne montrent pas les chemins demandés.
