OpenAI précise les user-agents de ses crawlers

OpenAI a mis à jour sa documentation sur ses crawlers. La firme précise désormais que le numéro de version des user-agents peut changer et qu’un marqueur robots.txt peut être ajouté dans certains cas.

Ordinateur code user agent
Illustration générée par IA — Position Zéro
Partager
Dans cet articleSommaire
  1. Le numéro de version peut changer
  2. Un marqueur pour les requêtes robots.txt

Le numéro de version peut changer

La documentation ne présente plus le user-agent comme une chaîne totalement fixe. OpenAI ajoute que le numéro de version indiqué dans l’exemple peut évoluer.

Cela concerne notamment OAI-SearchBot et GPTBot, dont les exemples de user-agents affichent désormais une version susceptible de changer.

Publicité

Un marqueur pour les requêtes robots.txt

OpenAI indique aussi qu’un marqueur robots.txt peut être ajouté au user-agent lorsque le crawler récupère le fichier robots.txt d’un site.

Ce marqueur doit aider les propriétaires de sites à distinguer ces requêtes des autres accès, notamment lorsque leurs logs ne montrent pas les chemins demandés.

Openai Crawler Doc Change
Source : Search Engine Roundtable, d’après la documentation OpenAI. Licence CC BY 3.0 US.
Jordan Belly
Auteur

Jordan Belly

Rédacteur web SEO à Toulouse, j’interviens depuis plus de vingt ans sur le contenu éditorial, dont plus de douze ans dédiés au référencement naturel. J’accompagne les entreprises dans la construction de leur visibilité en ligne, en m’appuyant sur une veille continue des évolutions de Google et des moteurs basés sur l’IA. Je continue par ailleurs à écrire pour la presse spécialisée (Système D, Le Particulier, UFC Que Choisir…) et suis l’auteur du Guide du rédacteur web (Edi.Pro).

Voir ses publications
À lire aussi

À lire ensuite