Étiquette : Crawl

Exploration, logs, budget crawl, priorisation et gestion des paramètres d’URL.

Cloudflare
Recherche IA & moteurs génératifs

Cloudflare veut faire payer l’accès des robots IA

Cloudflare refuse désormais par défaut l’entraînement de Google sur ses comptes gratuits et envisage de bloquer Googlebot si Search et IA restent indissociables. Son PDG décrit les effets possibles sur le PageRank et le modèle de rémunération qu’il propose aux éditeurs.

Du crawl à l’indexation
SEO technique

Crawl, indexation, migration : les délais donnés par Google

Google a présenté ses délais habituels pour découvrir, indexer et actualiser une page. Un changement canonique peut demander trois semaines, une migration trois mois et une reprise après Core Update jusqu’à six mois.

Cartographie lumineuse du crawl Google
SEO technique

Les sitemaps sont-ils encore utiles ? Google répond

Google recommande de conserver les sitemaps XML, surtout sur les sites volumineux ou souvent actualisés. Il précise aussi l’usage de lastmod, des URL canoniques et les causes possibles d’une erreur dans Search Console.

Robot agent IA
SEO technique

Même les grands sites se trompent sur leurs sitemaps XML

Des sitemaps censés guider les moteurs contiennent pourtant des URL en erreur, redirigées, noindex ou déclarées non canoniques. Joost de Valk a contrôlé six sites connus et relevé des incohérences parfois massives entre leurs fichiers XML et les pages listées.

Claude robot IA
SEO technique

10 erreurs de Claude qui peuvent nuire à votre SEO

Diagnostics inventés, titres génériques, pages placées en noindex sans demande, Claude peut commettre des erreurs dans les tâches SEO. Bryson Meunier en rapporte dix, relevées lors d’un audit de 41 sites et du développement de son application.

Cloudflare
SEO technique

Cloudflare permet de refuser l’entraînement IA sans bloquer Googlebot

Cloudflare ajoute un réglage pour refuser l’entraînement IA tout en conservant l’accès des robots de recherche.L’option « Block » bloque désormais aussi Googlebot, Applebot et Bingbot, tandis que la prise en charge du refus reste incomplète chez Bing.

Wikipédia
GEO & visibilité dans l’IA

Quels effets les AI Overviews ont-ils sur Wikipédia ?

Une étude estime à environ 5 % la baisse des visites issues des moteurs vers Wikipédia en anglais après les AI Overviews.Wikimedia constate aussi un recul des pages vues humaines et une pression accrue des robots sur ses serveurs.

Eclairage Google
SEO technique

Sitemap : Google déconseille de changer son URL chaque jour

Ajouter quotidiennement un horodatage à l’URL d’un sitemap vise à provoquer un nouveau passage des moteurs de recherche. Google déconseille cette méthode et recommande de conserver des URL stables, associées à des dates de modification exactes.

Agent IA
SEO technique

Pages Markdown pour les agents IA : ce que montrent les logs

Le Markdown promet des pages plus légères et plus simples à traiter pour les agents IA. Les observations de John Mueller montrent toutefois que les principaux robots ne semblent pas encore demander ce format.

Gérer mes choix de confidentialité