Accueil IA dans la recherche Google Gemini affiche un “confidence score” élevé sur une réponse fausse

Google Gemini affiche un “confidence score” élevé sur une réponse fausse

Code

Shaun Anderson affirme avoir observé l’affichage de scores de confiance dans une réponse générée par Google Gemini. Dans un article publié le 24 juin 2026, le fondateur de Hobo Web explique que Gemini a révélé un bloc de données structurées, avec plusieurs champs associés à des niveaux de confiance compris entre 0,88 et 0,98.

L’exemple est intéressant, car il montre comment un système génératif peut associer des informations, des entités et des profils à des scores probabilistes, tout en produisant aussi des erreurs.

Des scores de confiance visibles dans Gemini

Dans la capture partagée par Shaun Anderson, la réponse de Gemini laisse apparaître un contenu structuré sous forme de JSON.

Ce bloc contient plusieurs sections, dont des “nodes”, des “work goals” et un “work profile”. Chaque élément est accompagné d’un champ “confidence”, avec une valeur numérique qui semble indiquer le niveau de certitude attribué par le système.

Source : Hobo Web / capture Google Gemini

Les scores relevés vont notamment de 0,88 à 0,98 selon les éléments. Gemini associe par exemple des sujets, des contacts, des objectifs professionnels et des informations de profil à différents niveaux de confiance.

Un mécanisme probabiliste plutôt qu’une réponse binaire

Shaun Anderson rapproche cette observation des confidence scores déjà repérés dans le Google Content Warehouse API leak de 2024.

Un score de confiance correspond à une valeur probabiliste attribuée par un modèle. Il ne dit pas qu’une information est vraie ou fausse de manière absolue. Il indique plutôt le degré de certitude du système lorsqu’il classe, extrait ou associe une information.

Dans ce type de logique, un système ne fonctionne donc pas uniquement avec des réponses binaires. Il évalue une probabilité, puis peut utiliser ce score pour alimenter une réponse, déclencher un traitement ou orienter une décision automatisée.

Un score élevé ne garantit pas une information juste

Le point le plus important de l’exemple tient à l’erreur produite par Gemini.

Dans le bloc affiché, le système associe Shaun Anderson à un rôle de Technical Program Manager chez Google, avec un score de confiance élevé. Shaun Anderson souligne que cette information est fausse.

L’exemple rappelle donc une limite importante des réponses génératives : un score de confiance élevé peut accompagner une information incorrecte. Le système peut paraître sûr de lui, structurer proprement sa réponse et afficher des niveaux de certitude élevés, tout en produisant une attribution erronée.

Des entités, des profils et des objectifs reconstruits

Le bloc observé par Shaun Anderson organise les informations autour de plusieurs catégories.

Gemini identifie notamment des sujets comme l’analyse du Google API leak, des contacts comme Shaun Anderson, David Quaid ou Edward Sturm, ainsi que des objectifs liés à l’analyse des systèmes de classement.

Le système reconstruit aussi un profil professionnel, avec une organisation, un rôle, une industrie, une description de poste, des tâches et des compétences.

Cette structuration montre la manière dont une IA peut transformer un ensemble d’éléments en représentation organisée, avec des entités, des relations et des niveaux de confiance associés.

Une démonstration des limites des réponses génératives

L’exemple publié par Shaun Anderson illustre à la fois la sophistication et la fragilité des réponses générées.

D’un côté, Gemini semble capable de structurer des informations complexes, de les classer par catégories et de leur attribuer des scores de confiance. De l’autre, il peut produire une erreur factuelle importante avec un score élevé.

Les réponses IA ne doivent pas être lues uniquement comme des textes synthétiques. Elles peuvent aussi refléter des mécanismes de classement, d’extraction et de scoring, dont le résultat reste probabiliste et parfois incorrect.

À découvrir également

Laisser un commentaire