Anthropic a publié le 8 octobre une nouvelle version de sa politique d’utilisation. Elle s’appliquera aux utilisateurs de Claude, aux entreprises qui exploitent son API et aux services qui intègrent ses modèles.
Anthropic vise la manipulation des sources
La politique interdit d’utiliser Claude pour alimenter des sources trompeuses dont les moteurs de recherche ou les systèmes d’IA peuvent tirer leurs réponses. Les contenus concernés masquent ou falsifient leur origine, leur auteur ou leur indépendance.
Anthropic cite le cas des sites présentés comme indépendants qui reprennent les mêmes affirmations sans révéler leur origine commune. Cette règle concerne directement les sources utilisées par les systèmes d’IA.
Le texte interdit également les faux médias, les avis inventés, les comptes fictifs et les profils d’auteur fictifs. La création d’outils destinés à organiser ces campagnes et leur commercialisation sont aussi concernées.
Un réseau de 70 faux médias identifié
Anthropic relie cette nouvelle règle à une opération décrite dans son rapport sur les détournements de Claude. L’entreprise attribue à l’agence française LKM Company un réseau composé d’environ 70 faux médias présentés comme des rédactions locales indépendantes.
Claude aurait servi à produire ou réécrire au moins 8 913 articles dans une vingtaine de langues. Leur diffusion reposait aussi sur 70 comptes associés sur X et plus de 250 comptes chargés de publier des commentaires.
Le dispositif ciblait notamment les États-Unis, le Brésil, la France et la République démocratique du Congo. Anthropic indique toutefois que la plupart des publications ont reçu peu d’interactions réelles et ne se sont pas diffusées au-delà du réseau créé par ses opérateurs.
Une chaîne de publication largement automatisée
Les opérateurs avaient construit une chaîne standardisée autour de Claude. Les instructions exigeaient un format JSON imposé, du HTML, une longueur précise et trois à quatre liens internes dans chaque article.
Selon Anthropic, ces contenus visaient à renforcer l’autorité des différents sites dans les moteurs de recherche. Le procédé relève d’une production de contenus à grande échelle associée à un réseau de domaines conçus pour paraître distincts.
Claude rédigeait des articles originaux et transformait des publications de médias existants. Une même information pouvait recevoir des orientations politiques opposées selon le public visé. Les textes étaient ensuite signés avec des noms de journalistes inexistants.
La publication automatisée sort des usages à haut risque
La précédente politique d’Anthropic classait la publication automatisée de contenus journalistiques parmi les usages à haut risque. Elle exigeait alors la relecture par un professionnel et l’information des personnes auxquelles le contenu était destiné. Cette catégorie ne figure plus dans la version applicable en novembre.
Les contenus générés par IA ne sont donc pas tous placés dans cette catégorie. La politique interdit en revanche le spam, le plagiat, les fausses attributions et les réseaux qui dissimulent leur organisation commune.
Anthropic conserve l’obligation d’un contrôle humain qualifié pour onze domaines, dont la santé, le droit, la finance, l’emploi, le logement et l’assurance. Une violation de la politique peut conduire à une limitation, une suspension ou une suppression de l’accès aux services de l’entreprise.
