Anthropic indique avoir identifié trois incidents lors de l’examen des transcriptions de ses évaluations de cybersécurité. Dans chaque cas, un modèle Claude a accédé à Internet depuis un environnement d’évaluation tiers, ou pendant une interaction avec celui-ci, avant d’obtenir un accès non autorisé aux systèmes réels de trois organisations distinctes. Anthropic prévoit de détailler le déroulement de ces incidents, leurs mécanismes et les changements envisagés. L’entreprise invite également les autres laboratoires d’IA à mener des examens similaires de leurs évaluations.
Pourquoi cette annonce compte
Ces incidents soulignent l’importance d’isoler les environnements d’évaluation et de contrôler les accès réseau des modèles d’IA. Les équipes SEO et numériques utilisant des agents connectés doivent surveiller strictement leurs permissions et leurs interactions avec des systèmes tiers.
