Des opérations numériques plus rapides et plus difficiles à contenir
Produire des messages politiques, assister des pirates informatiques ou faciliter la surveillance : les détournements de Claude dépassent les seules conversations problématiques avec un assistant. Dans son rapport d’origine, « Detecting and countering misuse of AI: September 2026 », Anthropic décrit des activités détectées et interrompues entre décembre 2025 et août 2026. Les profils concernés sont variés. L’entreprise mentionne des groupes soupçonnés de bénéficier d’un soutien étatique, des cybercriminels, des vendeurs de logiciels espions et des acteurs politiquement engagés. Le document présente une sélection de cas particulièrement préoccupants. Il ne constitue donc pas une mesure de la fréquence générale des abus sur la plateforme. Sur le terrain informatique, la menace tient notamment à l’accélération du travail des attaquants. L’assistance automatisée peut leur permettre de conduire davantage d’opérations avec moins de ressources humaines. Des organisations gouvernementales, diplomatiques et liées à la Défense figurent parmi les cibles décrites. Ces observations restent celles du fournisseur, qui dispose d’une visibilité sur l’utilisation de ses propres services.
La manipulation du débat public constitue un autre volet du bilan. Anthropic indique avoir identifié neuf opérations d’influence provenant de plusieurs régions du monde. Certains acteurs géraient des centaines de comptes sur les réseaux sociaux pour diffuser des publications défendant une même orientation politique. Pour l’entreprise, l’intérêt de surveiller ces usages se situe en amont : les échanges avec Claude peuvent révéler la préparation d’une campagne avant que les plateformes sociales n’en constatent les effets. Cela ne permet toutefois pas de déduire combien de personnes ont été convaincues par les contenus diffusés. Détecter une opération et mesurer son influence réelle sont deux démarches différentes. Anthropic affirme avoir interrompu les activités recensées, adapté ses protections et transmis des informations aux autorités ou à ses partenaires lorsque cela était pertinent. Cette coopération doit aider à reconnaître des comportements similaires ailleurs. Elle ne signifie pas que la fermeture d’un compte fait disparaître les moyens d’action de son utilisateur.
La recherche biologique impose des précautions supplémentaires
Le volet biologique soulève une difficulté particulière : une demande scientifique peut avoir des applications médicales et présenter simultanément un potentiel dangereux. Un cas concernait une sollicitation autour du virus chikungunya. Selon Associated Press, Claude avait notamment été sollicité pour aider à préparer une demande de financement consacrée à des recherches dites de gain de fonction. Ces travaux peuvent modifier certaines propriétés d’un organisme. Ils nécessitent donc une appréciation attentive de leur finalité et de leurs risques. La distinction est essentielle : signaler une recherche susceptible de contribuer au développement d’une arme biologique ne prouve pas qu’une telle arme a été fabriquée. Les intentions des chercheurs concernés n’étaient pas établies avec certitude, souligne également The Guardian. Anthropic explique avoir restreint davantage les requêtes biologiques sensibles sur ses modèles récents. Leur aptitude à accompagner des tâches scientifiques complexes rend moins assurée l’hypothèse selon laquelle leurs réponses resteraient sans conséquence dangereuse.
Ce renforcement s’inscrit dans une démarche engagée avant les incidents aujourd’hui rendus publics. Le 22 mai 2025, Anthropic avait annoncé l’activation de protections AI Safety Level 3 pour Claude Opus 4. L’entreprise présentait alors cette décision comme une précaution : elle ne pouvait pas exclure suffisamment certains risques liés aux capacités du modèle. Le dispositif associait des filtres sur les demandes et les réponses, une surveillance des tentatives de contournement et une sécurisation accrue des paramètres du système contre le vol. Anthropic reconnaissait aussi que ces mécanismes pouvaient bloquer occasionnellement des requêtes légitimes. L’enjeu consiste ainsi à limiter l’assistance dangereuse sans entraver inutilement le travail scientifique. Le rapport de septembre apporte des exemples concrets à ce débat, mais il ne constitue pas une certification indépendante de l’efficacité des protections. Pour apprécier les progrès, il faut distinguer les abus détectés, les actions effectivement interrompues et les risques qui demeurent. La transparence du fournisseur fournit des éléments utiles ; elle ne suffit pas, à elle seule, à démontrer que tous les détournements sont maîtrisés.
