Le 10 septembre 2026, Anthropic a publié son rapport de transparence le plus détaillé à ce jour : huit mois d'usages malveillants de Claude détectés et neutralisés, de la fraude sentimentale automatisée à la distillation de modèles par des laboratoires concurrents. Pour une entreprise qui déploie l'IA en interne, ce document dépasse la simple curiosité technique. Il pose une question directe à toute direction générale : savez-vous réellement qui utilise l'IA dans votre organisation, et pour quoi faire ?

Ce que révèle le rapport de transparence d'Anthropic

Entre décembre 2025 et août 2026, l'équipe Threat Intelligence d'Anthropic a identifié et neutralisé des opérations malveillantes réparties sur sept familles de risques : cyberattaques, opérations d'influence, surveillance, fraude, usage biologique détourné, développement d'armements conventionnels et distillation illicite de modèles. Anthropic affirme avoir interrompu chacune des opérations recensées dans le document, et ce niveau de détail marque une rupture avec les rapports de sécurité habituellement publiés par les grands fournisseurs d'IA, souvent plus évasifs sur les cas concrets.

L'un des cas les plus documentés concerne une opération de fraude sentimentale. Plus de 4 700 profils fictifs, générés et animés par Claude sur des applications de rencontre, ont échangé 2,36 millions de messages avec au moins 25 000 utilisateurs en seulement deux semaines, en avril 2026. Les opérateurs humains ne géraient que les appels vidéo : le reste de la relation, y compris les échanges quotidiens et la gestion émotionnelle des victimes, était scénarisé de bout en bout par le modèle. Un chiffre qui donne la mesure de ce qu'un modèle de langage peut industrialiser quand il tombe entre de mauvaises mains.

Anthropic accuse par ailleurs sept laboratoires chinois, dont Alibaba, DeepSeek, Moonshot et Zhipu, d'avoir mobilisé des milliers de comptes frauduleux pour aspirer les réponses de Claude et entraîner leurs propres modèles par distillation. Une pratique qui viole les conditions d'utilisation du service et qu'Anthropic dit avoir repérée grâce à des signaux comportementaux atypiques sur ces comptes : des volumes de requêtes et des séquences de prompts incompatibles avec un usage humain normal. Pour une entreprise cliente, cet épisode rappelle une réalité simple : les conversations échangées avec un modèle d'IA ont une valeur, et leur protection ne dépend pas que de la bonne volonté du fournisseur mais aussi des contrats et des garanties de confidentialité qu'on négocie avec lui.

Le rapport précise également, pour la première fois de la part d'un grand fournisseur d'IA, que les modèles les plus récents ne peuvent plus être présumés en dessous du seuil de ce qu'Anthropic qualifie d'assistance significative pour des armes biologiques. Une phrase pesée, qui traduit surtout le sérieux avec lequel l'entreprise documente et surveille ces cas plutôt qu'une invitation à s'en inquiéter au quotidien. Rien de tout cela, à en croire le rapport, ne concerne les modèles Fable ou Mythos, à une exception de distillation près. Les incidents recensés impliquent surtout les familles Haiku, Sonnet et Opus, utilisées à grande échelle depuis plus longtemps et donc statistiquement plus exposées aux tentatives de détournement.

Pourquoi cette transparence intéresse directement les acheteurs d'IA en entreprise

Pourquoi un directeur des systèmes d'information ou un directeur juridique devrait-il lire un rapport de sécurité rédigé pour des chercheurs ? Parce qu'il documente, chiffres à l'appui, la manière dont un fournisseur d'IA surveille réellement sa plateforme, plutôt que de se contenter d'une promesse marketing glissée dans une plaquette commerciale.

L'adoption de l'IA générative en entreprise a largement dépassé le stade expérimental. Selon l'enquête Bpifrance Lab 2026, 77 % des PME françaises utilisent déjà des outils d'IA générative dans un cadre professionnel, contre 58 % un an plus tôt. Cette bascule rapide s'accompagne d'une question que peu de directions générales savent encore trancher avec certitude : qui, dans l'organisation, a accès à quoi, et sur quelles données ?

Le rapport d'Anthropic illustre un point souvent minimisé dans les argumentaires commerciaux : la sécurité d'un outil d'IA ne se limite pas à ses garde-fous techniques au moment de la génération. Elle dépend aussi de la capacité du fournisseur à détecter des usages détournés une fois le modèle déployé à grande échelle, sur des millions de conversations. C'est précisément ce que ce document met en scène : comptes suspendus, patterns comportementaux anormaux, signalements croisés entre équipes de sécurité. Une entreprise qui évalue un fournisseur d'IA gagnerait à se poser la même question qu'elle se pose déjà pour un hébergeur cloud ou un éditeur de logiciel métier : que se passe-t-il concrètement quand un usage dérape ?

Cette question n'est pas théorique. Un cabinet de conseil qui confie l'analyse de documents confidentiels à un assistant IA, une société de gestion qui automatise une partie de son reporting réglementaire, ou un cabinet de recrutement qui traite des centaines de CV chaque semaine partagent tous la même exposition : ils délèguent une partie de leur activité à un modèle dont ils ne maîtrisent pas entièrement les mécanismes internes. La transparence du fournisseur devient alors un critère de décision au même titre que le prix ou la performance.

Ce que cela change pour votre gouvernance IA interne

Depuis le 2 août 2026, l'AI Act impose des obligations de transparence sur les contenus générés ou fortement modifiés par l'IA, avec des sanctions pouvant atteindre 15 millions d'euros ou 3 % du chiffre d'affaires mondial pour les manquements aux obligations générales, et jusqu'à 35 millions d'euros ou 7 % pour les pratiques interdites. La taille de l'entreprise n'exonère de rien : une PME dotée d'un simple chatbot est concernée au même titre qu'un grand groupe, comme le détaillent les obligations de l'AI Act entrées en vigueur le 2 août 2026.

Le règlement classe les systèmes d'IA en quatre niveaux de risque : inacceptable, interdit depuis février 2025 ; élevé, pour le recrutement, le crédit ou la santé, avec des obligations lourdes depuis août 2026 ; limité, pour les chatbots et contenus générés, soumis à une transparence obligatoire ; et minimal, sans exigence spécifique. Une gouvernance IA sérieuse repose généralement sur six piliers documentés par les cabinets spécialisés : la cartographie des usages existants, y compris ceux jamais validés officiellement, un cadre de conformité aligné sur l'AI Act et le RGPD, une charte d'utilisation courte et compréhensible par tous, la désignation de responsables identifiés, la formation régulière des équipes et une mesure continue des risques à travers des indicateurs simples.

Une charte d'utilisation efficace tient rarement en plus de deux pages. Elle précise quels outils sont autorisés, quelles données ne doivent jamais y transiter (données clients sensibles, secrets d'affaires, données de santé), qui valide un nouvel usage avant sa généralisation, et quel réflexe adopter en cas de doute. C'est un document vivant, pas une formalité juridique signée une fois puis oubliée dans un dossier partagé.

Beaucoup d'entreprises en sont encore au stade où l'IA générative circule comme de l'eau sous une porte. Personne ne l'a officiellement autorisée, mais tout le monde s'en sert, du stagiaire qui résume un contrat au commercial qui rédige ses emails de prospection. Le rapport d'Anthropic rappelle qu'un fournisseur, même quand il investit massivement dans la détection des abus externes, ne peut pas à lui seul sécuriser les usages internes d'une entreprise cliente. Cette responsabilité reste partagée, et la partie qui vous incombe commence par savoir ce qui se passe réellement chez vous, avant qu'un incident ne vous l'apprenne à vos dépens.

Les bons réflexes pour une IA gouvernée, pas subie

Combien de personnes dans votre organisation ont, à ce jour, accédé à un outil d'IA générative sans validation ni traçabilité ? Dans la plupart des entreprises que nous accompagnons, la réponse tient en un mot : inconnu. Et le chiffre national ne rassure pas : selon une enquête OpinionWay 2026, 68 % des salariés français utilisent des outils d'IA non approuvés par leur employeur au moins une fois par semaine, et 33 % admettent avoir déjà partagé des données sensibles, recherche, données RH ou informations financières, dans ces outils non validés.

Les directions qui structurent correctement leur déploiement d'IA s'appuient sur trois leviers concrets. D'abord, un contrôle d'accès par rôle, qui limite les connecteurs et les données accessibles selon la fonction de chaque utilisateur : un juriste n'a pas besoin des mêmes accès qu'un chargé de recrutement. Ensuite, une journalisation complète des actions, horodatée, indispensable pour répondre à un incident ou à un audit AI Act sans reconstituer les faits de mémoire. Enfin, une revue périodique des usages réels, souvent très éloignés de ce que la direction générale imagine, ne serait-ce que parce que les équipes trouvent toujours des usages que personne n'avait anticipés.

Claude Cowork, que nous déployons chez nos clients des secteurs juridique, financier et assurantiel, intègre nativement ces contrôles : permissions par connecteur, traçabilité des actions sensibles et séparation stricte entre les données de chaque organisation. Ce n'est pas un argument commercial, c'est une réponse directe à ce que le rapport d'Anthropic met en lumière : la confiance dans un outil d'IA se construit sur des preuves de contrôle, pas sur des promesses.

Cette rigueur profite en priorité aux secteurs réglementés. Une direction juridique qui déploie l'IA sur des dossiers confidentiels, une société de gestion soumise à des obligations strictes de traçabilité, ou une compagnie d'assurance tenue par DORA n'ont pas le luxe d'un déploiement improvisé. Le risque n'est pas seulement réglementaire : il est aussi opérationnel, comme le montrent les risques documentés du shadow IA en entreprise. Un dossier client qui transite par un compte personnel non tracé, et c'est tout un service juridique qui perd la maîtrise de ce qu'il a réellement partagé.

Ce que cela change dans le choix d'un fournisseur IA

Les critères d'évaluation d'un prestataire IA se rapprochent de plus en plus de ceux qu'on applique depuis longtemps à un hébergeur cloud ou un éditeur logiciel critique. La certification ISO/IEC 27001, le label SecNumCloud pour les organisations françaises soumises à des exigences de souveraineté, ou la conformité NIS2 pour les entités essentielles, deviennent des points de passage obligés dans les appels d'offres qui incluent une brique IA. Un fournisseur sérieux doit offrir une supervision granulaire des accès, des journaux d'activité horodatés et des alertes en cas de comportement suspect, y compris sur ses propres agents et API.

Le rapport d'Anthropic s'inscrit dans cette logique, même s'il ne remplace aucune certification. C'est une preuve additionnelle, publique et datée, qu'un incident détecté donne lieu à une action documentée plutôt qu'à un silence gêné. Pour une direction achats qui compare deux fournisseurs d'IA, la question à poser n'est plus seulement « votre outil est-il performant ? » mais « que se passe-t-il quand quelqu'un l'utilise mal, et comment le savez-vous ? ». Peu de fournisseurs savent y répondre avec des chiffres, ce qui rend ce type de document précieux au moment de la sélection, bien au-delà du cercle des équipes de sécurité.

Certaines directions achats commencent d'ailleurs à demander une preuve d'audit externe avant toute intervention d'une agence ou d'un intégrateur IA, une pratique qui se généralise dans les appels d'offres depuis le début de l'année. Ce mouvement ne va pas ralentir : plus l'IA générative s'installe dans des processus sensibles, plus la capacité à démontrer un contrôle réel, et pas seulement déclaratif, deviendra un critère de sélection à part entière, au même titre que les références clients ou le prix.

Par où commencer concrètement

Une gouvernance IA ne se construit pas en un jour, mais elle se démarre en une semaine. La première étape, presque toujours négligée, consiste à cartographier les usages réels : quels outils, quelles équipes, quelles données y transitent. Vient ensuite la rédaction d'une charte courte et applicable, plutôt qu'un document juridique de quarante pages que personne ne lira jusqu'au bout. Enfin, la formation des équipes reste le levier le plus sous-investi : selon plusieurs cabinets spécialisés, les entreprises sans formation IA ni politique définie voient jusqu'à 60 % de leurs usages échapper à tout encadrement, contre 27 % en moyenne toutes entreprises confondues.

Le rapport d'Anthropic ne dit pas que l'IA est plus dangereuse qu'avant. Il dit plutôt l'inverse : la détection s'améliore, la transparence progresse, et les entreprises sérieuses disposent désormais des moyens de documenter leur propre gouvernance. Reste à s'en servir. Chez ClaudIn, nous accompagnons les directions juridiques, financières et les sociétés de gestion dans le déploiement de Claude Cowork, cadré dès le premier jour par une charte d'usage, des permissions par rôle et un audit régulier des connecteurs actifs, avec une formation Claude Cowork dédiée à chaque équipe. Si votre organisation utilise déjà l'IA sans savoir précisément qui fait quoi, une revue de gouvernance vaut mieux qu'un rapport de transparence découvert après coup. Réservez une démonstration pour évaluer où vous en êtes réellement.