Shadow AI & Agents Autonomes. L’entreprise a perdu la visibilité, pas encore le contrôle.

En moins de trois ans, l’intelligence artificielle générative est passée du statut de curiosité technologique à celui d’infrastructure critique de facto. Elle rédige des contrats, analyse des données clients, écrit du code de production et, de plus en plus souvent, agit de manière autonome au nom de l’entreprise.  

Ce basculement crée une situation inédite : l’IA élargit la surface d’attaque au moment même où elle devient l’un des piliers de la défense. Pour les directions générales comme pour les RSSI, la question n’est donc plus d’adopter ou non l’IA, mais de la gouverner. C’est le fil rouge de cet article, en cinq temps :  

• Les enjeux stratégiques pour le COMEX. 

• L’IA comme vecteur de menace. 

• L’IA au service de la défense. 

• La gouvernance du risque. 

Une vision RSSI pragmatique pour les mois à venir. 

1.Panorama et enjeux stratégiques : pourquoi le COMEX ne peut plus déléguer le sujet 

L’IA n’est pas un projet informatique de plus. Elle touche simultanément à la compétitivité, au capital informationnel (les données qui alimentent les modèles sont souvent les plus sensibles de l’entreprise), à la conformité (RGPD, AI Act européen, NIS2) et à la réputation. Un incident lié à l’IA comme une fuite de données via un assistant grand public, une décision automatisée erronée ou agent compromis combine ces quatre dimensions en un seul événement. 

Trois constats s’imposent au niveau exécutif.  

• Premièrement, l’adoption est déjà là : Dans la plupart des organisations, les usages de l’IA ont précédé toute politique formelle.  

• Deuxièmement, l’asymétrie joue contre le défenseur : Les attaquants industrialisent l’IA sans comité d’éthique ni contrainte réglementaire.  

• Enfin, le coût de l’inaction n’est pas neutre : Interdire l’IA ne fait que déplacer les usages hors de toute visibilité, tandis que l’autoriser sans cadre expose l’entreprise à des risques mal mesurés. 

Le rôle du COMEX est donc double : Fixer l’appétence au risque IA de l’organisation concernant les usages, les données, les garde-fous et donner au RSSI le mandat et les moyens de l’instrumenter. L’IA devient ainsi un sujet de gouvernance d’entreprise au même titre que le cyber-risque l’est devenu après une décennie de ransomware. 

Cette évolution impose également un changement de posture : l’IA ne peut plus être abordée uniquement sous l’angle de l’innovation ou de la productivité. Elle doit être intégrée aux arbitrages stratégiques de l’entreprise, au même titre que la gestion des risques financiers, réglementaires ou opérationnels. Le sujet n’est pas de freiner les métiers, mais de leur donner un cadre clair pour expérimenter sans exposer inutilement les données, les clients ou la responsabilité de l’organisation. 

2. L’IA comme vecteur de menace : du Shadow AI aux agents autonomes 

Shadow AI : mesurer l’exposition réelle et reprendre le contrôle 

Le Shadow AI est au RSSI de 2026 ce que le Shadow IT était à celui de 2015 en plus rapide et en plus diffus. Assistants génératifs grand public, extensions de navigateur dopées à l’IA, fonctionnalités IA activées silencieusement dans des SaaS déjà déployés : les canaux par lesquels des données d’entreprise partent vers des modèles tiers se multiplient. Les observations de terrain convergent : lorsqu’une organisation mesure réellement ses flux, elle découvre généralement un nombre d’applications IA utilisées très supérieur à celui qu’elle croyait autoriser, et une part significative de ces usages implique des données sensibles telles que du code source, des données clients ou encore des éléments financiers. 

Le risque le plus difficile à traiter n’est pas toujours l’usage d’un outil non autorisé, mais l’usage banal, quotidien, presque invisible, et sans mauvaise intention : un extrait de contrat copié dans un assistant, un jeu de données client résumé pour gagner du temps, un bout de code soumis pour correction. Pris isolément, ces gestes paraissent anodins. À l’échelle d’une organisation, ils dessinent pourtant une fuite progressive du capital vers des environnements que l’entreprise ne maîtrise pas toujours 

Reprendre le contrôle suppose trois étapes.  

• D’abord, la visibilité : on ne gouverne pas ce qu’on ne voit pas. Il s’agit d’inventorier les usages réels à partir du trafic réseau et cloud, et non des déclarations.  

• Ensuite, la différenciation : toutes les applications IA ne se valent pas ; certaines offrent des garanties contractuelles et techniques (non-réentraînement sur les données clients, hébergement maîtrisé), d’autres aucune. Une politique binaire « tout bloquer » ou « tout autoriser » est vouée à l’échec ; il faut une granularité par application, par usage et par type de donnée.  

• Enfin, l’accompagnement : proposer une alternative d’entreprise sûre et performante reste le moyen le plus efficace de tarir le Shadow AI, car les collaborateurs n’y recourent pas par malveillance mais par recherche d’efficacité. 

Agents IA autonomes : cadrer avant de déployer 

La deuxième vague est déjà là : les agents IA sont capables d’enchaîner des actions, interroger des systèmes, écrire dans des applications et déclencher des workflows sans validation humaine. L’opportunité est réelle : automatisation de tâches complexes, réactivité, réduction des tâches répétitives. Mais le modèle de risque change de nature. Un assistant conversationnel qui se trompe produit un mauvais texte ; un agent qui se trompe, ou qui est manipulé, agit. Ainsi, l’injection de prompt indirecte (instructions malveillantes dissimulées dans un document, un e-mail ou une page web que l’agent traite) devient l’équivalent moderne de l’exécution de code arbitraire. 

Cadrer le déploiement des agents suppose de leur appliquer les principes éprouvés de la sécurité : Moindre privilège (un agent ne doit accéder qu’aux données et actions strictement nécessaires à sa mission), séparation des environnements, journalisation exhaustive de chaque action pour l’audibilité, points de validation humaine sur les actions irréversibles ou sensibles, et capacité de révocation immédiate. Un agent IA doit être traité comme un collaborateur numérique : recruté avec une fiche de poste, habilité, supervisé et « licenciable » en un clic. 

Cette analogie a une conséquence pratique : un agent ne devrait jamais être déployé sans propriétaire identifié. Il faut savoir qui l’a créé, pour quel processus, avec quels droits, sur quelles données et selon quelles limites. Sans cette responsabilité clairement attribuée, l’agent devient rapidement un angle mort : utile tant qu’il fonctionne, difficile à auditer lorsqu’un incident survient. 

À ces risques d’usage s’ajoute l’IA offensive elle-même : hameçonnage hyper-personnalisé et sans fautes, deepfakes vocaux, vidéos utilisées dans les fraudes, reconnaissance de CVE et développement d’exploits accélérés. Les attaques gagnent en sophistication, ce qui réduit le temps dont disposent les défenseurs pour réagir. 

3. L’IA au service de la défense : SOC augmenté, compétences, identités machines 

Le SOC augmenté par l’IA : promesses et limites 

Face à des attaques accélérées par l’IA, la défense n’a d’autre choix que de s’accélérer elle-même. Le « SOC augmenté » désigne l’intégration de l’IA à chaque étape du cycle de détection-réponse : tri et corrélation des alertes pour réduire le bruit, enrichissement automatique du contexte d’un incident, génération de synthèses en langage naturel, suggestion d’actions de remédiation. Le bénéfice le plus tangible n’est pas le remplacement des analystes mais la réduction du temps moyen de détection et de réponse, et la lutte contre la fatigue d’alerte qui épuise les équipes. 

Les limites méritent d’être dites avec la même franchise. Un modèle d’IA peut halluciner un contexte, mal classifier un signal faible, ou être lui-même la cible de manipulations. La qualité des résultats dépend directement de la qualité et de l’exhaustivité de la télémétrie. Une IA appliquée à des données fragmentées, réparties entre des dizaines d’outils qui ne se parlent pas, produira des conclusions fragmentées. C’est un argument fort en faveur de la convergence des données de sécurité sur un socle unifié avant d’y appliquer l’intelligence. Enfin, la responsabilité des décisions reste humaine : L’IA propose, l’analyste dispose, au moins pour toutes les actions à fort impact. 

Former et sensibiliser à l’ère de l’IA 

La technologie ne suffira pas. La sensibilisation des collaborateurs doit être réécrite : les réflexes classiques (« méfiez-vous des fautes d’orthographe ») sont obsolètes face à des leurres générés par IA. Il faut former ses collaborateurs aux règles d’usage de l’IA elle-même : quelles données peut-on soumettre à quel outil, comment relire une production d’IA avant de s’y fier. 

Côté équipes sécurité, le métier évolue. L’analyste SOC de demain pilote des systèmes d’IA autant qu’il analyse des logs : Savoir interroger un assistant, challenger ses conclusions, comprendre ses angles morts devient une compétence cœur. Les RSSI ont intérêt à investir dès maintenant dans cette montée en compétence, y compris pour retenir des talents rares en leur offrant des missions à plus forte valeur ajoutée que le tri d’alertes. 

Cette montée en compétence ne concerne pas uniquement les profils techniques. Les métiers, les juristes, les achats et les équipes conformité doivent également comprendre les nouveaux réflexes à adopter : questionner les conditions d’utilisation d’un outil IA, vérifier la localisation et l’usage des données, demander des garanties sur le réentraînement des modèles ou encore identifier les cas où une validation humaine reste indispensable. 

Identités machines et agents IA : le nouveau périmètre de l’IAM 

Il y a longtemps que les identités non humaines (NHI) tel que les comptes de service ou clés d’API dépassent en nombre les identités humaines, souvent dans un rapport de plusieurs dizaines pour un. Les agents IA font exploser cette tendance : Chaque agent est une identité qui s’authentifie, détient des secrets, se voit déléguer des droits, parfois de manière transitive et dynamique. Or ces identités échappent largement aux disciplines appliquées aux humains : Pas de MFA, des secrets qui ne tournent jamais, des droits accumulés jamais revus, pas de départ « RH » qui déclencherait leur désactivation. 

Le périmètre de l’IAM doit donc s’étendre : Inventaire exhaustif des identités machines et de leurs propriétaires, cycle de vie complet (création, revue, rotation des secrets, décommissionnement), application du moindre privilège et d’une logique Zero Trust où chaque accès humain ou machine est vérifié en continu selon le contexte. Pour les agents IA, s’y ajoute la traçabilité de la délégation : au nom de qui l’agent agit-il, et qui répond de ses actions ? Les organisations qui traiteront les identités machines comme des citoyens de seconde zone de leur IAM en paieront le prix lors du prochain incident. 

4. Gouvernance, conformité et gestion du risque 

L’AI TRiSM entre-t-il dans le périmètre du RSSI ? La réponse est oui. 

Commençons par décoder les termes. L’AI TRiSM (AI Trust, Risk and Security Management) désigne la gestion de la confiance, des risques et de la sécurité appliquée à l’intelligence artificielle. Il couvre quatre grands sujets :  

• La gouvernance des modèles d’IA. 

• La fiabilité et l’explicabilité de leurs résultats. 

• La protection des données qu’ils traitent. 

• La sécurité des applications qui les utilisent. 

Longtemps vu comme l’affaire des « data scientists », ce sujet glisse inexorablement vers le RSSI. La raison est simple : ses mécanismes (inventaire des actifs, analyse de risques, contrôles, surveillance, réponse aux incidents) sont exactement ceux d’un SMSI, le Système de Management de la Sécurité de l’Information formalisé par la norme ISO 27001. 

Concrètement, cela signifie quatre choses.  

• Ajouter les systèmes d’IA au registre des actifs et aux analyses de risques.  

• Étendre la classification des données aux flux qui alimentent les modèles.  

• Intégrer les scénarios d’attaque propres à l’IA dans les exercices de crise. 

• Et enfin, documenter le tout dans une logique de conformité : l’AI Act, le règlement européen sur l’IA, impose déjà aux systèmes dits « à haut risque » des exigences de gestion des risques, de journalisation et de supervision humaine, des notions familières à tout praticien d’ISO 27001. 

Une nuance pour finir : le RSSI n’a pas vocation à porter seul la gouvernance de l’IA. L’éthique, le juridique et les métiers y ont leur part. Mais sur le volet sécurité, c’est bien lui le maître d’œuvre. 

Assurance cyber et IA : ce que les assureurs demandent désormais 

Le marché de l’assurance cyber, échaudé par la vague des ransomwares, intègre à son tour le facteur IA. Deux mouvements se dessinent. Côté sinistralité, les fraudes assistées par deepfake et les incidents impliquant des systèmes d’IA font leur entrée dans les dossiers, poussant les assureurs à clarifier ce qui est couvert et à introduire, dans certains contrats, des exclusions ou des sous-limites spécifiques qu’il faut lire attentivement.  

Côté souscription, les questionnaires évoluent : après le MFA et les sauvegardes hors ligne, les questions portent désormais sur la politique d’usage de l’IA, la maîtrise du Shadow AI, les contrôles autour des données soumises aux modèles et la supervision des systèmes autonomes.  

Pour le RSSI, c’est un levier autant qu’une contrainte : la capacité à démontrer une gouvernance IA documentée devient un argument de négociation des primes et des franchises, et l’assureur, un allié objectif pour obtenir des budgets en interne. 

Ce dialogue avec l’assureur peut aussi servir de test de maturité. Une entreprise capable d’expliquer quels outils IA sont autorisés, quelles données peuvent y être exposées, comment les agents sont supervisés et comment les incidents IA seraient traités démontre une maîtrise qui dépasse le simple déclaratif. À l’inverse, l’absence de réponses précises révèle souvent des angles morts que le RSSI pourra transformer en priorités d’action. 

5. Vision RSSI : gouverner le mouvement plutôt que le subir 

Que retenir des retours d’expérience des organisations les plus avancées ? D’abord, que la visibilité précède tout : les programmes qui réussissent commencent par mesurer les usages réels de l’IA avant d’édicter des règles, et découvrent presque toujours un écart majeur entre le prescrit et le réel. Ensuite, que l’interdiction pure échoue systématiquement là où l’encadrement d’alternatives sûres réussit. Enfin, que la simplification architecturale est un prérequis : appliquer de l’IA défensive sur un empilement d’outils fragmentés revient à automatiser le chaos ; les organisations qui convergent leurs contrôles de sécurité sur des plateformes unifiées obtiennent des résultats sans commune mesure. 

La feuille de route tient en cinq points :  

• Cartographier les usages IA et les identités machines. 

• Définir avec le COMEX et le RSSI une politique d’usage techniquement applicable. 

• Etendre le SMSI à l’AI TRiSM sans créer de silo de gouvernance parallèle. 

• Augmenter le SOC par l’IA en gardant l’humain dans la boucle des décisions critiques. 

• Investir dans les compétences, car la meilleure technologie ne compensera jamais des équipes non préparées. 

La difficulté ne sera pas seulement technique. Elle sera aussi liée aux habitudes de travail. Les collaborateurs utilisent l’IA parce qu’elle leur fait gagner du temps et leur apporte une aide concrète. Ils accepteront plus facilement de respecter de nouvelles règles si celles-ci sont claires, simples à appliquer et adaptées à leur quotidien. Une politique IA trop théorique risque d’être peu suivie. A contrario une politique claire, bien expliquée et accompagnée par des outils adaptés peut devenir un réflexe partagé dans l’entreprise. 

Aucun de ces cinq chantiers n’exige d’attendre les autres : la cartographie peut démarrer cette semaine, la politique d’usage se co-construire au prochain comité des risques, l’extension du SMSI s’inscrire dans le cycle de revue en cours. Ce qui compte est moins l’exhaustivité initiale que le séquencement : chaque étape produit la visibilité nécessaire à la suivante. Le RSSI qui engage cette démarche ne court plus derrière les usages ; il les précède. 

Le titre de cet article pose un constat : L’entreprise a perdu la visibilité sur ses usages de l’IA. Shadow AI diffus, agents autonomes qui agissent en son nom, identités machines qui prolifèrent : le réel a débordé le prescrit, et il ne reviendra pas en arrière. Mais perdre la visibilité n’est pas perdre le contrôle. Le second se reconquiert, à condition de commencer par restaurer la première. 

C’est tout l’enseignement des cinq temps de cet article. Le COMEX fixe le cap et l’appétence au risque ; le RSSI cartographie, cadre et instrumente ; le SOC s’augmente sans abdiquer le jugement humain ; la gouvernance s’étend à l’AI TRiSM dans la continuité du SMSI existant ; et les équipes montent en compétence, car aucun outil ne remplacera des collaborateurs préparés. 

La fenêtre d’action est ouverte, mais elle ne le restera pas indéfiniment. Chaque mois qui passe voit les usages s’ancrer, les agents se multiplier et les attaquants s’industrialiser. Les organisations qui agissent maintenant transformeront l’IA en avantage maîtrisé ; celles qui attendent la découvriront au détour d’un incident. Entre les deux, il n’y a ni fatalité ni miracle : il y a de la gouvernance. Et c’est précisément là que le RSSI, plus que jamais, fait la différence. 

Le vrai risque serait de considérer l’IA comme un sujet passager, alors qu’elle s’installe déjà dans les processus, les outils et les décisions de l’entreprise. Les organisations qui réussiront ne seront pas celles qui bloqueront tous les usages, ni celles qui laisseront tout faire. Ce seront celles qui sauront rendre l’usage de l’IA visible, compréhensible et maîtrisé. 

Cet article a été co-rédigé par Sylvain Chareyre., Responsable Systems Engineering Worldwide, et Sylvain Gozé., System Engineer AI Security EMEA, chez Cato Networks. 

Pionnier du SASE, Cato Networks a fait de la convergence des contrôles de sécurité sur une plateforme cloud unifiée le socle de sa réponse aux défis de l’IA : Visibilité sur les usages GenAI et le Shadow AI, contrôle des flux vers les applications d’IA et protection contre les menaces augmentées par l’IA au sein d’une même plateforme.  

C’est cette approche unifiée qui permet aux entreprises de voir, cadrer et gouverner les usages de l’IA plutôt que de les subir. Au contact quotidien des RSSI et de leurs équipes en Europe comme à l’international, les deux auteurs les accompagnent dans la sécurisation de leurs usages de l’IA et la transformation de leurs opérations de sécurité.