IA clandestine dans le secteur public: Comment sécuriser l’IA générative sans freiner les agents
- 1. Pourquoi le Shadow AI se développe chez les agents publics
- 2. IA générative et secteurpublic:des risques particuliers pour les données des citoyens
- 3. Classer les outils, les usages et les données plutôt que tout autoriser ou tout interdire
- 4. Comment sécuriser l’IA générative dans le secteur public en cinq étapes
- 5. Rendre la politique applicable grâce à une architecture SASE convergée
- 6. Une feuille de route pour sortir de l’IA clandestine
Les agents publics utilisent déjà l’intelligence artificielle pour résumer des documents, préparer des réponses, retranscrire des réunions ou accélérer certaines tâches administratives. Le véritable enjeu n’est donc plus de décider s’il faut autoriser l’IA, mais de permettre ses usages utiles sans perdre le contrôle des données des citoyens, des décisions et des responsabilités.
Imaginez la scène. Un agent territorial doit préparer en urgence la synthèse d’un dossier de plusieurs dizaines de pages avant une réunion. Pour gagner du temps, il dépose le document dans un assistant d’intelligence artificielle générative et lui demande d’en extraire les points essentiels.
Son intention est légitime: mieux accomplir sa mission. Pourtant, le dossier peut contenir des noms, des coordonnées, des informations sociales, financières ou médicales. L’agent sait-il où ces données sont traitées, combien de temps elles sont conservées et si elles peuvent être réutilisées? L’administration sait-elle quel service a été employé? Peut-elle distinguer cet usage d’une simple consultation?
C’est toute la difficulté de l’« IA clandestine », aussi appelée Shadow AI: une adoption rapide, souvent utile, mais qui se développe plus vite que les mécanismes de gouvernance et de sécurité.
En juin 2026, la stratégie de l’État pour une IA utile, humaine et souveraine dans les services publics a posé le même diagnostic: de nombreux agents ont déjà recours à des outils grand public non maîtrisés. Pour « rompre avec l’IA clandestine », l’État entend diffuser des solutions de confiance et structurer leurs usages.
La question n’est donc plus de savoir si les agents publics utiliseront l’IA. Elle est de savoir si cette utilisation restera invisible et subie, ou si elle deviendra un levier maîtrisé au service des agents et des citoyens.
Pourquoi le Shadow AI se développe chez les agents publics
L’IA générative répond à des besoins quotidiens très concrets: résumer un rapport, améliorer un courrier, préparer une note, traduire un document, retranscrire une réunion ou retrouver rapidement une information. Lorsque les outils proposés par l’administration ne répondent pas encore à ces besoins, certains agents se tournent naturellement vers des services accessibles en quelques clics.
Face à l’incertitude, le premier réflexe peut être de bloquer les principaux assistants d’IA. Cette mesure peut être justifiée pour certains services ou certaines catégories de données. Mais elle ne constitue pas, à elle seule, une stratégie.
Une interdiction générale se heurte à trois réalités:
- le besoin métier ne disparaît pas: si aucune solution encadrée n’est proposée, l’agent peut chercher un autre outil ou un autre moyen d’y accéder;
- l’IA est de moins en moins visible: elle est désormais intégrée aux suites bureautiques, moteurs de recherche, plateformes collaboratives et applications SaaS;
- le blocage seul réduit la compréhension du phénomène: un usage contourné ne peut être ni évalué, ni accompagné, ni amélioré.
Le bon objectif n’est donc pas le « zéro IA ». C’est le zéro usage aveugle.
IA générative et secteur public: des risques particuliers pour les données des citoyens
Demander à une IA de reformuler un texte déjà public ne présente pas le même risque que lui transmettre le dossier d’un usager, des données de santé, des informations sociales, un document juridique non publié ou des éléments relatifs à la sécurité d’un système d’information.
La CNIL rappelle que la collecte et l’utilisation de données personnelles au moyen d’un système d’IA doivent respecter le RGPD. Pour une administration, la question ne porte donc pas uniquement sur l’outil choisi, mais aussi sur la finalité du traitement, la nature des informations transmises, les garanties du fournisseur, la durée de conservation, la localisation des données, la juridiction applicable et les droits des personnes concernées.
Depuis le 2 août 2026, une nouvelle étape de l’entrée en application du règlement européen sur l’intelligence artificielle a également été franchie, notamment pour les systèmes à haut risque de l’annexe III. Plusieurs domaines directement liés à l’action publique sont concernés: l’éducation, l’accès aux services publics essentiels, le maintien de l’ordre, l’immigration ou l’administration de la justice.
Cette transformation intervient alors que les acteurs publics font déjà face à une forte pression cyber. Dans son Panorama de la cybermenace 2025, l’ANSSI classe l’éducation et la recherche (34 %), les ministères et collectivités territoriales (24 %) et la santé (10 %) parmi les secteurs particulièrement visés au cours de l’année. L’IA ne crée pas à elle seule ces menaces, mais elle multiplie les interactions avec des services externes et peut ouvrir de nouveaux chemins de circulation pour les données sensibles.
Classer les outils, les usages et les données plutôt que tout autoriser ou tout interdire
Tous les services d’IA n’offrent pas les mêmes garanties et tous les usages ne présentent pas le même risque. Une politique opérationnelle peut distinguer trois catégories d’outils:
- les outils approuvés, pour lesquels des usages et des catégories de données précisément définis sont autorisés;
- les outils tolérés sous conditions, réservés, par exemple, aux informations publiques ou non sensibles;
- les outils interdits, en raison de garanties insuffisantes ou d’un niveau de risque incompatible avec les missions concernées.
Cette classification doit également porter sur les actions réalisées. Une administration peut autoriser la consultation d’un assistant, tout en interdisant le téléversement de fichiers ou la transmission de certaines données. Elle peut aussi appliquer des règles différentes selon le métier, le terminal utilisé ou le contexte d’accès.
Le choix d’une solution de confiance, maîtrisée ou adaptée aux exigences de souveraineté reste essentiel. Mais la confiance accordée à l’outil ne dispense pas de maîtriser son usage. Un agent peut transmettre par erreur une information qui n’aurait jamais dû quitter son application métier. Un compte peut être compromis. Une fonctionnalité d’IA peut être activée dans une application SaaS sans avoir été préalablement évaluée. Enfin, une réponse générée peut contenir une erreur, un biais ou une information inventée et être reprise sans vérification.
La gouvernance doit donc couvrir simultanément:
- l’outil, ses garanties techniques, juridiques et contractuelles;
- l’utilisateur, son identité, son rôle et son niveau d’habilitation;
- le terminal et le contexte d’accès, notamment lorsqu’un équipement personnel ou non administré est utilisé;
- la donnée, selon sa nature, sa sensibilité et sa destination;
- l’action, comme la saisie d’un prompt, le dépôt d’un fichier, le téléchargement ou le partage d’un contenu;
- le résultat, qui doit rester soumis au jugement et à la responsabilité de l’agent.
Ce dernier point est fondamental. Le guide d’usage de l’IA générative publié par la DINUM pour les agents de l’État rappelle que l’IA reste un outil d’assistance et que l’agent demeure responsable de ses décisions. Il précise également que les données sensibles ne peuvent être traitées qu’au moyen d’outils autorisés par l’administration.
Comment sécuriser l’IA générative dans le secteur public en cinq étapes
Une charte donne une direction. Pour devenir réellement efficace, elle doit être traduite en mesures compréhensibles pour les agents, observables par l’administration et applicables dans les flux numériques.
1. Découvrir les usages réels de l’IA
Avant de définir des règles, il faut savoir quels services et quelles fonctionnalités d’IA sont réellement utilisés, par quelles populations et avec quelle fréquence. Cette cartographie doit inclure les outils non approuvés, mais aussi les fonctions d’IA intégrées aux applications existantes.
L’objectif n’est pas d’organiser une surveillance généralisée des agents. Il s’agit de disposer d’une visibilité proportionnée et conforme au cadre applicable afin d’identifier les risques, d’informer les utilisateurs et de prendre des décisions fondées sur des faits.
2. Évaluer les services et prioriser les risques
Une application très utilisée et susceptible de recevoir des données sensibles mérite une attention immédiate. Un service rarement consulté pour des contenus publics ne présente pas la même priorité.
L’évaluation doit croiser la criticité du service, la nature des données, les garanties du fournisseur, les populations concernées et le contexte d’accès. Cette approche permet d’éviter deux écueils: tout autoriser par défaut ou tout bloquer indistinctement.
3. Protéger les données au moment où elles circulent
Former les agents est indispensable, mais l’erreur humaine ne disparaîtra jamais complètement. La démarche doit notamment s’articuler avec les recommandations de sécurité de l’ANSSI pour les systèmes d’IA générative.
Des contrôles de prévention des pertes de données peuvent compléter la sensibilisation en détectant certaines informations sensibles et en appliquant une réponse adaptée: avertir l’utilisateur, demander une justification, masquer un élément, bloquer un transfert ou générer une alerte.
Prenons un exemple. Le dépôt d’un rapport public dans un outil approuvé peut être autorisé. En revanche, la tentative d’envoyer vers un service non évalué un fichier contenant des numéros de sécurité sociale ou des données médicales peut déclencher un blocage accompagné d’une explication et d’une redirection vers la solution autorisée.
4. Journaliser de manière proportionnée et produire des preuves
Une administration doit pouvoir comprendre quels outils sont utilisés, vérifier l’application de ses règles et enquêter en cas d’incident. Cette journalisation doit respecter les principes de nécessité, de proportionnalité et de protection des agents.
Elle peut également alimenter des indicateurs utiles: progression de l’adoption des outils approuvés, diminution des usages à risque, catégories de données les plus souvent concernées ou besoins de formation récurrents. La gouvernance devient ainsi mesurable plutôt que simplement déclarative.
5. Accompagner les agents plutôt que seulement sanctionner
Lorsqu’un agent tente d’utiliser un service interdit, un simple message de blocage laisse son besoin sans réponse. Il est plus efficace d’expliquer la règle et, lorsque cela est possible, de rediriger l’utilisateur vers l’outil approuvé ou la procédure adaptée.
La sécurité devient alors un mécanisme d’accompagnement de l’innovation publique, et non un obstacle ajouté au travail quotidien.
Rendre la politique applicable grâce à une architecture SASE convergée
Cette gouvernance devient difficile lorsque la visibilité sur les applications, le contrôle d’accès, la protection des données et la journalisation reposent sur des outils séparés. Les politiques risquent alors de varier selon que l’agent se trouve dans un bâtiment administratif, en télétravail ou en déplacement.
Une architecture SASE convergée permet de rapprocher ces contrôles. Dans les flux couverts par la plateforme, le CASB contribue à identifier les applications d’IA approuvées ou non, tandis que la DLP aide à détecter et protéger certaines catégories de données. Les politiques peuvent tenir compte de l’utilisateur, de l’application, de l’action réalisée et du contexte d’accès, puis être administrées de manière cohérente.
Cato AI Security s’inscrit dans cette logique: découvrir les applications, modèles et agents d’IA utilisés, évaluer leur niveau de risque, analyser les interactions et appliquer des garde-fous en temps réel, notamment pour empêcher ou masquer la transmission de données sensibles.
La technologie ne remplace ni l’analyse du DPO, ni l’homologation de sécurité, ni les exigences de qualification ou de souveraineté applicables au périmètre concerné. Elle permet de traduire les décisions prises par l’administration en contrôles cohérents dans les usages couverts, sans ajouter une politique distincte pour chaque site, chaque application ou chaque mode de travail.
Une feuille de route pour sortir de l’IA clandestine
Il n’est pas nécessaire d’attendre une gouvernance parfaite pour commencer. Une première démarche peut s’organiser autour de quatre questions:
- Quels services et quelles fonctionnalités d’IA nos agents utilisent-ils réellement aujourd’hui?
- Quelles données ne doivent jamais être transmises à un service non approuvé?
- Quels outils pouvons-nous proposer pour répondre aux besoins légitimes des agents?
- Sommes-nous capables d’appliquer nos règles de façon cohérente et d’en démontrer le respect?
Un atelier réunissant DSI, RSSI, DPO et représentants métiers peut déjà permettre de cartographier les principaux usages, de définir les premières catégories de données et d’identifier trois à cinq règles prioritaires. Cette approche pragmatique crée un point de départ commun entre innovation, sécurité, conformité et réalité opérationnelle.
Sortir de l’IA clandestine ne signifie pas ralentir l’innovation. Cela signifie lui donner un cadre crédible, compréhensible et applicable.
La question n’est plus de savoir si les agents publics utiliseront l’intelligence artificielle, mais si cette utilisation restera invisible et subie ou deviendra un levier maîtrisé au service des agents, des citoyens et de la continuité du service public.
Vous souhaitez mieux comprendre les usages d’IA au sein de votre organisation et identifier les données potentiellement exposées? Échangez avec les équipes Cato Networks pour définir les premières étapes d’une gouvernance applicable aux agents, aux sites et aux applications concernés.
Sources officielles et ressources complémentaires
Découvrez la première plateforme SASE optimisée par GPU de l’industrie avec une sécurité via l’IA native.
Shadow AI & Agents Autonomes. L'entreprise a perdu la visibilité, pas encore le contrôle.
