Les agents publics utilisent d\u00e9j\u00e0 l\u2019intelligence artificielle pour r\u00e9sumer des documents, pr\u00e9parer des r\u00e9ponses, retranscrire des r\u00e9unions ou acc\u00e9l\u00e9rer certaines t\u00e2ches administratives. Le v\u00e9ritable enjeu n\u2019est donc plus de d\u00e9cider s\u2019il faut autoriser l\u2019IA, mais de permettre ses usages utiles sans perdre le contr\u00f4le des donn\u00e9es des citoyens, des d\u00e9cisions et des responsabilit\u00e9s.
<\/p>\n\n\n\n
Imaginez la sc\u00e8ne. Un agent territorial doit pr\u00e9parer en urgence la synth\u00e8se d\u2019un dossier de plusieurs dizaines de pages avant une r\u00e9union. Pour gagner du temps, il d\u00e9pose le document dans un assistant d\u2019intelligence artificielle g\u00e9n\u00e9rative et lui demande d\u2019en extraire les points essentiels.
<\/p>\n\n\n\n
Son intention est l\u00e9gitime: mieux accomplir sa mission. Pourtant, le dossier peut contenir des noms, des coordonn\u00e9es, des informations sociales, financi\u00e8res ou m\u00e9dicales. L\u2019agent sait-il o\u00f9 ces donn\u00e9es sont trait\u00e9es, combien de temps elles sont conserv\u00e9es et si elles peuvent \u00eatre r\u00e9utilis\u00e9es? L\u2019administration sait-elle quel service a \u00e9t\u00e9 employ\u00e9? Peut-elle distinguer cet usage d\u2019une simple consultation?
<\/p>\n\n\n\n
C\u2019est toute la difficult\u00e9 de l\u2019\u00ab IA clandestine \u00bb, aussi appel\u00e9e\u202fShadow AI<\/em>: une adoption rapide, souvent utile, mais qui se d\u00e9veloppe plus vite que les m\u00e9canismes de gouvernance et de s\u00e9curit\u00e9. En juin 2026,\u202fla strat\u00e9gie de l\u2019\u00c9tat pour une IA utile, humaine et souveraine dans les services publics<\/a>\u202fa pos\u00e9 le m\u00eame diagnostic: de nombreux agents ont d\u00e9j\u00e0 recours \u00e0 des outils grand public non ma\u00eetris\u00e9s. Pour \u00ab rompre avec l\u2019IA clandestine \u00bb, l\u2019\u00c9tat entend diffuser des solutions de confiance et structurer leurs usages. La question n\u2019est donc plus de savoir si les agents publics utiliseront l\u2019IA. Elle est de savoir si cette utilisation restera invisible et subie, ou si elle deviendra un levier ma\u00eetris\u00e9 au service des agents et des citoyens. <\/p>\n\n\n\n <\/p>\n\n\n\n L\u2019IA g\u00e9n\u00e9rative r\u00e9pond \u00e0 des besoins quotidiens tr\u00e8s concrets: r\u00e9sumer un rapport, am\u00e9liorer un courrier, pr\u00e9parer une note, traduire un document, retranscrire une r\u00e9union ou retrouver rapidement une information. Lorsque les outils propos\u00e9s par l\u2019administration ne r\u00e9pondent pas encore \u00e0 ces besoins, certains agents se tournent naturellement vers des services accessibles en quelques clics. Face \u00e0 l\u2019incertitude, le premier r\u00e9flexe peut \u00eatre de bloquer les principaux assistants d\u2019IA. Cette mesure peut \u00eatre justifi\u00e9e pour certains services ou certaines cat\u00e9gories de donn\u00e9es. Mais elle ne constitue pas, \u00e0 elle seule, une strat\u00e9gie. <\/p>\n\n\n\n Une interdiction g\u00e9n\u00e9rale se heurte \u00e0 trois r\u00e9alit\u00e9s: <\/p>\n\n\n\n Le bon objectif n\u2019est donc pas le \u00ab z\u00e9ro IA \u00bb. C\u2019est le\u202fz\u00e9ro usage aveugle<\/strong>. <\/p>\n\n\n\n Demander \u00e0 une IA de reformuler un texte d\u00e9j\u00e0 public ne pr\u00e9sente pas le m\u00eame risque que lui transmettre le dossier d\u2019un usager, des donn\u00e9es de sant\u00e9, des informations sociales, un document juridique non publi\u00e9 ou des \u00e9l\u00e9ments relatifs \u00e0 la s\u00e9curit\u00e9 d\u2019un syst\u00e8me d\u2019information. La\u202fCNIL rappelle que la collecte et l\u2019utilisation de donn\u00e9es personnelles au moyen d\u2019un syst\u00e8me d\u2019IA doivent respecter le RGPD<\/a>. Pour une administration, la question ne porte donc pas uniquement sur l\u2019outil choisi, mais aussi sur la finalit\u00e9 du traitement, la nature des informations transmises, les garanties du fournisseur, la dur\u00e9e de conservation, la localisation des donn\u00e9es, la juridiction applicable et les droits des personnes concern\u00e9es. Depuis le 2 ao\u00fbt 2026,\u202fune nouvelle \u00e9tape de l\u2019entr\u00e9e en application du r\u00e8glement europ\u00e9en sur l\u2019intelligence artificielle<\/a>\u202fa \u00e9galement \u00e9t\u00e9 franchie, notamment pour les syst\u00e8mes \u00e0 haut risque de l\u2019annexe III. Plusieurs domaines directement li\u00e9s \u00e0 l\u2019action publique sont concern\u00e9s: l\u2019\u00e9ducation, l\u2019acc\u00e8s aux services publics essentiels, le maintien de l\u2019ordre, l\u2019immigration ou l\u2019administration de la justice. Cette transformation intervient alors que les acteurs publics font d\u00e9j\u00e0 face \u00e0 une forte pression cyber. Dans son\u202fPanorama de la cybermenace 2025<\/a>, l\u2019ANSSI classe l\u2019\u00e9ducation et la recherche (34 %), les minist\u00e8res et collectivit\u00e9s territoriales (24 %) et la sant\u00e9 (10 %) parmi les secteurs particuli\u00e8rement vis\u00e9s au cours de l\u2019ann\u00e9e. L\u2019IA ne cr\u00e9e pas \u00e0 elle seule ces menaces, mais elle multiplie les interactions avec des services externes et peut ouvrir de nouveaux chemins de circulation pour les donn\u00e9es sensibles. <\/p>\n\n\n\n Tous les services d\u2019IA n\u2019offrent pas les m\u00eames garanties et tous les usages ne pr\u00e9sentent pas le m\u00eame risque. Une politique op\u00e9rationnelle peut distinguer trois cat\u00e9gories d\u2019outils: <\/p>\n\n\n\n Cette classification doit \u00e9galement porter sur les actions r\u00e9alis\u00e9es. Une administration peut autoriser la consultation d\u2019un assistant, tout en interdisant le t\u00e9l\u00e9versement de fichiers ou la transmission de certaines donn\u00e9es. Elle peut aussi appliquer des r\u00e8gles diff\u00e9rentes selon le m\u00e9tier, le terminal utilis\u00e9 ou le contexte d\u2019acc\u00e8s. Le choix d\u2019une solution de confiance, ma\u00eetris\u00e9e ou adapt\u00e9e aux exigences de souverainet\u00e9 reste essentiel. Mais la confiance accord\u00e9e \u00e0 l\u2019outil ne dispense pas de ma\u00eetriser son usage. Un agent peut transmettre par erreur une information qui n\u2019aurait jamais d\u00fb quitter son application m\u00e9tier. Un compte peut \u00eatre compromis. Une fonctionnalit\u00e9 d\u2019IA peut \u00eatre activ\u00e9e dans une application SaaS sans avoir \u00e9t\u00e9 pr\u00e9alablement \u00e9valu\u00e9e. Enfin, une r\u00e9ponse g\u00e9n\u00e9r\u00e9e peut contenir une erreur, un biais ou une information invent\u00e9e et \u00eatre reprise sans v\u00e9rification. <\/p>\n\n\n\n La gouvernance doit donc couvrir simultan\u00e9ment: <\/p>\n\n\n\n Ce dernier point est fondamental. Le\u202fguide d\u2019usage de l\u2019IA g\u00e9n\u00e9rative publi\u00e9 par la DINUM pour les agents de l\u2019\u00c9tat<\/a> rappelle que l\u2019IA reste un outil d\u2019assistance et que l\u2019agent demeure responsable de ses d\u00e9cisions. Il pr\u00e9cise \u00e9galement que les donn\u00e9es sensibles ne peuvent \u00eatre trait\u00e9es qu\u2019au moyen d\u2019outils autoris\u00e9s par l\u2019administration. <\/p>\n\n\n\n Une charte donne une direction. Pour devenir r\u00e9ellement efficace, elle doit \u00eatre traduite en mesures compr\u00e9hensibles pour les agents, observables par l\u2019administration et applicables dans les flux num\u00e9riques. Avant de d\u00e9finir des r\u00e8gles, il faut savoir quels services et quelles fonctionnalit\u00e9s d\u2019IA sont r\u00e9ellement utilis\u00e9s, par quelles populations et avec quelle fr\u00e9quence. Cette cartographie doit inclure les outils non approuv\u00e9s, mais aussi les fonctions d\u2019IA int\u00e9gr\u00e9es aux applications existantes. <\/p>\n\n\n\n L\u2019objectif n\u2019est pas d\u2019organiser une surveillance g\u00e9n\u00e9ralis\u00e9e des agents. Il s\u2019agit de disposer d\u2019une visibilit\u00e9 proportionn\u00e9e et conforme au cadre applicable afin d\u2019identifier les risques, d\u2019informer les utilisateurs et de prendre des d\u00e9cisions fond\u00e9es sur des faits. Une application tr\u00e8s utilis\u00e9e et susceptible de recevoir des donn\u00e9es sensibles m\u00e9rite une attention imm\u00e9diate. Un service rarement consult\u00e9 pour des contenus publics ne pr\u00e9sente pas la m\u00eame priorit\u00e9. <\/p>\n\n\n\n L\u2019\u00e9valuation doit croiser la criticit\u00e9 du service, la nature des donn\u00e9es, les garanties du fournisseur, les populations concern\u00e9es et le contexte d\u2019acc\u00e8s. Cette approche permet d\u2019\u00e9viter deux \u00e9cueils: tout autoriser par d\u00e9faut ou tout bloquer indistinctement. Former les agents est indispensable, mais l\u2019erreur humaine ne dispara\u00eetra jamais compl\u00e8tement. La d\u00e9marche doit notamment s\u2019articuler avec les\u202frecommandations de s\u00e9curit\u00e9 de l\u2019ANSSI pour les syst\u00e8mes d\u2019IA g\u00e9n\u00e9rative<\/a>. <\/p>\n\n\n\n Des contr\u00f4les de pr\u00e9vention des pertes de donn\u00e9es peuvent compl\u00e9ter la sensibilisation en d\u00e9tectant certaines informations sensibles et en appliquant une r\u00e9ponse adapt\u00e9e: avertir l\u2019utilisateur, demander une justification, masquer un \u00e9l\u00e9ment, bloquer un transfert ou g\u00e9n\u00e9rer une alerte. <\/p>\n\n\n\n Prenons un exemple. Le d\u00e9p\u00f4t d\u2019un rapport public dans un outil approuv\u00e9 peut \u00eatre autoris\u00e9. En revanche, la tentative d\u2019envoyer vers un service non \u00e9valu\u00e9 un fichier contenant des num\u00e9ros de s\u00e9curit\u00e9 sociale ou des donn\u00e9es m\u00e9dicales peut d\u00e9clencher un blocage accompagn\u00e9 d\u2019une explication et d\u2019une redirection vers la solution autoris\u00e9e. Une administration doit pouvoir comprendre quels outils sont utilis\u00e9s, v\u00e9rifier l\u2019application de ses r\u00e8gles et enqu\u00eater en cas d\u2019incident. Cette journalisation doit respecter les principes de n\u00e9cessit\u00e9, de proportionnalit\u00e9 et de protection des agents. <\/p>\n\n\n\n Elle peut \u00e9galement alimenter des indicateurs utiles: progression de l\u2019adoption des outils approuv\u00e9s, diminution des usages \u00e0 risque, cat\u00e9gories de donn\u00e9es les plus souvent concern\u00e9es ou besoins de formation r\u00e9currents. La gouvernance devient ainsi mesurable plut\u00f4t que simplement d\u00e9clarative. Lorsqu\u2019un agent tente d\u2019utiliser un service interdit, un simple message de blocage laisse son besoin sans r\u00e9ponse. Il est plus efficace d\u2019expliquer la r\u00e8gle et, lorsque cela est possible, de rediriger l\u2019utilisateur vers l\u2019outil approuv\u00e9 ou la proc\u00e9dure adapt\u00e9e. <\/p>\n\n\n\n La s\u00e9curit\u00e9 devient alors un m\u00e9canisme d\u2019accompagnement de l\u2019innovation publique, et non un obstacle ajout\u00e9 au travail quotidien. <\/p>\n\n\n\n Cette gouvernance devient difficile lorsque la visibilit\u00e9 sur les applications, le contr\u00f4le d\u2019acc\u00e8s, la protection des donn\u00e9es et la journalisation reposent sur des outils s\u00e9par\u00e9s. Les politiques risquent alors de varier selon que l\u2019agent se trouve dans un b\u00e2timent administratif, en t\u00e9l\u00e9travail ou en d\u00e9placement. Une architecture SASE converg\u00e9e permet de rapprocher ces contr\u00f4les. Dans les flux couverts par la plateforme, le CASB contribue \u00e0 identifier les applications d\u2019IA approuv\u00e9es ou non, tandis que la DLP aide \u00e0 d\u00e9tecter et prot\u00e9ger certaines cat\u00e9gories de donn\u00e9es. Les politiques peuvent tenir compte de l\u2019utilisateur, de l\u2019application, de l\u2019action r\u00e9alis\u00e9e et du contexte d\u2019acc\u00e8s, puis \u00eatre administr\u00e9es de mani\u00e8re coh\u00e9rente. Cato AI Security<\/em> s\u2019inscrit dans cette logique: d\u00e9couvrir les applications, mod\u00e8les et agents d\u2019IA utilis\u00e9s, \u00e9valuer leur niveau de risque, analyser les interactions et appliquer des garde-fous en temps r\u00e9el, notamment pour emp\u00eacher ou masquer la transmission de donn\u00e9es sensibles. La technologie ne remplace ni l\u2019analyse du DPO, ni l\u2019homologation de s\u00e9curit\u00e9, ni les exigences de qualification ou de souverainet\u00e9 applicables au p\u00e9rim\u00e8tre concern\u00e9. Elle permet de traduire les d\u00e9cisions prises par l\u2019administration en contr\u00f4les coh\u00e9rents dans les usages couverts, sans ajouter une politique distincte pour chaque site, chaque application ou chaque mode de travail. <\/p>\n\n\n\n Il n\u2019est pas n\u00e9cessaire d\u2019attendre une gouvernance parfaite pour commencer. Une premi\u00e8re d\u00e9marche peut s\u2019organiser autour de quatre questions: <\/p>\n\n\n\n Un atelier r\u00e9unissant DSI, RSSI, DPO et repr\u00e9sentants m\u00e9tiers peut d\u00e9j\u00e0 permettre de cartographier les principaux usages, de d\u00e9finir les premi\u00e8res cat\u00e9gories de donn\u00e9es et d\u2019identifier trois \u00e0 cinq r\u00e8gles prioritaires. Cette approche pragmatique cr\u00e9e un point de d\u00e9part commun entre innovation, s\u00e9curit\u00e9, conformit\u00e9 et r\u00e9alit\u00e9 op\u00e9rationnelle. Sortir de l\u2019IA clandestine ne signifie pas ralentir l\u2019innovation. Cela signifie lui donner un cadre cr\u00e9dible, compr\u00e9hensible et applicable. La question n\u2019est plus de savoir si les agents publics utiliseront l\u2019intelligence artificielle, mais si cette utilisation restera invisible et subie ou deviendra un levier ma\u00eetris\u00e9 au service des agents, des citoyens et de la continuit\u00e9 du service public.<\/strong> <\/p>\n","protected":false},"excerpt":{"rendered":" Les agents publics utilisent d\u00e9j\u00e0 l\u2019intelligence artificielle pour r\u00e9sumer des documents, pr\u00e9parer des r\u00e9ponses, retranscrire des r\u00e9unions ou acc\u00e9l\u00e9rer certaines t\u00e2ches administratives. Le v\u00e9ritable enjeu n\u2019est donc plus de d\u00e9cider s\u2019il faut autoriser l\u2019IA, mais de permettre ses usages utiles sans perdre le contr\u00f4le des donn\u00e9es des citoyens, des d\u00e9cisions et des responsabilit\u00e9s. Imaginez la…<\/p>\n","protected":false},"author":278,"featured_media":167897,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1502],"tags":[],"coauthors":[1300],"class_list":["post-167892","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-security"],"acf":[],"yoast_head":"\n
<\/p>\n\n\n\n
<\/p>\n\n\n\nPourquoi le Shadow AI se d\u00e9veloppe chez les agents publics <\/h2>\n\n\n\n
<\/p>\n\n\n\n\n
\n
\n
IA g\u00e9n\u00e9rative et secteur public: des risques particuliers pour les donn\u00e9es des citoyens <\/h2>\n\n\n\n
<\/p>\n\n\n\n
<\/p>\n\n\n\n
<\/p>\n\n\n\nClasser les outils, les usages et les donn\u00e9es plut\u00f4t que tout autoriser ou tout interdire<\/h2>\n\n\n\n
\n
\n
\n
<\/p>\n\n\n\n\n
\n
\n
\n
\n
\n
Comment s\u00e9curiser l\u2019IA g\u00e9n\u00e9rative dans le secteur public en cinq \u00e9tapes<\/h2>\n\n\n\n
<\/p>\n\n\n\n1. D\u00e9couvrir les usages r\u00e9els de l\u2019IA<\/strong> <\/h5>\n\n\n\n
<\/p>\n\n\n\n2. \u00c9valuer les services et prioriser les risques<\/strong> <\/h5>\n\n\n\n
<\/p>\n\n\n\n3. Prot\u00e9ger les donn\u00e9es au moment o\u00f9 elles circulent<\/strong> <\/h5>\n\n\n\n
<\/p>\n\n\n\n4. Journaliser de mani\u00e8re proportionn\u00e9e et produire des preuves<\/strong> <\/h5>\n\n\n\n
<\/p>\n\n\n\n5. Accompagner les agents plut\u00f4t que seulement sanctionner<\/strong> <\/h5>\n\n\n\n
Rendre la politique applicable gr\u00e2ce \u00e0 une architecture SASE converg\u00e9e<\/h2>\n\n\n\n
<\/p>\n\n\n\n
<\/p>\n\n\n\n
<\/p>\n\n\n\nUne feuille de route pour sortir de l\u2019IA clandestine<\/h2>\n\n\n\n
\n
\n
\n
\n
<\/p>\n\n\n\n
<\/p>\n\n\n\n
Vous souhaitez mieux comprendre les usages d\u2019IA au sein de votre organisation et identifier les donn\u00e9es potentiellement expos\u00e9es? \u00c9changez avec les \u00e9quipes Cato Networks pour d\u00e9finir les premi\u00e8res \u00e9tapes d\u2019une gouvernance applicable aux agents, aux sites et aux applications concern\u00e9s.<\/em> <\/p>\n\n\n\nSources officielles et ressources compl\u00e9mentaires<\/h3>\n\n\n\n
\n
\n
\n
\n
\n
\n
<\/li>\n\n\n\n