Vingt ans à bâtir une forteresse cyber, trente secondes pour la voir contournée par un simple copier-coller dans un outil d’IA générative. Dans le secteur de la banque-assurance, le Shadow AI bouscule tous les modèles périmétriques traditionnels. Comment reprendre le contrôle sans interdire ? Lisez la tribune libre d’Étienne Delouvrier, COO d’Avanoo.
Il y a vingt ans, un responsable de la sécurité des systèmes d’information (RSSI) de grande banque française recrutait ses premiers analystes pour son centre opérationnel de sécurité (SOC). Dix ans plus tard, il pilotait une équipe de cinquante personnes, déployait un outil de prévention des fuites de données (DLP) de nouvelle génération, segmentait son réseau de bout en bout, certifiait ses infrastructures ISO 27001 et alignait son SI sur les exigences du règlement européen DORA. Vingt ans de patience et de budgets arrachés de haute lutte en comité exécutif. Une véritable forteresse, le genre de réussite qu’on expose fièrement en photo dans le rapport annuel.
Aujourd’hui, dans cette même banque, une chargée de clientèle ouvre un onglet d’IA générative grand public pour reformuler un courrier difficile destiné à un client en cours de succession. Elle y colle l’extrait complet du dossier. Trente secondes. La forteresse numérique n’a absolument rien vu passer. Vingt ans d’un côté, trente secondes de l’autre : le ratio est mauvais, et il ne va pas s’améliorer tout seul.
Cette scène, je l’entends décrite presque mot pour mot dans chaque rendez-vous que je mène depuis deux ans avec des DSI et des RSSI du secteur financier. Le Shadow AI ne ressemble à aucune menace précédente. Il n’est pas fondamentalement malveillant, il n’exploite pas de vulnérabilité technique critique, il ne contourne pas un pare-feu : il passe tout simplement par la porte légitime que l’on a soi-même installée pour le confort des utilisateurs. C’est pour cela qu’il est si difficile à arrêter, et parfois un peu vexant à combattre.
La fin d’un modèle de sécurité périmétrique
Pendant vingt ans, la cybersécurité bancaire s’est construite sur un postulat simple : la donnée sensible vit à l’intérieur, le risque vient de l’extérieur, et entre les deux, on dresse des murs. L’IA générative casse cette hypothèse sans prévenir. Les flux sortants ne sont plus de simples fichiers attachés à des e-mails, ce sont des phrases et des morceaux de code tapés directement dans des champs de saisie, sur des centaines de services SaaS dont beaucoup n’existaient pas il y a six mois. Bien souvent, ces requêtes s’effectuent depuis un compte personnel ou même un téléphone connecté sur le Wi-Fi invité de l’entreprise.
Sur le terrain, force est de constater que si le Shadow AI est devenu inévitable, la visibilité des flux de données reste une priorité incontournable pour les gestionnaires de risques. J’ai vu des cartographies internes recensant plusieurs centaines d’outils d’IA générative actifs au sein d’un même groupe de taille moyenne. Plusieurs centaines. Onze étaient référencés officiellement par la DSI, un delta que même un tableau Excel bien habillé a du mal à digérer. La plupart de ces services sont gratuits et hébergés hors de l’Union européenne. Pourtant, ils sont tous capables, par un simple copier-coller, d’aspirer ce que les équipes de conformité ont mis des années à classifier comme confidentiel.
L’illusion du blocage binaire par proxy
La première réaction, légitime, est le blocage par catégorie sur le proxy : cocher la case IA générative, couper l’accès et envoyer une note de cadrage de la direction. Le problème, c’est que ce réflexe donne un sentiment de sécurité qui ne survit pas à l’examen. D’abord, une catégorie proxy est une liste tenue par un tiers, qui doit repérer un outil avant de le classer. Avec des dizaines de nouveaux services par trimestre, la liste court structurellement après la réalité du marché. Ensuite, l’IA s’est déjà installée dans les applications de productivité que l’on a soi-même autorisées depuis des années (Copilot dans Office 365, assistants intégrés, résumés automatiques). Le domaine étant approuvé, le proxy ne voit rien, et la donnée s’échappe de la même manière. Enfin, le proxy réagit en tout ou rien : il ne lit pas le contenu du prompt d’un outil qu’il a laissé passer.
Ce blocage strict produit d’ailleurs des effets pervers. Il pousse l’usage vers le smartphone personnel, hors de toute mesure technique. Il dégrade la relation entre la DSI et les métiers, qui contournent discrètement les règles plutôt que d’en faire une affaire d’État. Et il prive l’organisation d’un gisement de productivité que ses concurrents exploitent. On ne gagne pas une course en interdisant à ses athlètes de courir. La vraie réponse n’est pas binaire, elle est gouvernementale : voir ce qui se passe au niveau du poste de travail, comprendre les usages métier par métier, et sécuriser plutôt que d’interdire. De nombreuses initiatives tentent de structurer cette démarche, à l’image des ateliers visant à chasser l’IA sauvage de nos organisations publiques et privées.
Une dépendance technologique sous-estimée
C’est ici qu’un enjeu de souveraineté pointe en invité surprise. Les outils de cybersécurité censés encadrer et sécuriser l’usage de l’IA en entreprise (passerelles filtrantes, DLP de nouvelle génération, MCP gateways) sont, dans leur écrasante majorité, édités outre-Atlantique. Pour des banques et des assureurs soumis aux réglementations européennes DORA, NIS 2 ou au RGPD, se protéger des risques liés aux IA américaines en s’appuyant exclusivement sur d’autres outils propriétaires américains relève d’une ironie évidente, qui ne fait pourtant rire personne au comité des risques.
Face à ce constat, le recours à des solutions transparentes basées sur le logiciel libre et des architectures open source locales s’impose comme une alternative stratégique pour garder le contrôle de ses passerelles d’accès.
Le secteur financier européen a, par tradition, été précurseur en cybersécurité parce qu’il a compris avant les autres que la confiance était son actif principal. La même lucidité s’impose face au Shadow AI. La donnée client n’est pas moins sensible parce qu’elle transite par un prompt plutôt que par une pièce jointe traditionnelle. L’autonomie technologique en matière de gouvernance de l’IA deviendra, dans les cinq prochaines années, un critère réglementaire autant qu’un choix de souveraineté. Reste à savoir si nous, Européens, voulons subir cette transition ou l’écrire. Vingt ans de patience nous ont menés jusqu’ici, il serait dommage de perdre la partie sur les trente dernières secondes.
Par Étienne Delouvrier, COO chez Avanoo
Bloc Métadonnées de l’image :
-
Texte alternatif (alt) : Ombre allongée d’une personne marchant seule sur un trottoir en pavés de pierre éclairé par le soleil en contre-jour.
-
Titre : shadow-ai-cybersecurite-banque-ivanoo
-
Légende : Le Shadow AI se dissimule dans les angles morts des outils de contrôle traditionnels (Crédit photo : Vitaly Mazur / Unsplash).
-
Description pour WordPress : Photographie artistique d’une silhouette d’un piéton se projetant sur le sol, illustrant parfaitement la tribune d’Étienne Delouvrier sur les risques de l’IA fantôme (Shadow AI) dans le secteur de la banque et de l’assurance.
🦋 L’actualité de l’open source en français dans votre flux. Suivez Goodtech sur Bluesky (ou vos applications AT Protocol comme W Social et Mu) grâce à notre compte officiel. Suivez, partagez, abonnez-vous à @goodtech.info !
