Une application générée par une IA peut fonctionner dès le premier essai et pourtant porter cinq risques qu'on ne voit pas en l'utilisant : une dépendance inventée par le modèle, un secret envoyé dans une consigne, un doute sur les droits du code, une faille d'autorisation et un auteur qui s'en va. Cette page s'adresse aux décideurs, aux responsables métier et aux développeurs débutants, sans prérequis technique. Elle suit un seul cas d'école, le « portail-achats », pour relier chaque risque à une cause précise et au contrôle qui l'arrête.
Ce que vous allez apprendre
Section intitulée « Ce que vous allez apprendre »- Décrire un incident concret à partir de cinq causes distinctes.
- Reconnaître une dépendance inventée et expliquer pourquoi elle est dangereuse.
- Expliquer ce que devient un secret ou une donnée collée dans un prompt.
- Dire pourquoi le statut juridique du code généré se vérifie au lieu de se supposer.
- Définir une faille d'autorisation par objet et le test qui la révèle.
- Associer chaque risque au contrôle qui l'arrête, sans croire qu'un outil seul suffit.
Pourquoi un seul cas montre-t-il cinq risques ?
Section intitulée « Pourquoi un seul cas montre-t-il cinq risques ? »Un incident vient rarement d'une seule faute : il vient de plusieurs petits oublis qui s'additionnent. Pour le voir, la formation utilise un cas inventé pour l'enseignement, le portail-achats. Ce n'est pas un récit vécu.
Une acheteuse veut consulter plus vite les commandes fournisseurs de l'entreprise. Elle décrit son besoin à un assistant de code, qui produit une application web en une après-midi. L'application se connecte à l'ERP, le logiciel de gestion qui contient les commandes, les fournisseurs et les factures. Il fait partie du système d'information, l'ensemble des outils informatiques de l'entreprise. Les collègues de l'équipe achats s'en servent dès la semaine suivante.
Personne n'a rien décidé de mal. Pourtant l'application cumule les cinq défauts que cette page décrit. Chacun a une cause simple, et chacun se vérifie par un geste précis. Lire les cinq dans l'ordre suffit pour apprendre à les chercher dans n'importe quelle autre application.
Qu'est-ce qu'une dépendance inventée par l'IA ?
Section intitulée « Qu'est-ce qu'une dépendance inventée par l'IA ? »Une dépendance inventée est un paquet que le modèle propose d'installer alors qu'il n'existe pas. Une dépendance est un morceau de code écrit par un tiers et publié dans un dépôt public, par exemple npm pour JavaScript ou PyPI pour Python. L'application le télécharge au lieu de le réécrire.
Dans le portail-achats, l'assistant ajoute à la liste des dépendances un paquet censé lire les fichiers de factures. Ce nom lui semble plausible, mais aucun paquet ne le porte. Le piège apparaît quand quelqu'un publie précisément ce nom avec du code malveillant : l'installation de l'application l'exécute alors sur la machine de l'acheteuse et sur le serveur. Cette attaque porte le nom de slopsquatting, formé sur le typosquatting, qui exploite les fautes de frappe.
Le phénomène est mesuré : l'étude de Spracklen et de ses coauteurs, présentée à USENIX Security en 2025, a relevé des noms de paquets inventés chez les 16 modèles testés, commerciaux comme ouverts (« We Have a Package for You! »). La page Vibe coding en donne les chiffres.
Le contrôle consiste à vérifier qu'un paquet existe et mérite confiance avant de l'installer, puis à figer ce que l'on installe. Le guide Sécuriser les dépendances npm, PyPI et Go explique le geste, et la page SBOM montre comment dresser la liste de tout ce que l'application contient.
Que devient un secret ou une donnée collée dans un prompt ?
Section intitulée « Que devient un secret ou une donnée collée dans un prompt ? »Ce qu'on colle dans un prompt quitte l'entreprise. Un prompt est le texte envoyé au modèle. Un secret est une information qui donne un accès : mot de passe, clé d'API, jeton. Pour obtenir de l'aide sur une erreur de connexion à l'ERP, l'acheteuse colle dans l'assistant le message d'erreur, et avec lui la clé d'accès qu'il affiche. Elle colle aussi un extrait de la liste des fournisseurs, pour que l'IA « comprenne le format ».
Deux problèmes se superposent. La clé est désormais chez un tiers, et l'assistant réutilise la clé collée dans le code qu'il génère : elle se retrouve écrite en dur dans l'application. Si le dépôt de code est partagé, tout le monde peut la lire, y compris dans l'historique après suppression : supprimer la ligne ne suffit donc pas, la clé exposée se révoque et se remplace. Par ailleurs, un extrait contenant des noms et des coordonnées de contacts fournisseurs est une donnée personnelle : l'envoyer à un service externe est un traitement au sens du RGPD, dont l'entreprise répond.
Les contrôles sont de deux ordres. Un contrôle technique cherche les secrets dans le code avant qu'ils partent, comme l'expliquent Secrets dans le code et l'historique Git et Secrets scanning. Un contrôle d'organisation fixe quelles données ont le droit d'être envoyées à quel outil, selon la sensibilité de l'application. Le premier sans le second laisse l'usage se déplacer, le second sans le premier ne se vérifie pas.
À qui appartient le code généré, et sous quelle licence ?
Section intitulée « À qui appartient le code généré, et sous quelle licence ? »Le statut du code produit par une IA ne se suppose pas, il se vérifie. Une licence est le texte par lequel l'auteur d'un code fixe les conditions pour le réutiliser. Certaines licences sont permissives, d'autres imposent de publier à leur tour, sous les mêmes conditions, tout ce qui les réutilise.
Deux questions se posent, et aucune ne se règle avec un outil. La première : le code généré peut-il reproduire un passage publié sous une licence dont l'entreprise n'accepte pas les conditions ? Un modèle entraîné sur du code public peut, rarement, resservir des passages de son jeu d'entraînement : la documentation de GitHub Copilot le reconnaît. La seconde : qui détient les droits sur ce qui a été produit ? La réponse dépend du droit applicable, qui varie selon les pays, et des conditions du fournisseur de l'outil.
Côté technique, on peut dresser la liste des dépendances de l'application avec leurs licences, et la comparer à ce que l'entreprise accepte. Côté droit, la question appartient à un juriste : cette formation ne donne pas d'avis juridique, et elle ne présente aucun contrôle comme une garantie de conformité.
Qu'est-ce qu'une faille d'autorisation par objet (IDOR) ?
Section intitulée « Qu'est-ce qu'une faille d'autorisation par objet (IDOR) ? »Une faille d'autorisation par objet laisse un utilisateur lire ou modifier ce qui appartient à un autre, simplement en changeant un identifiant. Le sigle IDOR vient de l'anglais Insecure Direct Object Reference, une référence directe non sécurisée à un objet. Il désigne un cas particulier de la catégorie « contrôle d'accès défaillant » du classement OWASP Top 10 2025.
Dans le portail-achats, un acheteur ouvre sa commande à l'adresse
/commandes/4812. S'il remplace 4812 par 4813 et voit la commande d'un
collègue, l'application vérifie bien qui il est, mais pas à qui appartient la
commande demandée. Authentifier, c'est établir l'identité. Autoriser, c'est
vérifier le droit d'accéder à cet objet précis. Un modèle peut générer la
première moitié et oublier la seconde, parce que le test naturel de l'auteur
consiste à se connecter avec son propre compte, et que tout s'affiche
correctement.
Le contrôle est un test simple : se connecter avec un second compte et demander l'objet du premier. Si l'application répond, la faille existe. Une passerelle d'API placée devant le système d'information complète ce contrôle : elle limite les opérations permises à chaque application. Elle ne remplace pas le contrôle par objet, car elle ne sait pas que la commande 4813 appartient à un autre acheteur. L'application doit donc vérifier elle-même le droit sur chaque objet, et le test avec un second compte reste obligatoire. La page Héberger et isoler les applications créées avec l'IA montre où se place cette passerelle.
Que se passe-t-il quand l'auteur quitte l'entreprise ?
Section intitulée « Que se passe-t-il quand l'auteur quitte l'entreprise ? »Une application que personne ne comprend et dont personne ne répond devient un risque, même si elle n'a jamais eu de faille. L'acheteuse change de poste. Le portail-achats continue de tourner, ses accès à l'ERP restent actifs, et la première question de sécurité sans réponse est : qui peut le corriger ?
Le code généré aggrave le problème, parce que l'auteur a décrit un besoin sans toujours savoir comment l'application le satisfait. Quand une dépendance publie une correction de sécurité, personne ne la reçoit. Quand l'ERP change de version, l'application s'arrête sans que quiconque sache la réparer.
Le contrôle est organisationnel avant d'être technique : un propriétaire métier et un propriétaire technique nommés, inscrits dans un document qui accompagne l'application, une date d'expiration de l'autorisation qui force une revue régulière, et une procédure de retrait qui coupe aussi les accès. Le billet Votre gain de temps ne doit pas devenir notre dette technique détaille ce que la DSI attend avant d'accepter la reprise d'une telle application.
Le code généré contient-il lui-même des failles ?
Section intitulée « Le code généré contient-il lui-même des failles ? »Oui : au-delà des cinq causes, le code que l'assistant écrit peut contenir des failles de sécurité, même quand l'application fonctionne. Une étude de l'éditeur Veracode, détaillée dans la page Vibe coding, a trouvé du code non sûr dans environ 45 % des tâches de programmation testées, sans consigne de sécurité donnée au modèle. Ce chiffre est un ordre de grandeur issu d'un éditeur, pas le taux de failles de votre application.
La parade est de contrôler le code comme celui d'un collègue : une analyse statique (SAST) avant la fusion, et un test de l'application en fonctionnement (DAST) quand elle est critique. C'est ce que la leçon Classer une application impose selon la classe.
Quel contrôle arrête quel risque ?
Section intitulée « Quel contrôle arrête quel risque ? »Chaque risque a un contrôle précis, et aucun outil n'arrête les cinq à lui seul. Le tableau rassemble ce qui précède. Il se lit ligne par ligne : la cause, l'incident qu'elle produit, puis le contrôle qui l'arrête.
| Risque | Ce qui arrive | Contrôle qui l'arrête |
|---|---|---|
| Dépendance inventée | Un paquet malveillant s'installe sous un nom plausible | Vérifier l'existence et la légitimité d'un paquet, figer les versions |
| Secret ou donnée dans un prompt | Une clé ou des données personnelles partent chez un tiers | Détection de secrets avant le dépôt, règle sur les données par classe d'application |
| Droits sur le code | Une licence incompatible entre dans l'application | Liste des licences des dépendances, avis d'un juriste |
| Faille d'autorisation par objet | Un utilisateur lit l'objet d'un autre | Test avec un second compte, contrôle du droit sur chaque objet dans l'application, passerelle d'API en complément |
| Départ de l'auteur | Application sans propriétaire, accès toujours actifs | Propriétaires nommés, expiration, retrait |
Deux de ces contrôles reviennent partout : décider de ce qu'une application a le droit de faire en fonction de ce qu'elle manipule, et faire signer cette décision par un humain habilité. La leçon Classer une application montre le premier, la leçon Gouvernance le second. Le référentiel SOCLE sur l'IA liste de son côté les exigences techniques correspondantes.
Ces risques valent-ils aussi pour une application qui embarque un modèle ?
Section intitulée « Ces risques valent-ils aussi pour une application qui embarque un modèle ? »Oui, et d'autres risques s'y ajoutent : cette formation ne traite que ceux du logiciel produit avec l'aide de l'IA. Une application peut être générée par une IA sans contenir de modèle, comme le portail-achats. Elle peut aussi appeler un modèle, par exemple pour résumer des commandes. Dans ce cas, des failles propres s'ajoutent, comme l'injection de prompt, qui consiste à glisser dans une donnée une instruction que le modèle prendra pour un ordre.
Ces failles propres aux modèles embarqués relèvent du guide Sécuriser une application LLM. La présente formation s'intéresse à ce que tout logiciel écrit avec l'aide de l'IA a en commun, qu'il embarque un modèle ou non.
Comment vérifier que vous avez compris ?
Section intitulée « Comment vérifier que vous avez compris ? »Prenez une application que vous connaissez et cherchez-y les cinq causes. L'exercice se fait sans outil. Pour chaque risque, notez ce que vous pouvez affirmer aujourd'hui : la liste de ses dépendances existe-t-elle, quelqu'un a-t-il déjà collé une clé dans un assistant, un second compte a-t-il été essayé, le propriétaire est-il nommé quelque part. Un « je ne sais pas » est un résultat valable : il désigne le contrôle à mettre en place en premier.
Si l'application est utilisée au-delà de son auteur, la page Shadow AI explique comment la distinguer d'une simple expérimentation.
À retenir
Section intitulée « À retenir »- Une application peut fonctionner et porter des risques invisibles à l'usage.
- Une dépendance inventée devient un paquet malveillant si un attaquant publie le nom.
- Ce qui est collé dans un prompt quitte l'entreprise, secrets et données personnelles compris.
- Le statut juridique du code généré se vérifie avec un juriste, aucun outil ne le garantit.
- Une faille d'autorisation par objet se révèle avec un second compte.
- Une application sans propriétaire nommé reste en service sans que personne ne la corrige.
- Le code généré peut aussi contenir des failles : il se contrôle comme celui d'un collègue, par analyse statique avant la fusion.
- Chaque risque a un contrôle propre, aucun outil seul ne les arrête tous.
- Les failles propres aux modèles embarqués s'ajoutent, elles ne remplacent pas ces cinq risques.
Contrôle de connaissances
Section intitulée « Contrôle de connaissances »Ces huit questions portent sur les cinq causes d'incident et sur le contrôle qui arrête chacune.
Contrôle de connaissances
Validez vos connaissances avec ce quiz interactif
Informations
- Le chronomètre démarre au clic sur Démarrer
- Questions à choix multiples, vrai/faux et réponses courtes
- Vous pouvez naviguer entre les questions
- Les résultats détaillés sont affichés à la fin
Lance le quiz et démarre le chronomètre
Vérification
(0/0)Score par domaine
Un domaine regroupe plusieurs guides et reçoit plusieurs questions : son score est plus fiable qu'un score par thème, qui porte souvent sur une seule question.
Bilan
Points forts
Aucun sujet réussi à 80 % sur au moins deux questions pour l’instant.
Points faibles
Aucun sujet sous le seuil de réussite.
À faire ensuite
Des indices pour retenter votre chance ?
Continuer le cours : L'architecture d'accueil
Nouveau quiz complet avec des questions aléatoires
Retravailler uniquement les questions ratées
Retour à la liste des certifications