Aller au contenu
English
Compte : non connecté, synchronisation possible Mon apprentissage
Selectionner le thème
English

Sécuriser et gouverner les applications générées par IA

  • 10 min

Par mis à jour le

Améliorer cette page

Cette formation apprend à encadrer les applications créées avec l'IA, celles qu'un salarié produit en décrivant ce qu'il veut à un assistant de code, sans toujours relire le résultat. Elle s'adresse aux décideurs (RSSI, DSI, direction), aux personnes qui créent ces applications et aux ingénieurs qui devront les héberger. Le module 1 ne demande aucun prérequis technique : il explique ce que recouvre le vibe coding, pourquoi ces applications posent un problème à l'entreprise, comment les classer et qui doit décider de leur mise en service. Les modules suivants demandent un terminal, Python, pytest et pip, ou les enseignent d'abord.

Trois publics se croisent autour d'une même application, et chacun en voit une partie différente. Le décideur doit savoir quelles applications existent, lesquelles touchent des données sensibles, et qui accepte le risque qu'elles portent. La personne qui crée l'application avec l'IA veut avancer vite, mais sans exposer des données ni laisser une faille que personne ne verra. L'ingénieur plateforme doit pouvoir accueillir ces applications quelque part, avec des contrôles qui ne dépendent pas de la bonne volonté de chacun.

Le module « Comprendre les applications générées par l'IA en entreprise » est commun aux trois, et il ne demande aucune connaissance technique. Il donne le même vocabulaire à tous : une décision de gouvernance n'a de sens que si celui qui la prend et celui qui l'applique parlent de la même chose.

La formation compte six modules, dans cet ordre. Les durées sont la somme des leçons annoncées dans le plan de cours.

  • « Présentation » : cette page, 10 min.
  • « Parcours » : le programme et le suivi de progression, 5 min.
  • « Comprendre les applications générées par l'IA en entreprise » : sept leçons, 1 h 55.
  • « Bases techniques » : onze leçons, 4 h 30.
  • « Vibe coder avec méthode » : deux leçons, 40 min.
  • « Cadrer et déclarer une application » : deux leçons, 45 min.

Le module « Comprendre les applications générées par l'IA en entreprise » suit l'ordre dans lequel une entreprise découvre le sujet. Il part de la définition, passe par ce qui existe déjà sans avoir été déclaré, puis arrive aux décisions à prendre.

  1. La leçon sur le vibe coding donne les deux sens du mot, les grandes familles d'assistants de code, et la frontière entre développement assisté et code accepté sans relecture.
  2. La leçon sur le shadow AI montre comment découvrir les usages de l'IA que personne n'a déclarés, puis choisir entre interdire, encadrer ou accueillir.
  3. La leçon sur les risques part d'un incident sur une application fictive, le portail-achats, et remonte à ses cinq causes, de la dépendance inventée par le modèle au départ de l'auteur.
  4. La leçon sur l'architecture d'accueil décrit les zones et les frontières de confiance d'une plateforme qui héberge ces applications sans exposer le reste du système d'information.
  5. La leçon sur le classement applique la grille C1 à C4 : elle part des données, des flux, des utilisateurs et de la criticité, et en déduit les contrôles exigés.
  6. La leçon sur le cadre légal dit ce que le RGPD, l'AI Act, NIS2, DORA et le CRA demandent, et à qui.
  7. La leçon sur la gouvernance répartit les décisions, fixe les preuves à exiger, et explique comment éviter qu'une règle trop lourde pousse les usages hors de vue.

Chaque leçon de ce module se termine par un quiz de huit questions. Le même cas, le portail-achats créé par une acheteuse pour lire les commandes d'un ERP, sert de fil rouge d'une leçon à l'autre.

Le module « Bases techniques » réunit le terminal, Git et Python dont la suite a besoin : naviguer dans un dossier, enregistrer et relire un changement avec Git, écrire un petit programme, isoler ses dépendances et lancer des tests. Il est facultatif pour qui sait déjà faire tout cela, et pour un lecteur qui ne code pas. Sa première leçon, qui installe WSL2 pour obtenir un Linux local, ne concerne que les personnes qui travaillent sous Windows.

Le module « Vibe coder avec méthode » apprend à produire du code avec l'IA en gardant la main : une spécification vérifiable avant de générer, des tests écrits d'abord, un diff relu qui refuse qu'on affaiblisse un test, et des dépendances vérifiées avant toute installation. Il demande un terminal, Python, pytest et pip, que le module « Bases techniques » enseigne. Ses labs sont recommandés : ils sont la preuve du geste.

Le module « Cadrer et déclarer une application » couvre ce qui se passe une fois l'application écrite. Vous y déclarez l'application dans une fiche applicative validée par un schéma, puis vous voyez pourquoi la décision de mise en service est signée hors du dépôt : l'application ne peut pas s'autoriser elle-même. La seconde leçon, partagée avec la formation Claude Code, montre ce qu'une organisation impose aux postes des développeurs et aux dépôts où travaille un agent de code.

Le plan de cours, dans la colonne de gauche, donne l'ordre des modules et des leçons, et la page « Mon parcours » garde votre progression dans ce navigateur, sans compte à créer. Les leçons se lisent dans l'ordre : chacune s'appuie sur le vocabulaire de la précédente, et la grille de classement sert ensuite à la leçon sur la gouvernance.

Si vous découvrez le sujet, commencez par la leçon sur le vibe coding, même si le mot vous semble connu : la formation distingue deux sens du mot, que les articles mélangent souvent. Si vous êtes ingénieur et que vous connaissez déjà les risques du code généré, la leçon sur l'architecture d'accueil et celle sur le classement sont celles qui vous concernent le plus directement.

La formation porte sur les applications créées avec l'aide de l'IA, qu'elles embarquent ou non un modèle. Elle ne traite pas de la sécurité d'un modèle de langage intégré à une application (injection de prompt, fuite par le modèle) : ce sujet a son propre guide, sécuriser une application qui utilise un LLM. Elle ne remplace pas non plus un avis juridique : la leçon sur le cadre légal dit quels textes peuvent s'appliquer et quelles questions se poser, mais la réponse pour votre cas revient à votre service juridique.

  • Une application créée avec l'IA devient un sujet d'entreprise dès qu'elle lit des données réelles ou que d'autres personnes s'en servent.
  • Le module 1 ne demande aucun prérequis technique et sert de base commune aux décideurs, aux créateurs d'applications et aux ingénieurs. Les modules suivants demandent un terminal, Python, pytest et pip.
  • Le module « Bases techniques » est facultatif pour qui sait déjà, et sa première leçon (WSL2) ne concerne que Windows.
  • La grille C1 à C4 relie la nature d'une application aux contrôles qu'on exige d'elle.
  • La décision de mise en service revient à un humain habilité, jamais au demandeur lui-même.