La documentation
- Leçon 15
- 30 min
- Module 5 : Contrôles, documentation et preuves
Où nous en sommes
Dans la dernière leçon, nous avons associé chaque énoncé de politique à un contrôle et à une preuve. Beaucoup de ces preuves sont des documents : une fiche décrivant un système, une décision, une liste de modifications. Un document que personne ne met à jour devient vite inexact. Dans cette leçon, nous voyons quels documents un système d'IA exige et comment les garder à jour, comme un carnet d'entretien automobile.
Leçon 15 sur 19 · Gouvernance de l'IA : politiques, risques et responsabilitéLa documentation
1. À quoi sert la gouvernance
2. Les lois et les normes en termes simples
3. Inventaire, niveaux de risque et évaluation d'impact
4. Des politiques que l'on peut suivre
5. Contrôles, documentation et preuves
6. Faire vivre la gouvernance
Ce que vous saurez faire
Conservez les quelques documents nécessaires à un système d’IA. Chacun pourra voir ce qu’il est, pourquoi il est autorisé et ce qui a changé. Gardez-les exacts en les rédigeant pendant le travail, pas après.
Avant de commencerCe qu’il faut savoir et avoir sous la main
Ce que vous devez savoir
- La carte des contrôles, présentée dans De la politique au contrôle.
- Les documents requis pour chaque niveau de risque, présentés dans Niveaux de risque et contrôles proportionnés.
- Le questionnaire fournisseur et les deux réponses des fournisseurs, présentés dans Vérifier les fournisseurs et les modèles.
Ce qu’il vous faut
- Le modèle de fiche système et le modèle de compte rendu de décision.
- Les fiches système S1 et S3, et l’extrait du registre.
Le carnet d’entretien d’une voiture
Section intitulée « Le carnet d’entretien d’une voiture »Une voiture d’occasion vient avec quelques papiers. Le certificat d’immatriculation décrit la voiture : le modèle, le moteur, le propriétaire. Le carnet d’entretien porte un tampon pour chaque entretien, avec la date, le garage et les travaux effectués. Une lettre du constructeur peut dire : « Apportez la voiture : nous devons remplacer une pièce. »
L’acheteur lit d’abord le carnet d’entretien. Si le dernier tampon date de trois ans, le carnet ne dit rien sur la voiture aujourd’hui. Un bon carnet d’entretien reste à jour pour une raison simple. Le garage y appose son tampon pendant l’entretien, dans le cadre du travail. Personne ne rédige l’historique plus tard de mémoire.
Le problème : une fiche inexacte
Section intitulée « Le problème : une fiche inexacte »Farida lit la fiche de l’assistant documentaire, S3, à côté de son entrée dans le registre de la plateforme. Les deux sont construits pour ce cours. Ils ne concordent pas.
| Champ | La fiche indique | Le registre indique |
|---|---|---|
| Données utilisées | internes, réservées au personnel et documents du magasin partenaire | internes, réservées au personnel |
| Dernière révision | au lancement | en retard de 2 mois |
Durant le premier trimestre du comité, Larkfield a approuvé trois modifications de l’assistant documentaire : deux au comité et une par la voie rapide (construites). Il a reçu deux nouveaux manuels de produits et la nouvelle politique de retour. Il répond maintenant au nouveau personnel du magasin partenaire. Ni la fiche ni le registre ne montrent ces modifications.
Rien n’a encore mal tourné. Mais le prochain responsable, ou un auditeur, lirait une fiche inexacte sur les données et les modifications. Si un document du magasin partenaire était divulgué, personne ne pourrait dire quand ces données ont été ajoutées ni qui l’a décidé.
L’idée : quatre documents, chacun avec un rôle
Section intitulée « L’idée : quatre documents, chacun avec un rôle »Un système d’IA a besoin de peu de documents. Chacun répond à une question pour un groupe de lecteurs.
- Une fiche système décrit le système actuel : objectif, responsables, niveau de risque, données, modèle, actions autonomes permises, dernière évaluation et limites. Le personnel, le comité, un auditeur et le prochain responsable la lisent.
- Les renseignements du fournisseur sur le modèle précisent le modèle utilisé, ses faiblesses et comment le fournisseur prévient des changements. Certains fournisseurs appellent ce document une fiche de modèle. Le responsable du système et le responsable des risques le lisent.
- Un compte rendu de décision explique pourquoi le système peut faire ce qu’il fait : décideurs, options envisagées, preuves et conditions. Il indique aussi ce qui changerait la décision. Le comité et un auditeur le lisent.
- Un journal des modifications contient une ligne par modification : date, changement, personne ayant approuvé et lien vers les preuves. Les personnes qui examinent un incident le lisent d’abord.
Description textuelle du diagramme
Le schéma montre quatre documents côte à côte. La fiche système répond à la question « Qu’est-ce que le système aujourd’hui? ». Le personnel, le comité, un auditeur et le prochain responsable la lisent. Elle est mise à jour à chaque modification. Les renseignements du fournisseur sur le modèle répondent à la question « Quel modèle est utilisé et quelles sont ses faiblesses? ». Le responsable et le responsable des risques les lisent. Ils sont demandés lors de la vérification du fournisseur, puis quand le fournisseur change le modèle. Le compte rendu de décision répond à la question « Pourquoi le système peut-il faire cela? ». Le comité et un auditeur le lisent. Il est rédigé au moment de la décision. Le journal des modifications répond à la question « Qu’est-ce qui a changé, quand et qui l’a approuvé? ». Les personnes qui examinent les incidents et un auditeur le lisent. Il reçoit une ligne par modification.
Combien de ces documents faut-il pour un système? Le niveau de risque le détermine. Un système de niveau faible exige une entrée dans l’inventaire et un responsable nommé, mais aucune fiche. Les systèmes de niveau moyen ou élevé exigent une fiche système à jour et un journal des modifications. Ils exigent aussi le résultat d’évaluation de chaque mise en production dans un compte rendu de décision. L’assistant documentaire, de niveau faible, pourrait donc se contenter de son entrée dans l’inventaire. Larkfield a choisi de garder sa fiche. Si elle en garde une, celle-ci doit être exacte.
Un petit exemple : la fiche de l’assistant documentaire, champ par champ
Section intitulée « Un petit exemple : la fiche de l’assistant documentaire, champ par champ »Voici la fiche S3 réécrite avec le modèle. Chaque valeur indique sa source, pour savoir où chercher lors de la prochaine mise à jour.
| Champ | Valeur | Source |
|---|---|---|
| Objectif | répondre aux questions du personnel à partir de documents, avec des citations | l’ancienne fiche |
| Usages exclus | réponses envoyées aux clients sans que personne les ait lues; conseils juridiques (construits) | Mei, la responsable |
| Responsables | Mei (responsable finale); équipe de données de Mei (responsabilité technique) | l’ancienne fiche et le registre |
| Niveau de risque | faible (5), établi avec la méthode du cours; le registre indique aussi faible | le tableau des niveaux de risque |
| Données | internes, réservées au personnel, documents du magasin partenaire | l’ancienne fiche; le registre doit être corrigé |
| Actions autonomes permises | répondre à une personne, qui décide | le registre |
| Évaluation | 41 questions réservées au test, 87.8 % de bonnes réponses; 430 tentatives de lecture des documents de l’autre magasin, 0 fuites | consignée dans Projet intégrateur : créer, évaluer et livrer un produit d’IA |
| Liens | comptes rendus de décision des trois modifications; journal des modifications | le journal du comité |
| Prochaine révision | en retard : fixer une date ce mois-ci | la date de révision du registre |
La rédaction de la fiche a révélé trois constats : les catégories de données du registre sont incomplètes, la révision est en retard et les modifications n’ont aucune trace. Voici le journal des modifications qui aurait dû exister (construit à partir du journal du comité) :
| Demande | Modification | Voie | Approbation |
|---|---|---|---|
| R-03 | deux nouveaux manuels de produits | comité, 21 jours ouvrables | le comité |
| R-07 | réponses au nouveau personnel du magasin partenaire | voie rapide, 2 jours ouvrables | Mei et Farida |
| R-09 | la nouvelle politique de retour | comité, 17 jours ouvrables | le comité |
Et le compte rendu de décision pour R-07 tient sur une demi-page. Décision : l’assistant documentaire peut répondre au nouveau personnel du magasin partenaire. Décideuses : Mei et Farida, par la voie rapide. Preuves : les 430 essais consignés avec 0 fuites. Condition : chaque magasin voit seulement ses propres documents; Mei le vérifie après chaque modification. Ce qui changerait la décision : une fuite lors d’un test ou une plainte du magasin partenaire.
Les renseignements des fournisseurs sur les modèles
Section intitulée « Les renseignements des fournisseurs sur les modèles »Pour une fonctionnalité d’IA achetée, le fournisseur détient les renseignements sur le modèle. Larkfield ne peut pas les rédiger. Elle peut seulement les demander. La question 8 du questionnaire fournisseur demande quel modèle est utilisé, ses faiblesses et si le fournisseur prévient avant un changement. Voici les deux réponses reçues par Larkfield (construites; les fournisseurs sont inventés pour ce cours) :
- TicketHarbor : « Nous utilisons des modèles d’IA de premier plan. » Cette réponse ne nomme rien et ne promet rien.
- MinuteMoss : « Un grand modèle de langage rédige les notes; elles peuvent contenir des erreurs. » Cette réponse donne une limite, mais aucun nom de modèle ni préavis de changement.
Les fiches système de S6 et S7 ne peuvent donc pas encore remplir le champ « modèle ». Inscrivez cette lacune sur la fiche, avec la date de la question, plutôt que de laisser le champ vide.
Le règlement européen sur l’IA impose des obligations propres aux fournisseurs de modèles d’IA à usage général (Règlement (UE) 2024/1689, article 53, source officielle, vérifiée le 22 octobre 2026). Ce qu’un fournisseur doit remettre à une entreprise comme Larkfield, et dans quel cas, est une question pour le juriste. Pour la gouvernance, la règle est plus simple : demander et consigner la réponse ou son absence.
Les garder à jour sans travail supplémentaire
Section intitulée « Les garder à jour sans travail supplémentaire »La documentation échoue quand elle devient un travail distinct. Larkfield applique quatre habitudes pour rédiger chaque document à un moment qui existe déjà dans le travail.
Description textuelle du diagramme
Le schéma montre une demande de modification, par exemple R-07, menant à une décision par la voie rapide ou au comité. La décision produit un compte rendu de décision. La modification ajoute ensuite une ligne au journal des modifications. Elle met aussi à jour la fiche système et l’entrée du registre. Le registre fournit à la fiche le responsable, le niveau de risque et la date de révision. Personne ne les saisit donc deux fois. La modification est terminée seulement quand tous ces documents concordent. Un encadré gris pointillé indique : « pas de journée de documentation distincte ».
- Rédigez le compte rendu de décision pendant la réunion. La personne qui décide le rédige ou l’approuve avant la fin de la réunion.
- Mettez à jour dans la même modification. Une modification du système comprend sa ligne dans le journal des modifications et les champs de la fiche. La modification n’est pas terminée tant que la fiche ne la reflète pas.
- Ne saisissez pas deux fois. Le registre contient déjà le responsable, le niveau de risque, les outils et la date de révision. La fiche y renvoie. Ajoutez un lien vers le compte rendu d’évaluation; ne copiez pas ses chiffres à trois endroits.
- Laissez la date de révision vous avertir. Le registre montrait que l’assistant documentaire avait deux mois de retard. Une liste de toutes les dates de révision rend visibles les fiches en retard.
Quel est le coût? La première fiche demande du travail, car elle révèle les lacunes. Ensuite, chaque modification ajoute quelques lignes. Une journée de documentation coûte plus cher et produit des documents exacts pour une seule journée.
Discussion : « Les documents du fournisseur couvrent les outils achetés »
Section intitulée « Discussion : « Les documents du fournisseur couvrent les outils achetés » »Farida demande une fiche pour chaque système de niveau moyen ou élevé.
- Omar : « Les fiches nous ralentissent. Le registre sait déjà tout. »
- Tomás : « Pour les outils achetés, les documents du fournisseur suffisent. C’est lui qui les a créés. »
- Mei : « Le registre ne connaissait pas les documents du magasin partenaire. La fiche, oui. »
- Sam : « Qui met la fiche à jour quand quelque chose change? »
Avant de poursuivre, répondez à ces questions :
- Que sait le registre et que ne sait-il pas?
- Les documents du fournisseur peuvent-ils remplacer la fiche de Larkfield pour l’outil de suggestion de réponses?
- Qui devrait mettre une fiche à jour?
La réponse du cours. Le registre sait ce qu’on lui indique : responsable, niveau de risque, outils, budget et date de révision. Il ne connaît pas les limites d’usage, les personnes touchées ni les raisons des décisions. La fiche utilise donc le registre pour ses champs et ajoute le reste. Les documents du fournisseur décrivent son produit. Ils ne peuvent pas dire qui est responsable de la fonctionnalité chez Larkfield ni quelles données Larkfield envoie. Ils ne peuvent pas non plus dire ce que le personnel peut en faire. La fiche de Larkfield peut contenir des liens vers ces documents. Aujourd’hui, la réponse de TicketHarbor ne nomme aucun modèle. Le responsable final met la fiche à jour dans le cadre de chaque modification qu’il approuve.
Ce qui changerait la réponse : supposons que le registre contienne tous les champs de la fiche, avec une date de révision. La fiche pourrait alors être une page imprimée par le registre, sans rédaction manuelle.
Erreur courante
Une fiche exacte pour une seule journée
Symptôme : chaque système a une fiche bien rédigée, et toutes les fiches portent la même date. Elles ne montrent pas les modifications survenues depuis.
Cause : les fiches ont été rédigées pour un audit ou un lancement, comme un travail distinct. Aucune étape d’une modification ne les met à jour.
Correction : ajoutez « fiche et journal des modifications à jour » aux étapes de chaque modification. Vérifiez ce point lors de l’approbation. Comparez chaque fiche au registre une fois par trimestre et traitez chaque différence comme un constat.
Exercice guidé : la fiche du service de triage
Section intitulée « Exercice guidé : la fiche du service de triage »S1, le service de triage des billets de soutien, est de niveau élevé. Il exige donc une fiche, un journal des modifications et un compte rendu de décision pour chaque mise en production.
-
Ouvrez le modèle de fiche système et la fiche S1.
-
Remplissez l’objectif, les responsables et les données à partir de la fiche S1 : Grace est responsable finale et Amira, responsable technique.
-
Remplissez le niveau de risque : élevé (10) avec la méthode du cours. Ajoutez : « le registre indique low : à corriger ».
-
Remplissez les « actions autonomes permises » : le système achemine chaque billet seul; les agents lisent et envoient les brouillons.
-
Remplissez l’évaluation : version 2 de la requête (prompt) sur 98 billets réservés au test, dont 94 avec les deux décisions correctes. Ce résultat est consigné dans Évaluer et tester les systèmes d’IA.
-
Remplissez les défaillances connues : durant la « dernière semaine », 10 billets nécessitant une personne n’ont atteint personne. Ce résultat est consigné dans MLOps et LLMOps : exploiter l’IA en production; la situation est construite.
-
Rédigez une ligne du journal des modifications pour cette mise en production : version 3 pour tous les clients, barrière de mise en production franchie à 0 sur 6, approbation : personne consignée.
Vérification : la ligne du journal des modifications révèle déjà un constat. Une mise en production sans approbateur, avec une barrière non franchie, a atteint tous les clients.
À vous : compléter la fiche et un compte rendu de décision
Section intitulée « À vous : compléter la fiche et un compte rendu de décision »Terminez la fiche S1 : « usages exclus », surveillance et conditions de suspension, évaluation d’impact et prochaine révision. Rédigez ensuite un compte rendu pour une décision fournisseur prise au module 4, concernant TicketHarbor ou MinuteMoss.
Vérifiez votre travail
- Prochaine révision : un système de niveau élevé est révisé tous les 3 mois. La dernière révision de la fiche était une révision après incident au mois 2.
- Évaluation d’impact : nécessaire, signée par le responsable final et révisée par le comité. S1 est de niveau élevé et touche chaque client qui écrit.
- Usages exclus : par exemple, envoyer des réponses sans agent ou décider des remboursements.
- Compte rendu de décision : il nomme les décideurs et les options, y compris « laisser désactivé ». Il contient des liens vers les réponses des fournisseurs utilisées comme preuves et attribue un responsable à chaque condition. Il indique ce qui changerait la décision, par exemple si le fournisseur nommait son fournisseur de modèle.
Vérification des connaissances
Section intitulée « Vérification des connaissances »Vérifiez votre compréhension
L'assistant documentaire est de niveau faible. A-t-il besoin d'une fiche système? Si Larkfield en garde une, quelle condition doit-elle respecter?
Afficher la réponse
Non : un système de niveau faible a besoin d’une ligne d’inventaire avec un responsable nommé, mais pas d’une fiche. Une fiche est requise à partir du niveau moyen. Si Larkfield garde une fiche pour un système de niveau faible, son contenu doit être exact. Une fiche erronée est pire qu’aucune fiche, car les gens s’y fient pour agir. Aujourd’hui, la fiche S3 décrit correctement les documents de la boutique partenaire, mais sa date de révision et ses changements manquent.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Associez chaque question au document qui y répond : (a) Pourquoi le flux de travail peut-il proposer des remboursements? (b) Quand la requête de triage a-t-elle changé, et qui l'a approuvée? (c) Quel modèle l'outil de notes de réunion utilise-t-il?
Afficher la réponse
(a) Le registre de décision : qui a décidé, les options, les preuves et les conditions. (b) Le journal des changements : une ligne par changement, avec la date et la personne qui l’a approuvé. (c) Les renseignements sur le modèle fournis par le fournisseur. La réponse de MinuteMoss ne nomme pas encore le modèle, donc la fiche indique cette lacune.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Omar propose une « semaine de documentation » avant chaque audit. Pourquoi cette approche échoue-t-elle, et que devrait faire Larkfield à la place?
Afficher la réponse
Les documents rédigés en une semaine sont exacts pour cette semaine. Ils sont rédigés pour l’audit, et non au fil du travail. Les changements suivants n’y figurent pas. Mettez plutôt à jour la fiche et le journal des changements dans le cadre du même changement. Rédigez le registre de décision au moment de la décision. Reprenez du registre les champs comme le responsable, le niveau et la date de révision.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Récapitulatif
- Une fiche système décrit l’état actuel d’un système; les renseignements sur le modèle du fournisseur décrivent ce qu’il contient. Un registre de décision explique pourquoi il est autorisé; un journal des changements indique ce qui a changé et qui l’a approuvé.
- Le niveau détermine combien de documents un système exige. Le niveau faible exige une ligne d’inventaire; les niveaux moyen et élevé exigent une fiche, un journal des changements et des registres de décision.
- Gardez-les à jour au fil du travail : le registre de décision pendant la réunion, la fiche et le journal lors du même changement. Liez les champs du registre au lieu de les saisir deux fois.
- Une fiche qui contredit le registre est un constat d’audit, pas une erreur de saisie.
Vous pouvez maintenant tenir à jour les documents qui décrivent chaque système. Mais un auditeur n’accepte pas une description : il demande la preuve que le contrôle a fonctionné, pour une période qu’il choisit. Ensuite, vous répondrez aux demandes d’un auditeur à partir du dossier de preuves. Vous déterminerez quelles preuves sont anciennes, manquantes ou insuffisantes.
Leçon suivante : Preuves et audits