Le comité de gouvernance
- Leçon 17
- 30 min
- Module 6 : Faire vivre la gouvernance
Où nous en sommes
Dans le module 5, nous avons transformé chaque ligne de politique en contrôle, en document et en preuve vérifiable par un auditeur. Mais les contrôles ne décident pas. Quelqu'un doit encore accepter ou refuser les nouvelles demandes, les exceptions et les risques, sans devenir une barrière toujours fermée. Dans cette leçon, nous créons un comité de gouvernance, comme une ville organise les permis de construction.
Leçon 17 sur 19 · Gouvernance de l'IA : politiques, risques et responsabilitéLe comité de gouvernance
1. À quoi sert la gouvernance
2. Les lois et les normes en termes simples
3. Inventaire, niveaux de risque et évaluation d'impact
4. Des politiques que l'on peut suivre
5. Contrôles, documentation et preuves
6. Faire vivre la gouvernance
Ce que vous saurez faire
Donnez à chaque décision sur l’IA un lieu clairement défini, avec un délai adapté à son risque. Gardez ensuite une trace qui indique qui a décidé, et pourquoi.
Avant de commencerCe qu’il faut savoir et avoir sous la main
Ce que vous devez savoir
- Les trois niveaux de risque et leurs contrôles, présentés dans Niveaux de risque et contrôles proportionnés.
- Ce qu’est un responsable désigné, présenté dans Qui est responsable.
- À quoi sert une fiche de décision, présenté dans La documentation.
Ce qu’il vous faut
- Le mandat du comité et son ordre du jour.
- Le registre du premier trimestre (aussi en CSV, pour un tableur) et le modèle de fiche de décision.
Une clôture et un immeuble d’appartements
Section intitulée « Une clôture et un immeuble d’appartements »Vous voulez construire une clôture autour de votre jardin. Vous remplissez un court formulaire à l’hôtel de ville. Un employé vérifie sa conformité aux règles, et vous recevez une réponse en quelques jours.
Votre voisin veut construire un immeuble d’appartements. Cette demande va au comité d’urbanisme. Le comité se réunit toutes les deux semaines, avec un ordre du jour fixe. Il lit les plans et écoute les gens du voisinage. Puis il décide : oui, non, ou oui avec des conditions, comme « garder les arbres du côté de la rue ». Le procès-verbal indique qui a décidé et pourquoi, pour que chacun puisse le vérifier plus tard.
Si chaque clôture passait par le comité, les immeubles attendraient, et les gens commenceraient à construire des clôtures sans permission.
Le problème : des décisions sans lieu défini
Section intitulée « Le problème : des décisions sans lieu défini »Avant la création du comité de Larkfield, personne n’avait la tâche de dire non. Dans la « dernière semaine » de MLOps et LLMOps : exploiter l’IA en production, tous les clients ont reçu la version 3 de la requête de triage, sans passer la barrière de mise en production. 10 billets de soutien qui nécessitaient une personne n’ont atteint personne. Les réponses sont consignées dans ce cours; la situation est construite.
La vérification existait. Le cours a ensuite appliqué la barrière de mise en production à la version 3. Elle a réussi 0 vérifications sur 6 (calculé à partir des résultats consignés et de la barrière du cours MLOps). Mais personne n’avait à examiner ce résultat avant la mise en production. Et aucune trace ne montrait qui avait donné son accord.
L’erreur inverse existe aussi. Si chaque petit changement attend des semaines devant un groupe débordé, les équipes apprennent à le contourner. Une barrière lente n’arrête pas le travail risqué; elle le cache.
L’idée : un comité de gouvernance
Section intitulée « L’idée : un comité de gouvernance »Un comité de gouvernance est un petit groupe de personnes désignées. Il décide ce que les voies rapides ne peuvent pas décider, à un rythme fixe, dans un délai défini. Il consigne chaque décision. C’est le comité d’urbanisme. La voie rapide, c’est l’employé au comptoir.
Un mandat d’une page explique le fonctionnement du comité. La première version de Larkfield se trouve dans les exercices pratiques (construite). Lisez-le comme huit réponses :
- But : décider ce que les voies rapides ne peuvent pas décider, maîtriser les risques et les exceptions, et tirer des leçons des incidents.
- Présidence : Nadia, la dirigeante qui soutient le projet. Membres : Farida (risque et conformité, et secrétaire), Grace, Mei, Kwame et le responsable des finances. Le responsable désigné de chaque système à l’ordre du jour participe pour ce point. Le comité consulte l’avocat externe et l’équipe de sécurité au besoin.
- Ce qu’il décide : lancements et changements de niveau élevé, exceptions aux politiques, fournisseurs pour les usages de niveaux moyen et élevé, changements après un incident.
- Ce qu’il ne décide pas : demandes de niveau faible (voie rapide : le responsable et la responsable des risques, sous 2 jours ouvrables). Changements de niveau moyen qui passent leurs vérifications (le responsable désigné, avec une fiche de décision).
- Rythme : toutes les deux semaines, pendant 45 minutes. Un incident grave déclenche une réunion supplémentaire sous 2 jours ouvrables.
- Délai : au plus 10 jours ouvrables pour une demande complète. Une demande incomplète est retournée sous 2 jours, avec la liste des éléments manquants.
- Traces : procès-verbaux, une fiche de décision par décision et un tableau de suivi chaque trimestre.
- Quorum : la présidente ou la responsable des risques, et au moins trois membres.
Un point peut facilement passer inaperçu. Le comité décide si un changement peut avoir lieu. Il ne prend pas la responsabilité du système. Grace reste responsable du flux de remboursement après l’accord du comité. Elle participe donc quand il figure à l’ordre du jour.
Description textuelle du diagramme
Les documents incomplets sont retournés sous 2 jours ouvrables, avec les éléments manquants. Une demande sans usage de l’IA retourne à son responsable sous un jour. Sinon, le niveau détermine la voie. Niveau faible : la voie rapide, où le responsable et la responsable des risques décident sous 2 jours ouvrables. Niveau moyen : le responsable désigné décide après les vérifications du niveau, avec une fiche de décision. Les fournisseurs et les exceptions vont au comité. Niveau élevé : le comité, à sa prochaine réunion, sous 10 jours ouvrables, avec une ligne au procès-verbal et une fiche de décision. Le comité reçoit les décisions de la voie rapide et des responsables pour information seulement.
Un petit exemple : trois demandes, trois voies
Section intitulée « Un petit exemple : trois demandes, trois voies »Farida suit le cheminement de trois demandes du premier trimestre du comité (un registre construit).
- R-07 : permettre à l’assistant documentaire de répondre au nouveau personnel du magasin partenaire. C’est un usage de l’IA, et l’assistant documentaire est de niveau faible. La demande prend donc la voie rapide. Farida et le responsable ont donné leur accord en 2 jours ouvrables. Le comité reçoit une ligne à ce sujet, pour information.
- R-08 : augmenter le budget mensuel du flux de travail. Le flux de travail est de niveau moyen, sans fournisseur ni exception. Le responsable décide donc après les vérifications, puis rédige une fiche de décision. Cela a pris 1 jour ouvrable.
- R-06 : passer la requête de triage à la version 3. Le service de triage est de niveau élevé, donc le comité décide. Cela a pris 7 jours ouvrables, et la décision a été rejected.
La troisième demande exige une fiche qu’une personne extérieure pourra comprendre dans un an. Farida a rédigé celle-ci (écrite pour cette leçon; le résultat de la barrière est calculé) :
| Champ | R-06 |
|---|---|
| Décision | Ne pas mettre en production la version 3 de la requête de triage. |
| Système et niveau | Service de triage des billets; élevé |
| Demandeur | Amira, la développeuse |
| Décision prise par | Le comité : Nadia (présidente), Farida, Grace, Mei, Kwame; Amira a participé pour ce point |
| Options envisagées | Déployer pour tous; déployer d’abord pour une petite part des billets; pas encore; non |
| Preuves utilisées | Barrière de mise en production de la version 3 : 0 vérifications réussies sur 6, avec un billet bloquant (T-65663) |
| Conditions | Aucune |
| Ce qui changerait cette décision | Une nouvelle version qui réussit les 6 vérifications |
| Réexamen | Quand une nouvelle version sera prête |
Et le procès-verbal n’a besoin que d’une ligne : R-06 · refusée · la barrière de mise en production a réussi 0 vérifications sur 6 · aucune condition · fiche de décision R-06. Le procès-verbal indique la décision. La fiche explique pourquoi, et ce qui la changerait.
Le déroulement de la réunion
Section intitulée « Le déroulement de la réunion »Une réunion du comité est courte parce que les documents font le travail. Une demande sans ses documents passe à la prochaine réunion.
Description textuelle du diagramme
Les documents sont envoyés deux jours ouvrables avant. Les 45 minutes comprennent cinq points : incidents et plaintes (10 minutes); décisions réservées au comité (20); décisions de la voie rapide et des responsables, pour information (5); tableau de suivi, risques et exceptions proches de leur échéance (5); veille réglementaire (5). Le procès-verbal contient une ligne par décision, avec son motif et ses conditions. Chaque décision reçoit une fiche de décision.
Le point 3 est « pour information » volontairement. Si le comité approuvait de nouveau les décisions de la voie rapide, celle-ci deviendrait une voie lente avec une étape supplémentaire.
Discussion : qui siège au comité?
Section intitulée « Discussion : qui siège au comité? »Farida montre le projet de mandat à l’équipe.
- Omar : « Chaque nouveau comité nous ralentit. Laissons chaque équipe décider pour ses propres systèmes. »
- Tomás : « La gouvernance, c’est le travail de l’équipe juridique. L’avocat devrait présider le comité. »
- Sam : « Pourquoi le responsable désigné vient seulement pour son point? Tous les responsables ne devraient-ils pas être membres? »
Avant de poursuivre, répondez à ces questions :
- Quel est le problème avec chacune des deux premières propositions?
- Pourquoi Nadia préside-t-elle, plutôt que Farida?
- Répondez à la question de Sam.
La réponse du cours. Omar a raison pour la plupart des demandes, et le cheminement permet déjà aux équipes de les décider. Le niveau faible prend la voie rapide; le niveau moyen passe par le responsable. Mais une équipe ne devrait pas être le seul contrôle de son propre changement de niveau élevé. La personne qui demande un changement ne peut pas en être le seul contrôle.
Le comité de Tomás poserait les mauvaises questions. La plupart des décisions de Larkfield concernent les clients, les données et l’argent. Le comité consulte donc l’avocat seulement lorsqu’il a besoin d’une réponse juridique. Nadia préside parce qu’elle soutient le travail et a l’autorité nécessaire pour équilibrer rapidité et risque. Farida est secrétaire : elle prépare les documents et les vérifie, donc elle ne peut pas aussi être l’arbitre final.
Sam : un comité réunissant tous les responsables serait trop grand pour décider en 45 minutes. Le responsable participe pour son point, car il connaît le système et en reste responsable ensuite.
Ce qui changerait la réponse : une entreprise avec cinq employés et un outil de niveau faible n’a pas besoin de comité. Le responsable et un réviseur suffisent. Un comité vaut son coût en présence de systèmes de niveau élevé, de fournisseurs ou d’exceptions.
Quand utiliser un comité, et ce qu’il coûte
Section intitulée « Quand utiliser un comité, et ce qu’il coûte »Six personnes pendant 45 minutes représentent quatre heures et demie de travail toutes les deux semaines, plus les documents. C’est peu coûteux si le comité décide seulement ce qui l’exige, et coûteux s’il consacre son temps aux clôtures. Inscrivez donc les voies rapides dans le mandat et fixez un délai.
Erreur courante
Le comité qui décide de tout
Symptôme : l’ordre du jour déborde de petites demandes, les décisions prennent des semaines, et le comité les approuve presque toutes sans changement.
Cause : la voie rapide existe sur papier, mais les gens envoient les demandes de niveau faible au comité « par prudence ».
Solution : faites de cette voie une règle : une demande de niveau faible prend la voie rapide. Le comité la reçoit seulement au point 3. Mesurez ensuite le délai de décision par niveau, pour vérifier au trimestre suivant si la règle fonctionne.
Exercice guidé : vérifier où chaque demande est passée
Section intitulée « Exercice guidé : vérifier où chaque demande est passée »-
Ouvrez le registre du premier trimestre dans un tableur.
-
Ajoutez une colonne « voie selon le mandat ».
-
Pour chaque demande, suivez le cheminement de décision et inscrivez la voie qu’elle aurait dû prendre.
-
Comparez votre colonne à la colonne « Path » (voie).
Vérification : cinq demandes ont pris une voie différente de celle prévue au mandat.
-
Écrivez les cinq identifiants et la raison pour chacun.
Vérification : quatre sont de niveau faible et sont passées au comité (R-01, R-03, R-09, R-11). Une n’est pas un usage de l’IA (R-05).
-
Examinez R-04. Elle est de niveau moyen, mais elle est passée au comité.
Vérification : c’est correct. Il s’agit d’un fournisseur pour un usage de niveau moyen, et le comité décide des fournisseurs.
À vous : préparer la prochaine réunion
Section intitulée « À vous : préparer la prochaine réunion »La prochaine réunion comprend deux demandes à réexaminer (R-12 et R-04 de nouveau), l’incident INC-07 et la plainte CMP-14. Elles se trouvent dans les exercices pratiques sous demandes à réexaminer. Rédigez l’ordre du jour : placez chaque point sous son numéro, listez les documents nécessaires et nommez les personnes qui doivent participer. Vous déciderez de ces points dans la prochaine leçon.
Afficher une réponse possible
- Point 1, incidents et plaintes : INC-07 et CMP-14. Documents : les fiches d’incident et de plainte, et l’échantillon hebdomadaire de Grace. Grace participe comme responsable désignée du flux de remboursement.
- Point 2, décisions : R-12 (niveau élevé après le changement). Documents : l’évaluation d’impact du module 3, la fiche du système et les preuves du cours sur les agents; Grace et Amira participent. R-04 (un fournisseur pour un usage de niveau moyen). Documents : les réponses de TicketHarbor (un fournisseur inventé pour ce cours) et le questionnaire fournisseur. Grace participe comme responsable désignée proposée. Le responsable des finances, qui gère le contrat, est membre.
- Points 3 à 5 : la liste des décisions de la voie rapide et des responsables; le tableau de suivi et les deux exceptions expirées; la veille réglementaire.
Vérification des connaissances
Section intitulée « Vérification des connaissances »Vérifiez votre compréhension
Omar dit : « Une fois R-12 approuvée, le comité est responsable du flux de remboursement, donc Grace ne l'est plus. » Quelle est l'erreur?
Afficher la réponse
Le comité décide si le changement peut avoir lieu, et à quelles conditions. Il ne prend pas la responsabilité du système. Grace reste la responsable désignée : elle répond des remboursements, applique les conditions qui lui sont confiées et peut arrêter le flux. C’est pourquoi elle participe au comité pour ce point.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Prédisez : Mei demande de donner la nouvelle liste de prix à l'assistant documentaire. Quelle voie prend la demande, dans quel délai, et que reçoit le comité?
Afficher la réponse
L’assistant documentaire est de niveau faible, et le nouveau contenu est un petit changement. La demande prend donc la voie rapide : le responsable et la responsable des risques décident sous 2 jours ouvrables. Le comité reçoit une ligne au point 3, pour information, pas pour approbation.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Le comité refuse une demande. Quels sont les deux champs de la fiche de décision les plus importants pour le demandeur, et pourquoi?
Afficher la réponse
Le motif, avec les preuves utilisées, et ce qui changerait la décision. Le motif montre que le comité a lu les preuves. Pour R-06, la barrière de mise en production a réussi 0 vérifications sur 6. « Ce qui changerait la décision » indique la prochaine étape : présenter une version qui réussit les 6 vérifications. Un refus sans ces deux champs ne fait que dire non.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Récapitulatif
- Un comité de gouvernance est un petit groupe désigné qui décide ce que les voies rapides ne peuvent pas décider, à un rythme fixe, dans un délai défini.
- Son mandat précise ses membres, ce qu’il décide ou non, son rythme, son délai, ses traces et son quorum.
- Le niveau faible prend la voie rapide; le responsable décide du niveau moyen; le niveau élevé, les fournisseurs et les exceptions vont au comité. Le responsable reste responsable après la décision du comité.
- Chaque décision reçoit une ligne au procès-verbal et une fiche de décision, avec ses preuves et ce qui la changerait.
Vous pouvez maintenant décider des changements que les gens prévoient. Mais certains événements ne sont pas prévus. Un résultat a déjà atteint un client, et le client n’est pas satisfait. Ensuite, vous gérez un incident d’IA et une plainte client.
Leçon suivante : Incidents, plaintes et recours