Découvrir le portefeuille d'IA de Larkfield
- Leçon 3
- 30 min
- Module 1 : À quoi sert la gouvernance
Où nous en sommes
Dans la dernière leçon, nous avons donné à l'assistant documentaire un seul responsable et un tableau des responsabilités. Ce système était simple. Larkfield en a sept autres, et certaines de leurs fiches sont incorrectes ou vides. Dans cette leçon, nous ouvrons le dossier du portefeuille et la politique d'IA d'une page. Nous trouvons les systèmes sans responsable, comme un nouveau locataire devant un trousseau de clés sans étiquettes.
Leçon 3 sur 19 · Gouvernance de l'IA : politiques, risques et responsabilitéDécouvrir le portefeuille d'IA de Larkfield
1. À quoi sert la gouvernance
2. Les lois et les normes en termes simples
3. Inventaire, niveaux de risque et évaluation d'impact
4. Des politiques que l'on peut suivre
5. Contrôles, documentation et preuves
6. Faire vivre la gouvernance
Ce que vous saurez faire
Ouvrez les fichiers d’exercice du cours et vérifiez que vous les avez tous. Lisez le portefeuille d’IA de Larkfield et sa politique d’une page. Trouvez le responsable de chaque système et les systèmes sans responsable. Cette étape vérifie que tout est prêt pour le cours.
Avant de commencerCe qu’il faut savoir et avoir sous la main
Ce que vous devez savoir
- Le responsable et les trois règles qui rendent sa responsabilité réelle, dans Qui est responsable.
- Le tableau des responsabilités et ses cinq lettres, dans Qui est responsable.
Ce qu’il vous faut
- Le dossier
C33du cours dans le dépôt des exercices, ouvert dans votre navigateur. - Votre outil de rédaction, avec deux copies du modèle de tableau des responsabilités.
Un trousseau de clés sans étiquettes
Section intitulée « Un trousseau de clés sans étiquettes »Vous emménagez dans un appartement. L’ancien locataire a laissé un trousseau de huit clés sur la table, sans étiquettes. Vous essayez chaque porte. Certaines clés ouvrent une porte, et vous inscrivez son nom sur une étiquette. Une clé n’ouvre aucune porte que vous trouvez. Puis vous trouvez une porte sans clé, et le gestionnaire de l’immeuble ne sait pas qui l’a.
À la fin de la journée, le résultat utile n’est pas la liste des clés qui fonctionnent. C’est la courte liste des problèmes : la clé qui n’ouvre rien et la porte que personne ne peut ouvrir.
Préparation : vérifiez vos fichiers
Section intitulée « Préparation : vérifiez vos fichiers »- Ouvrez le dossier
C33dans votre navigateur. - Ouvrez le dossier
portfolio, puis le fichierREADME.md. - Comptez les systèmes dans son premier tableau. Vous en voyez huit, de S1 à S8.
- Ouvrez le dossier
policy, puis le fichierai-policy-as-found.md. Vous voyez six lignes numérotées.
Si vous voyez moins de huit systèmes ou de six lignes, téléchargez les fichiers de nouveau. Pour travailler hors ligne, utilisez le bouton Télécharger les fichiers ci-dessus : il vous donne le dossier C33 dans un seul fichier ZIP. Pour recommencer à tout moment, téléchargez une nouvelle copie; rien dans le dossier ne change tout seul.
Vérification de départ : lisez la politique
Section intitulée « Vérification de départ : lisez la politique »Farida a trouvé cette politique à son premier jour. Elle est construite pour le cours, avec des lacunes volontaires. Lisez les six lignes :
- Le personnel peut utiliser des outils d’IA pour travailler plus vite.
- Ne mettez pas d’informations confidentielles dans les outils d’IA.
- Le service informatique approuve les nouveaux logiciels, y compris les outils d’IA.
- Pour les données des clients, suivez la politique de confidentialité.
- Les sorties de l’IA doivent être vérifiées avant utilisation.
- Questions : demandez à votre gestionnaire.
L’en-tête indique : « Responsable : non indiqué. Dernière révision : non indiquée. »
Répondez à une question en une ou deux phrases : qui peut approuver un nouvel outil d’IA qui lit les messages des clients? Indiquez la ligne utilisée. Si la politique ne répond pas à la question, dites ce qui manque. Écrivez votre réponse avant de poursuivre.
Afficher la réponse du cours
Selon la ligne 3, le service informatique l’approuve. Mais cela répond à une question plus limitée que celle posée. Le service informatique peut juger le logiciel : s’installe-t-il, est-il sécurisé? Personne n’est désigné pour approuver l’utilisation des messages des clients, et la ligne 4 renvoie seulement à une autre politique. Un outil qui lit les messages des clients doit avoir un responsable métier qui accepte le risque (Grace, pour le soutien). Il faut aussi une vérification de la confidentialité (Mei) et la responsable des risques (Farida). La politique n’indique pas qui approuve l’utilisation des données et ne fournit pas de liste des outils approuvés.
Si vous avez répondu « le service informatique », vous avez bien lu la politique. Cette vérification sert à montrer que la politique ne répond pas à la vraie question.
L’image indique la lacune de chaque ligne.
Description textuelle du diagramme
L’image comporte sept rangées. Chaque rangée relie une partie de la politique à sa lacune. L’en-tête ne nomme aucun responsable ni aucune date de révision, donc personne ne tient la politique à jour. La ligne 1 permet au personnel d’utiliser des outils d’IA pour travailler plus vite. Elle ne précise pas quels outils ni si les fonctions d’IA des outils achetés comptent. La ligne 2 interdit les informations confidentielles dans les outils d’IA. Elle ne précise pas ce qui est confidentiel ni si elle s’applique aussi aux outils approuvés. La ligne 3 dit que le service informatique approuve les nouveaux logiciels. Il juge le logiciel, mais personne n’approuve l’utilisation des données des clients. Cette lacune a une bordure épaisse, car elle répond à la vérification de départ. La ligne 4 renvoie à la politique de confidentialité, mais ne dit pas qui vérifie ni quand. La ligne 5 demande de vérifier les sorties de l’IA, sans préciser par qui, quelles sorties ni quelle preuve fournir. La ligne 6 dirige les questions vers un gestionnaire, mais ne dit pas qui répond au gestionnaire.
Aucune des six lignes n’est incorrecte. Chacune exprime une bonne intention, sans personne pour la faire respecter. Vous réécrirez cette politique plus tard dans le cours. Pour l’instant, gardez la lacune de la ligne 3 en tête. Approuver un logiciel n’est pas approuver ce qu’il fait avec les données des personnes.
Les huit systèmes de Larkfield
Section intitulée « Les huit systèmes de Larkfield »Le dossier du portefeuille décrit ce que l’équipe de la plateforme a trouvé. Les équipes de Larkfield ont construit quatre systèmes dans des cours précédents. Un script n’a jamais été inscrit au registre. Trois systèmes sont des fonctions d’IA d’outils que Larkfield achète auprès de fournisseurs inventés pour ce cours. Il s’agit de TicketHarbor (un module complémentaire du service de soutien), MinuteMoss (les notes de réunion) et LedgerFern (l’outil comptable). Un nom est peut-être nouveau pour vous. Le serveur MCP de soutien est un connecteur pour les applications d’IA. Il leur donne trois outils : lire un billet de soutien, chercher dans la base de connaissances et proposer un remboursement.
Description textuelle du diagramme
L’image montre trois groupes. Construits par Larkfield, en vert parce que les quatre sont au registre : le tri des billets, le flux de résolution des demandes de soutien, l’assistant documentaire et le serveur MCP de soutien. Trouvé et jamais inscrit au registre, en orange : le script de résumé hebdomadaire. IA dans les outils que Larkfield achète, en orange parce qu’aucun n’est au registre : l’outil de suggestion de réponses de TicketHarbor, l’outil de notes de MinuteMoss et le lecteur de factures de LedgerFern. Quatre des huit systèmes sont au registre.
Le registre est la liste que l’équipe de la plateforme tient des systèmes exécutés sur la plateforme de Larkfield. C’est pourquoi seuls les systèmes construits y figurent. Les fonctions achetées et le script ne sont jamais passés par la plateforme, donc le registre ne les voit pas. Une liste tenue par une seule équipe ne voit que les systèmes de cette équipe.
Exemple détaillé : lire une fiche
Section intitulée « Exemple détaillé : lire une fiche »Chaque fiche de système contient les mêmes champs et se termine par quatre questions. Farida s’en sert pour lire la fiche du service de tri des billets. La fiche indique (exemple construit) : responsable Grace; approbatrice Grace; responsable technique Amira (elle), la développeuse. Données : messages des clients, numéros de commande, noms; « achemine chaque billet seul ».
| Question sur la fiche | Ce que Farida trouve | Problème? |
|---|---|---|
| 1. Le responsable est-il une personne nommée qui peut dire oui ou non? | Grace, nommée. Elle est responsable du soutien. | non |
| 2. Qui approuve un changement, et qui approuve une action touchant un client? | Grace, pour les deux. | pas encore clair : le service achemine chaque billet seul, donc personne n’approuve chaque action |
| 3. Quelles données vont où, et y a-t-il un contrat? | Les données des clients vont au fournisseur du modèle, sous le contrat de Larkfield. | non |
| 4. Que coûterait un résultat incorrect, et qui le remarquerait? | Un billet envoyé dans la mauvaise file peut attendre ou ne parvenir à personne. | oui : la note de la fiche indique que le registre le classe à risque « faible » |
Le responsable du service de tri des billets est donc clairement identifié. Le point non résolu est différent : un système qui agit seul sur chaque billet est classé à risque faible. Farida le note et passe au suivant. Plus tard dans le cours, dans Niveaux de risque et contrôles proportionnés, vous vérifierez ce classement avec une méthode.
Votre tâche : trouver chaque responsable
Section intitulée « Votre tâche : trouver chaque responsable »Ouvrez les huit fiches depuis le README du portefeuille. Pour chaque système :
- Lisez la ligne « Accountable owner » (responsable).
- Inscrivez personne si elle nomme une personne.
- Inscrivez équipe si elle nomme un groupe.
- Inscrivez rôle si elle donne un titre de poste sans nom.
- Inscrivez personne désignée si le champ est vide.
- Comptez les systèmes qui ne portent pas la mention « personne ».
Afficher la réponse du cours
| Système | Responsable indiqué | Mention | Responsable proposé et raison |
|---|---|---|---|
| S1 Service de tri des billets | Grace | personne | Grace |
| S2 Flux de résolution des demandes de soutien | Équipe de soutien | équipe | Grace : elle est responsable de la politique de remboursement |
| S3 Assistant documentaire | Mei | personne | Mei |
| S4 Serveur MCP de soutien | personne désignée | personne désignée | Grace : son seul effet métier est la proposition de remboursement. Kwame reste le responsable technique. |
| S5 Script de résumé hebdomadaire | personne désignée | personne désignée | Nadia, jusqu’à l’arrêt ou l’adoption du script |
| S6 Outil de suggestion de réponses (TicketHarbor) | personne désignée | personne désignée | Grace : il écrit à ses clients |
| S7 Outil de notes de réunion (MinuteMoss) | Omar | personne | Omar, mais personne n’a vérifié ce qu’il advient des enregistrements de personnes extérieures à Larkfield |
| S8 Lecteur de factures (LedgerFern) | la personne responsable des finances | rôle | la personne responsable des finances, nommée |
Cinq des huit systèmes n’ont aucune personne nommée comme responsable : une équipe, un rôle et trois champs vides. Trois de ces cinq systèmes ne sont pas non plus au registre.
Regardez où se trouvent les lacunes. Les trois systèmes avec un responsable nommé sont ceux qu’une équipe a construits ou achetés volontairement. Les lacunes se trouvent aux frontières entre les équipes. Un serveur fonctionne dans le flux de travail de quelqu’un d’autre. Personne ne reconnaît être responsable du script. Un fournisseur a activé une fonction, et son contrat est au service des finances.
Discussion : qui devrait être responsable du script?
Section intitulée « Discussion : qui devrait être responsable du script? »Le script de résumé hebdomadaire envoie des messages de clients, avec leurs noms et numéros de commande, à un service d’IA sans contrat. La clé appartient à un contractuel qui est parti. Farida demande qui devrait en être responsable.
- Omar : « Personne. Supprimez-le aujourd’hui, et le problème disparaît. »
- Grace : « Mes chefs d’équipe lisent ce résumé chaque lundi. Il les aide à repérer les plaintes tôt. »
- Kwame : « Si j’en suis responsable, je peux le déplacer vers la plateforme et le modèle sous contrat. »
- Sam demande : « Un script peut-il rester sans responsable pendant une semaine, le temps qu’on décide? »
Avant de poursuivre, répondez à ces questions :
- Qui devrait être responsable du script cette semaine, et pourquoi?
- La réponse d’Omar est-elle incorrecte?
La réponse du cours. Une personne de la direction doit en être responsable maintenant, car la décision ne peut pas attendre. Chaque semaine, des données de clients sont envoyées à une entreprise sans contrat. Nadia en est responsable jusqu’à son arrêt ou son adoption. Sa première décision sera probablement de l’arrêter, comme Omar le souhaite. Mais le supprimer enlève les preuves. Cela cache aussi le besoin des chefs d’équipe de Grace. Nadia l’arrête donc et conserve une copie du script et de ses enregistrements pour la révision. Puis elle demande à Grace si un système inscrit au registre devrait faire le même travail. Si oui, Grace en devient la responsable et Kwame, le responsable technique.
Ce qui changerait la réponse : si le service d’IA avait un contrat avec Larkfield, le danger serait moindre. Même dans ce cas, le script aurait encore besoin d’un responsable.
Tâche autonome : deux tableaux des responsabilités
Section intitulée « Tâche autonome : deux tableaux des responsabilités »Remplissez un tableau complet des responsabilités pour deux systèmes : le flux de résolution des demandes de soutien et l’outil de suggestion de réponses dans l’outil de soutien. Utilisez les six lignes du tableau vide du modèle. L’outil de suggestion de réponses est le plus difficile. Pensez à qui approuve sa première activation, qui approuve chaque réponse suggérée et ce qui arrive quand TicketHarbor change son modèle.
Vérifiez vos tableaux. Chaque cellule A contient un seul nom. Chaque cellule nomme une personne, pas une équipe, lorsque c’est possible. Chaque ligne où A et P diffèrent donne une raison.
Afficher une réponse possible
Flux de résolution des demandes de soutien
| Décision | A | P | D | C | I |
|---|---|---|---|---|---|
| Lancement ou changement majeur (par exemple, plus d’autonomie) | Grace | le comité de gouvernance | Amira | Farida, Mei, Kwame | chefs d’équipe |
| Approuver une action qui touche un client | Grace | l’agent ou le chef d’équipe dans sa limite; Grace au-delà | Amira (construit l’étape d’approbation) | — | le client, par la réponse |
| Changer le modèle ou la requête | Grace | Grace, après le passage de la barrière de mise en production | Amira | Farida | chefs d’équipe |
| Gérer un incident | Grace | — | Amira, chefs d’équipe | Farida, Mei | Nadia, le comité |
| Répondre à une plainte | Grace | — | un chef d’équipe | Farida | le comité (chaque mois) |
| Réviser le système | Grace | — | Amira | Farida | le comité |
Outil de suggestion de réponses dans l’outil de soutien (TicketHarbor, inventé pour ce cours)
| Décision | A | P | D | C | I |
|---|---|---|---|---|---|
| Activation ou changement majeur | Grace | le comité, pour la première activation (une vérification du fournisseur est nécessaire) | service informatique (l’administrateur de l’outil de soutien) | Mei, Farida, la personne responsable des finances (contrat) | agents |
| Approuver une réponse suggérée | Grace | l’agent qui l’envoie | l’agent | — | — |
| Le fournisseur change le modèle | Grace | Grace | service informatique | Farida | agents |
| Gérer un incident | Grace | — | service informatique, chefs d’équipe | Farida, Mei | le fournisseur, le comité |
| Répondre à une plainte | Grace | — | un chef d’équipe | Farida | — |
| Réviser le système et le fournisseur | Grace | — | service informatique | Farida, la personne responsable des finances | le comité |
Vos noms peuvent différer et rester corrects. Notez les raisons : une personne dans chaque cellule A, et un approbateur distinct du responsable lorsqu’une action touche un client.
Quand l’utiliser et ce que cela coûte
Section intitulée « Quand l’utiliser et ce que cela coûte »Vérifiez les responsables une fois pour tout le portefeuille, puis pour chaque nouveau système le jour de son arrivée. Demandez aussi à l’équipe des finances la liste des abonnements logiciels : les fonctions achetées s’y cachent.
Il faut un après-midi pour huit systèmes. La lecture n’est pas la partie coûteuse. Ce sont les conversations qui suivent, car chaque « personne désignée » devient une demande à une personne occupée.
Erreur courante
La liste qui montre seulement ce qu'une équipe voit
Symptôme : le registre montre quatre systèmes, tous avec des responsables. L’équipe annonce : « 100 % des systèmes d’IA ont un responsable ».
Cause : le registre voit seulement les systèmes exécutés sur la plateforme. Le script et les trois fonctions achetées ne sont jamais passés par elle.
Correction : construisez la liste à partir de plusieurs sources : le registre, les abonnements logiciels, les contrats fournisseurs et une question à chaque chef d’équipe. Calculez la couverture à partir de cette liste complète : ici, quatre sur huit.
Vérification des connaissances
Section intitulée « Vérification des connaissances »Vérifiez votre compréhension
Nommez la responsable et l'approbateur d'une nouvelle fonctionnalité d'IA. Expliquez pourquoi ce sont deux personnes différentes. Utilisez l'outil de suggestion de réponses que TicketHarbor a activé.
Afficher la réponse
La responsable est Grace. Elle porte la promesse faite aux clients et répond de chaque réponse que les agents envoient. Chaque agent approuve la réponse qu’il envoie. Le comité approuve la première activation, après une vérification du fournisseur. Ce sont des personnes différentes pour deux raisons. La personne qui souhaite un résultat ne devrait pas être la seule à le vérifier. De plus, une seule responsable ne peut pas lire chaque réponse. L’approbation se fait donc là où l’action a lieu.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
La fiche du lecteur de factures indique que le responsable est « le responsable des finances ». Pourquoi est-ce un problème? Comment le corriger?
Afficher la réponse
C’est un titre de poste, pas un nom. Quand le responsable des finances quitte son poste ou change d’emploi, le système n’a plus de responsable. Personne ne le remarque. Inscrivez le nom de la personne et mettez-le à jour le jour où le poste change de mains. La fiche n’indique pas non plus de vérification du fournisseur. La première tâche du responsable nommé est donc de poser une question à LedgerFern (inventé pour ce cours). Que fait cette entreprise avec les coordonnées bancaires des fournisseurs?
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Selon la politique actuelle, le service informatique approuve un nouvel outil d'IA qui lit les messages des clients. Pourquoi cela ne suffit-il pas?
Afficher la réponse
Le service informatique peut évaluer le logiciel, mais personne n’approuve l’utilisation des données des clients. Un outil qui lit leurs messages exige un responsable métier qui accepte le risque. Il faut aussi une vérification de la protection des renseignements personnels et l’avis du responsable des risques. La politique devrait nommer la personne qui approuve l’utilisation des données et dresser la liste des outils approuvés.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Récapitulatif
- Larkfield compte huit systèmes d’IA : quatre développés, un script non enregistré et trois fonctionnalités dans des outils achetés. Seulement quatre sur huit figurent dans le registre de la plateforme.
- Cinq sur huit n’ont aucune personne nommée comme responsable : une équipe, un rôle et trois champs vides. Ces lacunes se trouvent entre les équipes.
- Chaque ligne de la politique d’une page exprime une bonne intention, mais personne n’en est responsable. Approuver un logiciel ne signifie pas approuver l’utilisation des données des clients.
- Un système envoie des données clients à une entreprise sans contrat. Il lui faut un responsable haut placé dès aujourd’hui, avant toute décision sur son avenir.
Dans ce module, vous avez appris à quoi sert la gouvernance et qui répond de chaque système. Mais Farida ignore encore quelles règles Larkfield doit suivre au Canada et dans l’Union européenne. Dans le module 2, vous dressez une carte des lois, des normes et des cadres. Vous voyez lesquels s’appliquent.
Leçon suivante : Une carte du paysage