Aller au contenu
English

Découvrir le portefeuille d'IA de Larkfield

  • Leçon 3
  • 30 min
  • Module 1 : À quoi sert la gouvernance

Où nous en sommes

Dans la dernière leçon, nous avons donné à l'assistant documentaire un seul responsable et un tableau des responsabilités. Ce système était simple. Larkfield en a sept autres, et certaines de leurs fiches sont incorrectes ou vides. Dans cette leçon, nous ouvrons le dossier du portefeuille et la politique d'IA d'une page. Nous trouvons les systèmes sans responsable, comme un nouveau locataire devant un trousseau de clés sans étiquettes.

Ce que vous saurez faire

Ouvrez les fichiers d’exercice du cours et vérifiez que vous les avez tous. Lisez le portefeuille d’IA de Larkfield et sa politique d’une page. Trouvez le responsable de chaque système et les systèmes sans responsable. Cette étape vérifie que tout est prêt pour le cours.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 30 minutes

Ce que vous devez savoir

Ce qu’il vous faut

  • Le dossier C33 du cours dans le dépôt des exercices, ouvert dans votre navigateur.
  • Votre outil de rédaction, avec deux copies du modèle de tableau des responsabilités.

Vous emménagez dans un appartement. L’ancien locataire a laissé un trousseau de huit clés sur la table, sans étiquettes. Vous essayez chaque porte. Certaines clés ouvrent une porte, et vous inscrivez son nom sur une étiquette. Une clé n’ouvre aucune porte que vous trouvez. Puis vous trouvez une porte sans clé, et le gestionnaire de l’immeuble ne sait pas qui l’a.

À la fin de la journée, le résultat utile n’est pas la liste des clés qui fonctionnent. C’est la courte liste des problèmes : la clé qui n’ouvre rien et la porte que personne ne peut ouvrir.

  1. Ouvrez le dossier C33 dans votre navigateur.
  2. Ouvrez le dossier portfolio, puis le fichier README.md.
  3. Comptez les systèmes dans son premier tableau. Vous en voyez huit, de S1 à S8.
  4. Ouvrez le dossier policy, puis le fichier ai-policy-as-found.md. Vous voyez six lignes numérotées.

Si vous voyez moins de huit systèmes ou de six lignes, téléchargez les fichiers de nouveau. Pour travailler hors ligne, utilisez le bouton Télécharger les fichiers ci-dessus : il vous donne le dossier C33 dans un seul fichier ZIP. Pour recommencer à tout moment, téléchargez une nouvelle copie; rien dans le dossier ne change tout seul.

Farida a trouvé cette politique à son premier jour. Elle est construite pour le cours, avec des lacunes volontaires. Lisez les six lignes :

  1. Le personnel peut utiliser des outils d’IA pour travailler plus vite.
  2. Ne mettez pas d’informations confidentielles dans les outils d’IA.
  3. Le service informatique approuve les nouveaux logiciels, y compris les outils d’IA.
  4. Pour les données des clients, suivez la politique de confidentialité.
  5. Les sorties de l’IA doivent être vérifiées avant utilisation.
  6. Questions : demandez à votre gestionnaire.

L’en-tête indique : « Responsable : non indiqué. Dernière révision : non indiquée. »

Répondez à une question en une ou deux phrases : qui peut approuver un nouvel outil d’IA qui lit les messages des clients? Indiquez la ligne utilisée. Si la politique ne répond pas à la question, dites ce qui manque. Écrivez votre réponse avant de poursuivre.

Afficher la réponse du cours

Selon la ligne 3, le service informatique l’approuve. Mais cela répond à une question plus limitée que celle posée. Le service informatique peut juger le logiciel : s’installe-t-il, est-il sécurisé? Personne n’est désigné pour approuver l’utilisation des messages des clients, et la ligne 4 renvoie seulement à une autre politique. Un outil qui lit les messages des clients doit avoir un responsable métier qui accepte le risque (Grace, pour le soutien). Il faut aussi une vérification de la confidentialité (Mei) et la responsable des risques (Farida). La politique n’indique pas qui approuve l’utilisation des données et ne fournit pas de liste des outils approuvés.

Si vous avez répondu « le service informatique », vous avez bien lu la politique. Cette vérification sert à montrer que la politique ne répond pas à la vraie question.

L’image indique la lacune de chaque ligne.

Sept rangées. Chaque rangée relie une partie de la politique de Larkfield, à gauche, à sa lacune, à droite en rouge. En-tête, responsable et dernière révision non indiqués : personne ne tient la politique à jour. Ligne 1, le personnel peut utiliser des outils d'IA pour travailler plus vite : quels outils, et les fonctions d'IA des outils achetés comptent-elles? Ligne 2, ne mettez pas d'informations confidentielles dans les outils d'IA : qu'est-ce qui est confidentiel, et cela s'applique-t-il à tous les outils, même approuvés? Ligne 3, le service informatique approuve les nouveaux logiciels, y compris les outils d'IA : il juge le logiciel, mais personne n'approuve l'utilisation des données des clients; cette lacune a une bordure épaisse. Ligne 4, pour les données des clients, suivez la politique de confidentialité : elle renvoie ailleurs, qui vérifie et quand? Ligne 5, les sorties de l'IA doivent être vérifiées avant utilisation : par qui, quelles sorties, quelle preuve? Ligne 6, questions, demandez à votre gestionnaire : qui répond au gestionnaire?
La politique d'IA d'une page de Larkfield (construite), avec ses lacunes indiquées. La lacune de la ligne 3 (bordure épaisse) répond à la vérification de départ.
Description textuelle du diagramme

L’image comporte sept rangées. Chaque rangée relie une partie de la politique à sa lacune. L’en-tête ne nomme aucun responsable ni aucune date de révision, donc personne ne tient la politique à jour. La ligne 1 permet au personnel d’utiliser des outils d’IA pour travailler plus vite. Elle ne précise pas quels outils ni si les fonctions d’IA des outils achetés comptent. La ligne 2 interdit les informations confidentielles dans les outils d’IA. Elle ne précise pas ce qui est confidentiel ni si elle s’applique aussi aux outils approuvés. La ligne 3 dit que le service informatique approuve les nouveaux logiciels. Il juge le logiciel, mais personne n’approuve l’utilisation des données des clients. Cette lacune a une bordure épaisse, car elle répond à la vérification de départ. La ligne 4 renvoie à la politique de confidentialité, mais ne dit pas qui vérifie ni quand. La ligne 5 demande de vérifier les sorties de l’IA, sans préciser par qui, quelles sorties ni quelle preuve fournir. La ligne 6 dirige les questions vers un gestionnaire, mais ne dit pas qui répond au gestionnaire.

Aucune des six lignes n’est incorrecte. Chacune exprime une bonne intention, sans personne pour la faire respecter. Vous réécrirez cette politique plus tard dans le cours. Pour l’instant, gardez la lacune de la ligne 3 en tête. Approuver un logiciel n’est pas approuver ce qu’il fait avec les données des personnes.

Le dossier du portefeuille décrit ce que l’équipe de la plateforme a trouvé. Les équipes de Larkfield ont construit quatre systèmes dans des cours précédents. Un script n’a jamais été inscrit au registre. Trois systèmes sont des fonctions d’IA d’outils que Larkfield achète auprès de fournisseurs inventés pour ce cours. Il s’agit de TicketHarbor (un module complémentaire du service de soutien), MinuteMoss (les notes de réunion) et LedgerFern (l’outil comptable). Un nom est peut-être nouveau pour vous. Le serveur MCP de soutien est un connecteur pour les applications d’IA. Il leur donne trois outils : lire un billet de soutien, chercher dans la base de connaissances et proposer un remboursement.

Trois groupes de systèmes. Construits par Larkfield, en vert, tous au registre : S1 service de tri des billets, S2 flux de résolution des demandes de soutien, S3 assistant documentaire, S4 serveur MCP de soutien. Trouvé, jamais inscrit au registre, en orange : S5 script de résumé hebdomadaire. IA dans les outils que Larkfield achète, en orange, aucun au registre : S6 outil de suggestion de réponses de TicketHarbor, S7 outil de notes de réunion de MinuteMoss, S8 lecteur de factures de LedgerFern.
Le portefeuille d'IA de Larkfield (construit) : huit systèmes, dont quatre au registre de la plateforme. Les fournisseurs sont inventés pour ce cours.
Description textuelle du diagramme

L’image montre trois groupes. Construits par Larkfield, en vert parce que les quatre sont au registre : le tri des billets, le flux de résolution des demandes de soutien, l’assistant documentaire et le serveur MCP de soutien. Trouvé et jamais inscrit au registre, en orange : le script de résumé hebdomadaire. IA dans les outils que Larkfield achète, en orange parce qu’aucun n’est au registre : l’outil de suggestion de réponses de TicketHarbor, l’outil de notes de MinuteMoss et le lecteur de factures de LedgerFern. Quatre des huit systèmes sont au registre.

Le registre est la liste que l’équipe de la plateforme tient des systèmes exécutés sur la plateforme de Larkfield. C’est pourquoi seuls les systèmes construits y figurent. Les fonctions achetées et le script ne sont jamais passés par la plateforme, donc le registre ne les voit pas. Une liste tenue par une seule équipe ne voit que les systèmes de cette équipe.

Chaque fiche de système contient les mêmes champs et se termine par quatre questions. Farida s’en sert pour lire la fiche du service de tri des billets. La fiche indique (exemple construit) : responsable Grace; approbatrice Grace; responsable technique Amira (elle), la développeuse. Données : messages des clients, numéros de commande, noms; « achemine chaque billet seul ».

Question sur la fiche Ce que Farida trouve Problème?
1. Le responsable est-il une personne nommée qui peut dire oui ou non? Grace, nommée. Elle est responsable du soutien. non
2. Qui approuve un changement, et qui approuve une action touchant un client? Grace, pour les deux. pas encore clair : le service achemine chaque billet seul, donc personne n’approuve chaque action
3. Quelles données vont où, et y a-t-il un contrat? Les données des clients vont au fournisseur du modèle, sous le contrat de Larkfield. non
4. Que coûterait un résultat incorrect, et qui le remarquerait? Un billet envoyé dans la mauvaise file peut attendre ou ne parvenir à personne. oui : la note de la fiche indique que le registre le classe à risque « faible »

Le responsable du service de tri des billets est donc clairement identifié. Le point non résolu est différent : un système qui agit seul sur chaque billet est classé à risque faible. Farida le note et passe au suivant. Plus tard dans le cours, dans Niveaux de risque et contrôles proportionnés, vous vérifierez ce classement avec une méthode.

Ouvrez les huit fiches depuis le README du portefeuille. Pour chaque système :

  1. Lisez la ligne « Accountable owner » (responsable).
  2. Inscrivez personne si elle nomme une personne.
  3. Inscrivez équipe si elle nomme un groupe.
  4. Inscrivez rôle si elle donne un titre de poste sans nom.
  5. Inscrivez personne désignée si le champ est vide.
  6. Comptez les systèmes qui ne portent pas la mention « personne ».
Afficher la réponse du cours
Système Responsable indiqué Mention Responsable proposé et raison
S1 Service de tri des billets Grace personne Grace
S2 Flux de résolution des demandes de soutien Équipe de soutien équipe Grace : elle est responsable de la politique de remboursement
S3 Assistant documentaire Mei personne Mei
S4 Serveur MCP de soutien personne désignée personne désignée Grace : son seul effet métier est la proposition de remboursement. Kwame reste le responsable technique.
S5 Script de résumé hebdomadaire personne désignée personne désignée Nadia, jusqu’à l’arrêt ou l’adoption du script
S6 Outil de suggestion de réponses (TicketHarbor) personne désignée personne désignée Grace : il écrit à ses clients
S7 Outil de notes de réunion (MinuteMoss) Omar personne Omar, mais personne n’a vérifié ce qu’il advient des enregistrements de personnes extérieures à Larkfield
S8 Lecteur de factures (LedgerFern) la personne responsable des finances rôle la personne responsable des finances, nommée

Cinq des huit systèmes n’ont aucune personne nommée comme responsable : une équipe, un rôle et trois champs vides. Trois de ces cinq systèmes ne sont pas non plus au registre.

Regardez où se trouvent les lacunes. Les trois systèmes avec un responsable nommé sont ceux qu’une équipe a construits ou achetés volontairement. Les lacunes se trouvent aux frontières entre les équipes. Un serveur fonctionne dans le flux de travail de quelqu’un d’autre. Personne ne reconnaît être responsable du script. Un fournisseur a activé une fonction, et son contrat est au service des finances.

Discussion : qui devrait être responsable du script?

Section intitulée « Discussion : qui devrait être responsable du script? »

Le script de résumé hebdomadaire envoie des messages de clients, avec leurs noms et numéros de commande, à un service d’IA sans contrat. La clé appartient à un contractuel qui est parti. Farida demande qui devrait en être responsable.

  • Omar : « Personne. Supprimez-le aujourd’hui, et le problème disparaît. »
  • Grace : « Mes chefs d’équipe lisent ce résumé chaque lundi. Il les aide à repérer les plaintes tôt. »
  • Kwame : « Si j’en suis responsable, je peux le déplacer vers la plateforme et le modèle sous contrat. »
  • Sam demande : « Un script peut-il rester sans responsable pendant une semaine, le temps qu’on décide? »

Avant de poursuivre, répondez à ces questions :

  1. Qui devrait être responsable du script cette semaine, et pourquoi?
  2. La réponse d’Omar est-elle incorrecte?

La réponse du cours. Une personne de la direction doit en être responsable maintenant, car la décision ne peut pas attendre. Chaque semaine, des données de clients sont envoyées à une entreprise sans contrat. Nadia en est responsable jusqu’à son arrêt ou son adoption. Sa première décision sera probablement de l’arrêter, comme Omar le souhaite. Mais le supprimer enlève les preuves. Cela cache aussi le besoin des chefs d’équipe de Grace. Nadia l’arrête donc et conserve une copie du script et de ses enregistrements pour la révision. Puis elle demande à Grace si un système inscrit au registre devrait faire le même travail. Si oui, Grace en devient la responsable et Kwame, le responsable technique.

Ce qui changerait la réponse : si le service d’IA avait un contrat avec Larkfield, le danger serait moindre. Même dans ce cas, le script aurait encore besoin d’un responsable.

Remplissez un tableau complet des responsabilités pour deux systèmes : le flux de résolution des demandes de soutien et l’outil de suggestion de réponses dans l’outil de soutien. Utilisez les six lignes du tableau vide du modèle. L’outil de suggestion de réponses est le plus difficile. Pensez à qui approuve sa première activation, qui approuve chaque réponse suggérée et ce qui arrive quand TicketHarbor change son modèle.

Vérifiez vos tableaux. Chaque cellule A contient un seul nom. Chaque cellule nomme une personne, pas une équipe, lorsque c’est possible. Chaque ligne où A et P diffèrent donne une raison.

Afficher une réponse possible

Flux de résolution des demandes de soutien

Décision A P D C I
Lancement ou changement majeur (par exemple, plus d’autonomie) Grace le comité de gouvernance Amira Farida, Mei, Kwame chefs d’équipe
Approuver une action qui touche un client Grace l’agent ou le chef d’équipe dans sa limite; Grace au-delà Amira (construit l’étape d’approbation) — le client, par la réponse
Changer le modèle ou la requête Grace Grace, après le passage de la barrière de mise en production Amira Farida chefs d’équipe
Gérer un incident Grace — Amira, chefs d’équipe Farida, Mei Nadia, le comité
Répondre à une plainte Grace — un chef d’équipe Farida le comité (chaque mois)
Réviser le système Grace — Amira Farida le comité

Outil de suggestion de réponses dans l’outil de soutien (TicketHarbor, inventé pour ce cours)

Décision A P D C I
Activation ou changement majeur Grace le comité, pour la première activation (une vérification du fournisseur est nécessaire) service informatique (l’administrateur de l’outil de soutien) Mei, Farida, la personne responsable des finances (contrat) agents
Approuver une réponse suggérée Grace l’agent qui l’envoie l’agent — —
Le fournisseur change le modèle Grace Grace service informatique Farida agents
Gérer un incident Grace — service informatique, chefs d’équipe Farida, Mei le fournisseur, le comité
Répondre à une plainte Grace — un chef d’équipe Farida —
Réviser le système et le fournisseur Grace — service informatique Farida, la personne responsable des finances le comité

Vos noms peuvent différer et rester corrects. Notez les raisons : une personne dans chaque cellule A, et un approbateur distinct du responsable lorsqu’une action touche un client.

Vérifiez les responsables une fois pour tout le portefeuille, puis pour chaque nouveau système le jour de son arrivée. Demandez aussi à l’équipe des finances la liste des abonnements logiciels : les fonctions achetées s’y cachent.

Il faut un après-midi pour huit systèmes. La lecture n’est pas la partie coûteuse. Ce sont les conversations qui suivent, car chaque « personne désignée » devient une demande à une personne occupée.

Erreur courante

La liste qui montre seulement ce qu'une équipe voit

Symptôme : le registre montre quatre systèmes, tous avec des responsables. L’équipe annonce : « 100 % des systèmes d’IA ont un responsable ».

Cause : le registre voit seulement les systèmes exécutés sur la plateforme. Le script et les trois fonctions achetées ne sont jamais passés par elle.

Correction : construisez la liste à partir de plusieurs sources : le registre, les abonnements logiciels, les contrats fournisseurs et une question à chaque chef d’équipe. Calculez la couverture à partir de cette liste complète : ici, quatre sur huit.

Vérifiez votre compréhension

Nommez la responsable et l'approbateur d'une nouvelle fonctionnalité d'IA. Expliquez pourquoi ce sont deux personnes différentes. Utilisez l'outil de suggestion de réponses que TicketHarbor a activé.

Afficher la réponse

La responsable est Grace. Elle porte la promesse faite aux clients et répond de chaque réponse que les agents envoient. Chaque agent approuve la réponse qu’il envoie. Le comité approuve la première activation, après une vérification du fournisseur. Ce sont des personnes différentes pour deux raisons. La personne qui souhaite un résultat ne devrait pas être la seule à le vérifier. De plus, une seule responsable ne peut pas lire chaque réponse. L’approbation se fait donc là où l’action a lieu.

Vérifiez votre compréhension

La fiche du lecteur de factures indique que le responsable est « le responsable des finances ». Pourquoi est-ce un problème? Comment le corriger?

Afficher la réponse

C’est un titre de poste, pas un nom. Quand le responsable des finances quitte son poste ou change d’emploi, le système n’a plus de responsable. Personne ne le remarque. Inscrivez le nom de la personne et mettez-le à jour le jour où le poste change de mains. La fiche n’indique pas non plus de vérification du fournisseur. La première tâche du responsable nommé est donc de poser une question à LedgerFern (inventé pour ce cours). Que fait cette entreprise avec les coordonnées bancaires des fournisseurs?

Vérifiez votre compréhension

Selon la politique actuelle, le service informatique approuve un nouvel outil d'IA qui lit les messages des clients. Pourquoi cela ne suffit-il pas?

Afficher la réponse

Le service informatique peut évaluer le logiciel, mais personne n’approuve l’utilisation des données des clients. Un outil qui lit leurs messages exige un responsable métier qui accepte le risque. Il faut aussi une vérification de la protection des renseignements personnels et l’avis du responsable des risques. La politique devrait nommer la personne qui approuve l’utilisation des données et dresser la liste des outils approuvés.

Récapitulatif

  • Larkfield compte huit systèmes d’IA : quatre développés, un script non enregistré et trois fonctionnalités dans des outils achetés. Seulement quatre sur huit figurent dans le registre de la plateforme.
  • Cinq sur huit n’ont aucune personne nommée comme responsable : une équipe, un rôle et trois champs vides. Ces lacunes se trouvent entre les équipes.
  • Chaque ligne de la politique d’une page exprime une bonne intention, mais personne n’en est responsable. Approuver un logiciel ne signifie pas approuver l’utilisation des données des clients.
  • Un système envoie des données clients à une entreprise sans contrat. Il lui faut un responsable haut placé dès aujourd’hui, avant toute décision sur son avenir.

Dans ce module, vous avez appris à quoi sert la gouvernance et qui répond de chaque système. Mais Farida ignore encore quelles règles Larkfield doit suivre au Canada et dans l’Union européenne. Dans le module 2, vous dressez une carte des lois, des normes et des cadres. Vous voyez lesquels s’appliquent.

Leçon suivante : Une carte du paysage