Aller au contenu
English

Qui est responsable

  • Leçon 2
  • 30 min
  • Module 1 : À quoi sert la gouvernance

Où nous en sommes

Dans la dernière leçon, nous avons fixé quatre objectifs de gouvernance, dont des responsables clairement désignés. Mais un flux de résolution des demandes touche le soutien, les finances, la vie privée et le client. Si tout le monde est un peu responsable, personne ne l'est. Dans cette leçon, nous désignons un responsable unique par système et remplissons un tableau des responsabilités. Commençons par une cuisine que trois amis rénovent ensemble.

Lue depuis YouTube. Rien ne se charge depuis YouTube avant que vous appuyiez sur lecture. Confidentialité

Ce que vous saurez faire

Désignez un responsable unique pour chaque système d’IA. Notez qui approuve, qui fait le travail, qui est consulté et qui est informé. Si quelque chose tourne mal, vous saurez qui doit répondre en quelques minutes, sans attendre une semaine de réunions.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 30 minutes

Ce que vous devez savoir

Ce qu’il vous faut

Trois amis partagent un appartement et rénovent la cuisine ensemble. L’un a trouvé l’entrepreneur. Un autre a payé l’acompte. Le troisième était à la maison quand le plombier est venu. Deux mois plus tard, de l’eau coule à travers le plafond de l’appartement du dessous.

Le voisin frappe et demande : « Qui est responsable de ça? » Chaque ami désigne un autre. Le premier a trouvé l’entrepreneur, mais n’a pas vérifié le travail. Le deuxième a payé, mais n’a jamais vu les tuyaux. Le troisième a laissé entrer le plombier, mais pensait que les autres avaient approuvé le plan. Tout le monde était un peu responsable, alors personne ne peut répondre.

Pensez maintenant à une maison qu’un seul propriétaire rénove. Le propriétaire décide, paie et répond au voisin. Un entrepreneur fait le travail. On consulte un électricien sur le câblage avant de fermer les murs. Un inspecteur en bâtiment approuve le câblage. Le propriétaire ne peut pas l’approuver seul, car il veut que le travail soit terminé. On informe les voisins du début des travaux bruyants. Chaque personne a un rôle clair, et une seule personne rend des comptes.

Le problème : un système dont une équipe est responsable

Section intitulée « Le problème : un système dont une équipe est responsable »

Le flux de résolution des demandes de soutien de Larkfield propose des remboursements, des remplacements et des étiquettes de retour. Une personne approuve chaque action avant son exécution. Sa fiche système (construite) désigne l’« équipe de soutien » comme responsable.

Imaginez qu’un client se plaint que le flux a refusé un remboursement justifié (exemple construit pour cette leçon). Qui répond à la plainte? Qui décide si la règle était mauvaise? Qui peut arrêter le flux pendant que l’équipe examine le problème? La fiche désigne une équipe de plusieurs personnes. Chaque chef d’équipe peut dire, honnêtement, que la décision ne lui appartenait pas à lui seul. C’est encore la situation de la cuisine.

Le responsable d’un système d’IA est la personne nommément désignée qui répond de ses résultats et peut dire « arrêtez ». Être responsable signifie devoir rendre compte de ce qui s’est passé et expliquer pourquoi. Le responsable ne fait pas tout le travail. Il veille à ce que le travail se fasse et répond quand quelque chose tourne mal.

Trois règles rendent ce rôle concret :

  • Une personne, pas une équipe. Une équipe ne peut pas répondre à une question ou prendre une décision. Une personne le peut.
  • Un nom, pas un titre de poste. « Le responsable des finances » ne désigne plus personne le jour de son départ. Écrivez le nom et changez-le quand quelqu’un reprend le poste.
  • Une personne qui a le pouvoir d’agir. Le responsable doit pouvoir arrêter le système et modifier ses règles. S’il doit demander la permission de dire « arrêtez », il n’est pas le responsable.

L’approbateur a un rôle différent. Il accepte ou refuse une action ou un changement précis avant sa réalisation. Il s’agit souvent de deux personnes différentes, pour la même raison que dans la maison. La personne qui veut un résultat ne devrait pas être la seule à le vérifier. Une demande de remboursement de dépenses fonctionne de la même façon : vous n’approuvez pas la vôtre.

D’autres personnes ont un rôle autour du responsable et de l’approbateur. L’illustration les montre pour un système.

Un système d'IA au centre. À gauche, deux groupes pointent vers lui. Décider : le comité, qui fixe les règles et tranche les demandes à risque élevé; le responsable, une personne nommément désignée qui répond des résultats et peut arrêter le système, avec une bordure épaisse; l'approbateur, qui accepte ou refuse une action ou un changement. Construire, conseiller et vérifier : le responsable technique, qui construit et exploite le système; l'équipe des risques, qui apporte la méthode et remet les réponses en question; l'équipe juridique, pour les questions de droit; l'équipe de la vie privée, pour les données personnelles et les registres associés; l'équipe de sécurité, pour les accès et les attaques. À droite, le système pointe vers un troisième groupe : les utilisateurs, le personnel qui lit ses sorties, et les personnes touchées, clients et fournisseurs, qui ont besoin d'un moyen de porter plainte.
Les rôles autour d'un système d'IA. Seul le responsable (bordure épaisse) répond de l'ensemble.
Description textuelle du diagramme

L’illustration place un système d’IA au centre. Deux groupes à gauche pointent vers lui. Le premier groupe décide. Le comité fixe les règles et tranche les demandes à risque élevé. Le responsable, entouré d’une bordure épaisse, est une personne nommément désignée qui répond des résultats et peut arrêter le système. L’approbateur accepte ou refuse une action ou un changement. Le deuxième groupe construit, conseille et vérifie. Le responsable technique construit et exploite le système. L’équipe des risques apporte la méthode et remet les réponses en question. L’équipe juridique répond aux questions de droit. L’équipe de la vie privée s’occupe des données personnelles et des registres associés. L’équipe de sécurité s’occupe des accès et des attaques. À droite, le système pointe vers ses utilisateurs, le personnel qui lit ses sorties. Il pointe aussi vers les personnes touchées, comme les clients et les fournisseurs. Les personnes touchées ont besoin d’un moyen de porter plainte.

On oublie facilement deux groupes. Les personnes qui utilisent le système sont les agents et les commis qui lisent ses sorties. Elles voient ses erreurs en premier et ont donc besoin d’un moyen simple de les signaler. Les personnes touchées sont souvent à l’extérieur de l’organisation : le client qui reçoit une décision de remboursement, le fournisseur qui reçoit un paiement. On ne les consulte jamais avant une décision. Mais elles ont besoin d’un moyen de porter plainte et de faire corriger un résultat erroné.

Un tableau des responsabilités présente les décisions concernant un système et précise qui fait quoi pour chacune. Plusieurs organisations utilisent un tableau appelé RACI (réalise, assume la responsabilité, est consulté, est informé). Le tableau de ce cours ajoute une colonne, celle de l’approbateur. En gouvernance de l’IA, la distinction entre responsabilité et approbation est souvent essentielle. Cinq lettres :

Lettre Signification
A assume la responsabilité Accepte ou refuse, et répond du résultat. Exactement une personne nommément désignée par ligne.
P approuve Approuve une action ou un changement précis avant sa réalisation.
D fait le travail Fait le travail.
C est consulté On lui demande son avis avant la décision, et on l’écoute.
I est informé On l’informe après la décision.

Farida commence par le système le plus simple, l’assistant documentaire. Il répond aux questions du personnel à partir des documents de Larkfield. Une personne décide quoi faire de chaque réponse. Mei (elle), l’ingénieure de données responsable des registres de données de Larkfield, l’exploite. Farida remplit le tableau en quatre étapes.

  1. Énumérez les décisions. Farida écrit les cinq décisions concernant ce système. Ce sont le lancement ou un changement majeur, l’ajout ou le retrait de documents, un changement de modèle ou de requête (prompt), une réponse erronée à un client et la révision.
  2. Écrivez un A par ligne. Mei répond des cinq décisions. Elle est responsable des documents et du système, donc la colonne A contient « Mei » cinq fois.
  3. Écrivez l’approbateur. Mei approuve le lancement et les changements de modèle. Le chef de l’équipe des données approuve les nouveaux documents, un changement mineur et fréquent. Personne n’approuve à l’avance un incident ou une révision, donc ces cellules contiennent un tiret.
  4. Remplissez D, C et I. L’équipe des données fait le travail. On consulte Farida sur les changements importants, et Kwame (il) sur la plateforme. On consulte Grace (elle) sur les documents de politique et les réponses erronées aux clients, car elle est responsable des engagements envers eux.
Un tableau de cinq lignes et cinq colonnes de rôles pour l'assistant documentaire. Lancement ou changement majeur : A Mei, P Mei, D équipe des données, C Farida et Kwame, I chefs des équipes de soutien. Ajouter ou retirer des documents : A Mei, P chef de l'équipe des données, D équipe des données, C Grace, I personnel utilisateur. Changer le modèle ou la requête : A Mei, P Mei, D équipe des données, C Farida, I personnel utilisateur. Une réponse erronée a atteint un client : A Mei, P personne, D équipe des données, C Grace, I Farida. Réviser le système : A Mei, P personne, D équipe des données, C Farida, I comité de gouvernance. La colonne A a des bordures épaisses et la colonne P est ombrée.
Le tableau des responsabilités de l'assistant documentaire (construit), selon le modèle du cours. Un nom dans chaque cellule A.
Description textuelle du diagramme

Le tableau contient une ligne par décision et cinq colonnes de rôles. Pour un lancement ou un changement majeur, Mei est responsable et approuve. L’équipe des données fait le travail, Farida et Kwame sont consultés, et les chefs des équipes de soutien sont informés. Pour ajouter ou retirer des documents, Mei est responsable et le chef de l’équipe des données approuve. L’équipe des données fait le travail, Grace est consultée et le personnel utilisateur est informé. Pour changer le modèle ou la requête, Mei est responsable et approuve. L’équipe des données fait le travail, Farida est consultée et le personnel est informé. Quand une réponse erronée a atteint un client, Mei est responsable et personne n’approuve à l’avance. L’équipe des données fait le travail, Grace est consultée et Farida est informée. Pour la révision, Mei est responsable. L’équipe des données fait le travail, Farida est consultée et le comité de gouvernance est informé.

Farida vérifie maintenant le tableau, ligne par ligne. Chaque cellule A contient exactement un nom, celui d’une personne, pas d’une équipe. Ensuite, elle lit les colonnes A et P ensemble. Mei est à la fois responsable et approbatrice pour deux lignes. Est-ce un problème?

Ici, non. L’assistant documentaire est à faible risque selon la méthode de Niveaux de risque et contrôles proportionnés, présentée plus loin dans le cours. Il ne prend aucune décision concernant les clients, et Mei est responsable de ses données. Un deuxième approbateur ajouterait de l’attente sans améliorer la sécurité. Pour un système qui agit sur les clients, par exemple un remboursement, l’approbateur d’une action n’est généralement pas le responsable.

Ouvrez la fiche du flux de résolution des demandes de soutien. Remplissez seulement les deux premières lignes d’un nouveau tableau : « Lancement ou changement majeur » et « Approuver une action qui touche un client ».

  1. Lisez la ligne « Responsable » de la fiche. Décidez si vous pouvez la copier.
  2. Choisissez une personne nommément désignée pour la colonne A. Justifiez votre choix en une phrase.
  3. Lisez la ligne « Qui approuve les changements et les actions » de la fiche.
  4. Remplissez la colonne P des deux lignes.
  5. Remplissez D, C et I.
  6. Vérifiez : un nom par cellule A, et une personne dans chaque cellule où vous pouvez en nommer une.
Afficher une réponse possible

Vous ne pouvez pas copier « équipe de soutien » : c’est une équipe. Grace est la meilleure responsable, car elle est responsable de la politique de remboursement et des engagements envers les clients.

Décision A P D C I
Lancement ou changement majeur (par exemple, plus d’autonomie) Grace le comité de gouvernance Amira, la développeuse Farida, Mei, Kwame chefs d’équipe
Approuver une action qui touche un client Grace l’agent ou le chef d’équipe dans sa limite; Grace au-delà Amira construit l’étape d’approbation — le client, par la réponse

Grace est responsable sur les deux lignes, mais elle n’approuve pas chaque remboursement. L’agent ou le chef d’équipe approuve chaque action au moment de son exécution, dans une limite définie. Un changement majeur, comme plus d’autonomie, est soumis au comité. Le responsable qui souhaite le changement ne devrait pas être le seul à le vérifier.

Discussion : est-ce le travail de l’équipe juridique?

Section intitulée « Discussion : est-ce le travail de l’équipe juridique? »

Farida présente le tableau de l’assistant documentaire lors d’une réunion d’équipe.

  • Tomás : « Pourquoi l’équipe juridique n’est pas le A sur chaque ligne? Elle connaît la loi. »
  • Kwame : « J’ai construit la plateforme de trois de ces systèmes. Est-ce que je devrais être leur responsable? »
  • Grace : « Si je suis responsable du flux, est-ce que j’approuve chaque remboursement moi-même? »
  • Sam demande : « Pourquoi le client apparaît dans le tableau? Il ne décide rien. »

Avant de poursuivre votre lecture, répondez à ces quatre questions.

La réponse du cours. L’équipe juridique est consultée, pas responsable. Un avocat peut expliquer les exigences d’une loi. Mais il ne peut pas répondre de l’utilisation quotidienne d’un outil par le soutien. Kwame est le responsable technique : il répond du bon fonctionnement de la plateforme. La décision d’affaires, comme « ce système devrait-il rembourser de l’argent? », appartient à la personne responsable de cette activité. Grace est responsable du flux, mais approuve seulement ce qui dépasse la limite des agents, comme l’exercice guidé l’a montré. Et le client figure dans le tableau parce qu’il est touché. Être « informé » est le minimum. Les lignes sur les incidents et les plaintes doivent prévoir un moyen de corriger un résultat erroné.

Ce qui changerait la réponse : dans une entreprise de dix personnes, le fondateur peut être responsable de tous les systèmes. C’est acceptable si on le consigne et si une deuxième personne approuve les actions qui touchent l’argent des clients.

Rédigez un tableau des responsabilités pour chaque système qui touche les clients, le personnel ou l’argent. Conservez-le dans le dossier du système. Un système à faible risque nécessite cinq courtes lignes. Cela prend à peu près le temps de lire cette section. Mettez-le à jour le jour même où une personne change de poste.

Le coût est un peu de temps et une conversation difficile : quelqu’un doit accepter d’être responsable. C’est précisément le but de cette conversation. Un responsable qui n’a pas accepté n’agira pas.

Erreur courante

Un comité comme responsable

Symptôme : un système fait une erreur visible. On organise une réunion, puis une deuxième. Trois jours plus tard, le système fonctionne toujours et personne n’a informé les clients touchés.

Cause : la colonne A indique « groupe de travail sur l’IA » ou « équipe de soutien ». Un groupe a besoin d’une réunion pour décider, et personne ne peut décider seul.

Correction : écrivez un nom dans chaque cellule A. Donnez à cette personne le pouvoir d’arrêter le système sans réunion. Le groupe peut toujours être consulté (C). Il ne peut pas assumer la responsabilité.

Vérifiez votre compréhension

Quelles sont les trois règles qui rendent le rôle de responsable concret? Pour chacune, donnez une entrée de Larkfield qui l'enfreint.

Afficher la réponse

Une personne, pas une équipe : la fiche du flux indique « équipe de soutien ». Un nom, pas un titre de poste : la fiche du lecteur de factures indique « le responsable des finances ». Une personne qui a le pouvoir d’agir : un responsable qui doit attendre un comité avant d’arrêter le système enfreint cette règle. Chez Larkfield, Kwame l’enfreindrait comme responsable du serveur MCP de soutien. Il peut arrêter la technologie, mais ne peut pas modifier la politique de remboursement qu’elle applique : cette politique relève de Grace.

Vérifiez votre compréhension

Mei est à la fois responsable et approbatrice des changements de modèle de l'assistant documentaire. Prédisez si Grace devrait avoir les deux rôles pour chaque remboursement proposé par le flux, et expliquez pourquoi.

Afficher la réponse

Non. L’assistant documentaire est à faible risque et ne décide rien concernant les clients, donc une personne suffit. Un remboursement agit sur l’argent d’un client. Grace est responsable de la politique de remboursement et souhaite que le flux fonctionne. Elle ne devrait donc pas être la seule à vérifier chaque action. L’agent ou le chef d’équipe approuve chaque remboursement dans une limite définie, et Grace approuve ceux qui la dépassent.

Vérifiez votre compréhension

Dans votre organisation, ou une organisation que vous connaissez, nommez un outil ou un système et indiquez A et P pour son lancement. Qu'est-ce qui justifierait deux personnes différentes?

Afficher la réponse

Les réponses varient. Une bonne réponse nomme une personne, pas une équipe, pour A, et un approbateur, avec une justification. Les deux devraient être différents quand le système agit sur les clients, l’argent ou les données personnelles. La personne qui souhaite le lancement ne devrait pas être la seule à le vérifier. Une même personne peut tenir les deux rôles pour un outil à faible risque qui ne décide rien concernant les personnes.

Récapitulatif

  • Le responsable est une personne nommément désignée qui répond des résultats d’un système et peut dire « arrêtez ». C’est une personne, pas une équipe, et un nom, pas un titre de poste, avec le pouvoir d’agir.
  • L’approbateur accepte ou refuse une action ou un changement. Pour les actions sur les clients ou l’argent, ce n’est généralement pas le responsable.
  • Autour d’eux : le comité, le responsable technique, les équipes des risques, des affaires juridiques, de la vie privée et de la sécurité, les utilisateurs et les personnes touchées.
  • Un tableau des responsabilités présente chaque décision avec A, P, D, C et I. Un nom dans chaque cellule A.

Vous pouvez maintenant remplir un tableau des responsabilités pour un système. Mais Larkfield a huit systèmes, et certaines fiches sont erronées ou vides. Ensuite, vous ouvrez le dossier du portefeuille et la politique d’une page pour trouver ce dont personne n’est responsable.

Leçon suivante : Découvrir le portefeuille d'IA de Larkfield