Aller au contenu
English

La gouvernance en pratique

  • Leçon 21
  • 30 min
  • Module 6 : Gérer les risques, la gouvernance et un lancement responsable

Où nous en sommes

Dans la leçon précédente, nous avons rédigé un registre des risques avec un score et un responsable pour chaque risque. Mais qui peut approuver quel changement? Si chaque changement suit le même processus, les petits changements deviennent lents et les changements dangereux ne reçoivent pas plus d'attention. Dans cette leçon, nous fixons les approbations en proportion du risque, et nous voyons quand consulter un spécialiste de la vie privée ou du droit, comme changer une ampoule plutôt que déplacer un mur.

Lue depuis YouTube. Rien ne se charge depuis YouTube avant que vous appuyiez sur lecture. Confidentialité

Ce que vous saurez faire

Décidez qui peut approuver chaque changement, quels documents conserver et quand consulter un spécialiste de la vie privée ou du droit. Utilisez les scores du registre des risques. Les petits changements restent ainsi rapides, et les changements dangereux font l’objet d’un examen attentif.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 30 minutes

Ce que vous devez savoir

Ce qu’il vous faut

À la maison, vous changez une ampoule quand elle ne fonctionne plus. Personne ne l’approuve, et personne ne le note. Déplacer un mur, c’est différent. Il vous faut un entrepreneur, souvent un permis, et parfois un ingénieur qui vérifie que la maison ne s’effondrera pas. Vous conservez les plans pour que le prochain propriétaire sache ce qui a changé.

Les règles ne dépendent pas de la taille du travail. Peindre toute une maison est un gros travail qui ne demande aucun permis. Retirer un petit mur peut exiger un ingénieur, si ce mur soutient le toit. Les vérifications dépendent de ce qui peut subir un préjudice.

Chez Larkfield, « la semaine dernière », on a suivi une procédure pour changer une ampoule alors qu’on déplaçait un mur. Il s’agit d’une situation construite, avec des réponses enregistrées. Quelqu’un a changé un seul réglage, et la requête v3 a répondu à tous les billets de soutien. Aucune décision de mise en production, aucune barrière. L’évaluation avait déjà indiqué « ne pas livrer ». 10 billets qui exigeaient une intervention humaine n’ont été transmis à personne.

L’erreur inverse est aussi courante. Imaginez que chaque changement exige la signature de Nadia et un examen juridique, même un nouveau mot à l’écran des agents. Le travail attend pendant des semaines. Les gens cessent de demander et font des changements en silence. Trop de contrôle mène au même résultat que trop peu : des changements que personne n’a vérifiés.

L’idée : une gouvernance proportionnelle au risque

Section intitulée « L’idée : une gouvernance proportionnelle au risque »

La gouvernance est l’ensemble des règles qui précisent qui peut décider quoi, avec quelles preuves, et où consigner la décision. Une bonne gouvernance est proportionnelle au risque. Plus le préjudice possible est grand, plus il faut de preuves et une approbation à un niveau élevé.

Trois mots font l’essentiel du travail :

  • Un responsable est la seule personne qui répond des résultats de la fonction d’IA et peut dire « arrêtez ». Pour l’assistant de Larkfield, c’est Nadia, la directrice des opérations clients. Le responsable ne fait pas le travail et ne peut pas transférer sa responsabilité à une équipe.
  • Une approbation est une décision consignée, prise par une personne nommée, avant qu’un changement touche les clients.
  • La documentation est la courte trace qui permet à quelqu’un d’autre de vérifier la décision plus tard. Elle indique la décision, les preuves utilisées et la personne qui l’a prise.

Le registre des risques fournit l’échelle. Voici celle qu’utilise Larkfield. Les plages de scores et les niveaux sont un choix du cours; votre organisation peut définir les siens.

Un schéma de décision. Un changement ou une décision mène à une question : à quoi peut-il nuire? Lisez son score dans le registre des risques. Faible, de 1 à 4 : le chef d'équipe décide et ajoute une ligne au journal des changements. Moyen, de 5 à 9, ou tout changement de requête ou de modèle : le responsable produit approuve, la barrière de mise en production est franchie, et une fiche de décision est rédigée. Élevé, de 10 à 25, ou impact de 5 : le responsable signe. Toutes les étapes du niveau moyen s'appliquent. Un spécialiste intervient si des données personnelles ou le droit sont en jeu. Une liste de vérification du lancement précise les conditions de pause. La case du niveau élevé a une bordure épaisse.
Trois niveaux d'approbation. Le score du risque touché par un changement détermine le niveau, pas la taille du changement.
Description textuelle du diagramme

Le schéma commence par un changement ou une décision. La question est : à quoi peut-il nuire? Vous lisez le score du risque touché dans le registre des risques. Il y a trois chemins. Score faible, de 1 à 4 : le chef d’équipe décide et ajoute une ligne au journal des changements. Score moyen, de 5 à 9, ou tout changement de requête ou de modèle : le responsable produit approuve. La barrière de mise en production doit être franchie, et l’équipe rédige une fiche de décision. Score élevé, de 10 à 25, ou tout risque avec un impact de 5 : le responsable signe. Toutes les étapes du niveau moyen s’appliquent encore. Un spécialiste examine le changement si des données personnelles ou le droit sont en jeu. L’équipe rédige une liste de vérification du lancement avec des conditions de pause.

Pourquoi chaque changement de requête ou de modèle est-il au moins de niveau moyen? Parce que la requête v3 semblait être un petit changement de texte. C’était une requête plus courte. Elle a aussi laissé deux billets de sécurité sans réponse. Changer les mots qui guident le modèle peut changer tout ce qu’il fait.

Kwame énumère quatre changements que l’équipe prévoit ce mois-ci, construits pour ce cours. Pour chacun, la règle de Nadia donne le niveau :

Changement Risque touché (score) Niveau Qui approuve Trace écrite
Une étiquette plus claire, « Brouillon de l’IA : vérifier avant l’envoi », à l’écran des agents aucun des cinq faible Grace, comme cheffe de l’équipe des agents une ligne au journal des changements
La requête v2 avec une nouvelle règle de réponse, barrière franchie R2 (9), R5 (15) moyen : un changement de requête qui a franchi la barrière Omar résultat de la barrière, fiche de décision
Mettre en production la requête v3 malgré son échec à la barrière R1 (10), R5 (15) élevé : une exception à la barrière Nadia elle lit les preuves et refuse
Envoyer de vrais billets à un nouveau fournisseur pour un projet pilote R4 (8) : des données personnelles vont à une nouvelle entreprise élevé : transfert de données personnelles Nadia, après un spécialiste de la vie privée conditions sur les données, réponse du spécialiste, fiche de décision

Deux lignes demandent une précision. Un changement de requête qui a franchi la barrière est de niveau moyen. La barrière vérifie déjà les risques élevés, comme les billets qui exigent une intervention humaine et les billets sans réponse. Omar peut l’approuver, même s’il l’a proposé, car la barrière se fonde sur des preuves, pas sur son opinion. Une exception à la barrière est une autre décision. Elle retire le contrôle d’un risque élevé. Seul le responsable peut donc la prendre, après avoir lu les preuves.

Larkfield conserve quatre documents, tous des modèles de ce cours. Ce sont le registre des risques, la définition du travail terminé avec sa barrière, les fiches de décision et la liste de vérification du lancement. Rien d’autre n’est exigé. Une décision absente de ces documents n’a pas eu lieu.

Les billets de Larkfield contiennent des données personnelles : des renseignements sur une personne qu’on peut identifier. Un exemple d’erreur contient un numéro de commande et « la carte se terminant par 3302 ». Un autre décrit un enfant. La plupart des pays ont des lois sur la vie privée pour ces données. Larkfield est une boutique canadienne; les règles du Canada s’appliquent donc à elle. Le RGPD est l’exemple le plus connu de l’Union européenne. Les lois diffèrent, mais elles posent généralement des questions semblables :

  • Pourquoi utilisez-vous les données? Les clients ont écrit pour obtenir de l’aide. Rédiger une réponse correspond à cet objectif. Entraîner le modèle d’une autre entreprise n’y correspond peut-être pas.
  • Quelle quantité vous faut-il? Envoyez au modèle seulement ce dont il a besoin pour rédiger la réponse.
  • Qui d’autre les reçoit? Le fournisseur du modèle reçoit chaque billet. Beaucoup de lois exigent un contrat qui limite ce que le fournisseur peut faire avec les données.
  • Où sont-elles stockées, et combien de temps sont-elles conservées?
  • Quels droits les personnes ont-elles? Elles peuvent souvent demander quels renseignements vous détenez sur elles. Certaines lois permettent aussi de demander une révision humaine d’une décision importante prise par une machine seule. Le cours d’apprentissage automatique l’explique dans Quand un modèle simple est meilleur.

Les deux propositions de fournisseurs de Choisir des fournisseurs et des modèles en tant que leader répondent différemment à certaines questions. Les deux fournisseurs sont fictifs, avec des conditions construites pour ce cours. ReplyRight conserve les billets et les réponses pendant 18 mois, aux États-Unis. Il les utilise pour améliorer son modèle, sauf si Larkfield achète son forfait Enterprise. DraftDesk les supprime 30 jours après la réponse, ne les utilise jamais pour l’entraînement et les stocke au Canada. Un leader n’a pas besoin de savoir quelle loi s’applique à chaque ligne. Il doit voir que ces lignes diffèrent et poser des questions avant de transférer de vrais billets.

Les lois sur l’IA sont plus récentes et elles changent. Le règlement sur l’IA de l’Union européenne est l’exemple le plus connu. En général, il classe les usages de l’IA selon le préjudice qu’ils peuvent causer :

  • Certains usages sont interdits.
  • Certains usages présentent un risque élevé, par exemple l’IA qui aide à décider qui obtient un emploi ou un prêt. Ils imposent de lourdes obligations : documentation, supervision humaine, dossiers et vérifications.
  • Certains usages imposent des obligations de transparence, par exemple informer les personnes lorsqu’elles parlent à un système d’IA.
  • La plupart des autres usages imposent peu de nouvelles obligations, ou aucune.

Voici l’interprétation du cours, qu’un spécialiste doit confirmer. Un assistant de rédaction dont un agent lit et envoie les réponses présente probablement peu de risques d’être classé à risque élevé. Si Larkfield le laissait ensuite répondre seul aux clients dans une conversation, l’obligation de signaler l’usage de l’IA pourrait s’appliquer. D’autres pays, dont le Canada, ont leurs propres règles ou projets, ou n’en ont pas encore. Ces lois et leurs dates d’entrée en vigueur changent. Cette section donne donc une orientation générale, pas un avis juridique. Vérifiez le texte actuel avec un spécialiste.

Vous n’avez pas besoin d’un juriste pour chaque changement. Vous en avez besoin à quelques moments précis, avant qu’il soit trop tard :

Un schéma de décision avec quatre questions. Un : utilise-t-on des données personnelles autrement, ou les envoie-t-on à une nouvelle entreprise ou dans un nouveau pays? Oui : consultez un spécialiste de la vie privée avant de transférer de vraies données. Non mène à deux : la sortie décide-t-elle ou influence-t-elle fortement l'emploi, le crédit, l'assurance, la santé, le logement ou les droits juridiques d'une personne? Oui : consultez un spécialiste du droit; cet usage pourrait être à risque élevé selon les lois sur l'IA. Non mène à trois : les personnes interagissent-elles directement avec l'IA, ou ignorent-elles que l'IA est utilisée? Oui : vérifiez l'obligation d'informer les personnes de l'usage de l'IA. Non mène à quatre : un nouveau pays ou un nouveau type de client? Oui : consultez un spécialiste de ce pays. Non : l'équipe décide, avec le registre des risques et une fiche de décision.
Quatre questions qui indiquent à un leader quand consulter un spécialiste. Consultez-le avant de transférer de vraies données ou de lancer la fonction, pas après.
Description textuelle du diagramme

Le schéma pose quatre questions dans l’ordre. Première question : le changement utilise-t-il des données personnelles autrement, ou les envoie-t-il à une nouvelle entreprise ou dans un nouveau pays? Si oui, consultez un spécialiste de la vie privée avant tout transfert de vraies données. Sinon, deuxième question : la sortie décide-t-elle ou influence-t-elle fortement l’emploi, le crédit, l’assurance, la santé, le logement ou les droits juridiques d’une personne? Si oui, consultez un spécialiste du droit, car cet usage pourrait être à risque élevé selon les lois sur l’IA. Sinon, troisième question : les personnes interagissent-elles directement avec l’IA, ou sans savoir que l’IA est utilisée? Si oui, vérifiez l’obligation d’informer les personnes de l’usage de l’IA. Sinon, quatrième question : s’agit-il d’un nouveau pays ou d’un nouveau type de client? Si oui, consultez un spécialiste de ce pays. Si les quatre réponses sont non, l’équipe décide, avec le registre des risques et une fiche de décision.

Un spécialiste peut être un responsable de la vie privée, un juriste de l’entreprise ou un conseiller externe. Donnez-lui des preuves, pas un résumé. Précisez quelles données sont transférées, à qui, où elles sont stockées et combien de temps elles sont conservées. Précisez ce que la sortie de l’IA change pour une personne. Le cours Sécurité de l’IA, vie privée et conception responsable montre comment préparer cette demande, dans Résidence des données et questions contractuelles.

Omar veut essayer DraftDesk, inventé pour ce cours. Sa proposition offre un projet pilote sur 200 billets de Larkfield avant que Larkfield signe.

  • Omar : « Commençons la semaine prochaine. C’est juste un projet pilote, 200 billets. Pas besoin d’approbation. »
  • Kwame : « Les vrais billets contiennent des noms, des commandes et des derniers chiffres de cartes. Ils iraient à une nouvelle entreprise qui n’a jamais eu nos données. C’est R4, et la règle dit niveau élevé. »
  • Grace : « On a déjà 271 billets de test fictifs avec des étiquettes. Aucun client ne les a écrits. Utilisons-les. »

Avant de poursuivre, répondez à ces questions :

  1. Quel niveau faut-il pour le projet pilote d’Omar, et qui l’approuve?
  2. L’idée de Grace contourne-t-elle la règle, ou propose-t-elle un meilleur projet pilote?
  3. Qu’est-ce qui exigerait un spécialiste, et quand?

La réponse du cours. Un projet pilote qui envoie de vraies données clients à une nouvelle entreprise est de niveau élevé, même au Canada. Nadia l’approuve après qu’un spécialiste de la vie privée a lu les conditions sur les données et le contrat de DraftDesk. « Juste un projet pilote » ne change pas ce qui arrive aux données. L’idée de Grace ne contourne pas la règle. C’est le meilleur projet pilote. Les billets fictifs ne contiennent aucune donnée d’une vraie personne; ils n’exigent donc aucun examen de la vie privée. Ils ont déjà des étiquettes et des résultats enregistrés pour la requête v2. La comparaison est donc équitable, avec les mêmes billets pour chaque option, comme dans Mener un projet pilote équitable. Omar peut commencer la semaine prochaine, au niveau moyen, avec une fiche de décision.

Le spécialiste sera nécessaire plus tard, avant une échéance précise : avant l’envoi de tout vrai billet à DraftDesk, si le projet pilote justifie de poursuivre.

Ce qui changerait la réponse : si les billets fictifs omettaient un type important de vrai billet, un projet pilote sur de vraies données pourrait devenir nécessaire. Il passerait quand même d’abord par le spécialiste. Et si les conditions de DraftDesk changeaient, par exemple pour utiliser les billets pour l’entraînement, le spécialiste devrait les examiner à nouveau.

Fixez les niveaux une fois, au début du travail sur l’IA, et inscrivez-les dans l’en-tête du registre des risques. Révisez-les lorsqu’un nouveau risque apparaît. Une petite équipe peut garder les mêmes trois niveaux pour chaque fonction d’IA.

Le coût, c’est le temps. Un changement de niveau moyen attend une exécution de la barrière et une courte fiche. Un changement de niveau élevé attend le responsable, et parfois un spécialiste, ce qui peut prendre des semaines. Gardez donc la plupart des changements au niveau faible ou moyen, avec des barrières automatiques. Réservez le niveau élevé aux quelques décisions qui en ont besoin.

Erreur courante

Une signature sans lecture

Symptôme : une approbation de niveau élevé revient signée en quelques minutes. La seule preuve de la personne qui approuve est un message : « les tests passent ».

Cause : l’approbation est devenue une formalité. La personne a signé une affirmation, pas des preuves. « La semaine dernière » a montré tout ce que « les tests passent » peut cacher. Le service acceptait tous les billets, mais 10 billets exigeant une intervention humaine n’ont été transmis à personne.

Correctif : la personne qui approuve lit le tableau de la barrière et les exemples d’erreurs avant de signer. C’est la démarche décrite dans Examiner un travail que vous ne savez pas produire. L’approbation de la définition du travail terminé contient une ligne « Preuves lues (fichiers, exécutions) ». Si cette ligne est vide, l’approbation n’est pas valide.

Vérifiez votre compréhension

Donnez le niveau, la personne qui approuve et la trace écrite pour chaque changement : (a) traduire en français le texte d'aide des agents; (b) passer à une version plus récente du même modèle hébergé, avec la même requête; (c) laisser l'assistant envoyer seul les réponses aux questions sur l'état de livraison.

Afficher la réponse

(a) Faible : cela ne touche aucun des risques du registre. Le responsable d’équipe décide et ajoute une ligne au journal des changements. (b) Au moins moyen : changer de modèle peut tout changer, comme l’a fait la requête v3. Il faut franchir la barrière de mise en production. Le responsable produit (Omar) approuve ensuite, avec une fiche de décision. Si la barrière n’est pas franchie, seule la personne qui répond du résultat peut faire une exception. (c) Élevé : personne ne lit la réponse, donc les réponses erronées parviennent directement aux clients (R2 et R3 changent). De plus, les clients interagissent avec l’IA sans intermédiaire humain. Nadia signe. Un spécialiste vérifie l’obligation d’informer les clients de l’utilisation de l’IA. L’équipe rédige une liste de vérification du lancement avec des conditions de suspension.

Vérifiez votre compréhension

Nommez trois questions à poser à un spécialiste de la vie privée avant d'envoyer de vrais billets à ReplyRight (inventé pour ce cours). Expliquez pourquoi chacune compte.

Afficher la réponse

Par exemple : pouvons-nous laisser ReplyRight utiliser les billets de soutien de nos clients pour améliorer son modèle? C’est son réglage par défaut, sauf si nous achetons le forfait Enterprise. Cette utilisation pourrait ne pas correspondre à la raison pour laquelle les clients ont écrit. Conserver les billets pendant 18 mois aux États-Unis est-il acceptable pour nos clients et selon nos lois? Le lieu et la durée de conservation des données sont deux questions distinctes. Quel contrat limite ce que ReplyRight peut faire avec les données, et qu’en advient-il quand nous partons? Sa proposition permet seulement d’exporter les paramètres, pas l’historique des réponses.

Vérifiez votre compréhension

Omar a proposé la requête v3, et Omar approuve les changements de niveau moyen. Est-ce un conflit? Quand cela le devient-il?

Afficher la réponse

Ce n’est pas un conflit tant que la barrière de mise en production décide selon les preuves. La barrière vérifie les risques élevés selon des limites fixes, écrites avant que quiconque regarde le résultat. Omar approuve seulement une version qui a franchi la barrière. Cela devient un conflit lors d’une exception. Mettre en production une version qui échoue à la barrière supprime le contrôle d’un risque élevé. Omar ne peut alors pas approuver sa propre proposition. Seule Nadia, la personne qui répond du résultat, peut le faire, après avoir lu les preuves.

Récapitulatif

  • La gouvernance définit qui peut décider quoi, avec quelles preuves, et où la décision est consignée. Gardez-la proportionnelle au risque : le score du registre détermine le niveau, pas l’ampleur du changement.
  • Trois niveaux : le responsable d’équipe décide (faible); le responsable produit approuve après le franchissement de la barrière (moyen, et tout changement de requête ou de modèle); la personne qui répond du résultat signe (élevé, toute exception à la barrière et tout nouveau flux de données personnelles).
  • Les lois sur la vie privée demandent pourquoi vous utilisez des données personnelles et en quelle quantité. Elles demandent aussi qui d’autre les reçoit, où, pour combien de temps et quels droits les personnes ont. La réglementation de l’IA classe les usages selon les préjudices : interdits, à risque élevé, obligations de transparence, peu d’obligations.
  • Consultez un spécialiste avant de transférer de vraies données ou de lancer la fonctionnalité, et apportez des preuves. Ce cours donne des repères, pas des conseils juridiques.

Ensuite, vous planifiez le lancement lui-même : les étapes, les signaux et les conditions qui entraînent la suspension de la fonctionnalité.

Leçon suivante : Le lancement et la suite