Aller au contenu
English

Une gouvernance qui aide les équipes à livrer

  • Leçon 1
  • 25 min
  • Module 1 : À quoi sert la gouvernance

Où nous en sommes

Vous suivez déjà des règles au travail : qui peut signer un contrat, ouvrir le coffre ou vérifier une demande de remboursement. L'IA arrive plus discrètement. Une équipe crée un outil, ou un fournisseur active une fonction, et personne ne demande qui a donné son accord. Dans cette leçon, nous voyons les problèmes causés par l'absence de règles et par leur excès. Commençons par les règles de la route.

Lue depuis YouTube. Rien ne se charge depuis YouTube avant que vous appuyiez sur lecture. Confidentialité

Ce que vous saurez faire

Découvrez à quoi sert la gouvernance de l’IA. Sans règles, une IA dont personne ne connaît l’existence lit les données des clients. Avec trop de règles, les équipes cachent leur IA. Une bonne gouvernance se situe entre les deux. Les équipes peuvent livrer, et l’organisation peut prouver ce qu’elle fait.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 25 minutes

Ce que vous devez savoir

Rien pour l’instant. C’est la première leçon du cours. Vous devez lire une courte politique, un tableau et un rapport simple. Le cours ne contient aucun code.

Ce qu’il vous faut

  • Un navigateur. Les fichiers d’exercice du cours sont sur GitHub, dans le dossier C33 du dépôt d’exercices. Commencez par son README.
  • Un outil pour les documents : un traitement de texte, un éditeur de texte ou un tableur.
  • Aucun compte, aucune installation et aucune dépense.

Ce cours ne constitue pas un avis juridique. Il explique les lois et les normes en termes simples, avec leur source officielle. Consultez un avocat pour votre organisation.

Imaginez une ville sans règles de circulation. Chacun conduit le véhicule de son choix, à n’importe quelle vitesse, de n’importe quel côté de la route. La plupart des trajets se terminent quand même bien. Mais à chaque intersection, deux conducteurs devinent ce que l’autre fera. Lors d’un accident, personne ne peut dire qui était en faute. Sans plaque d’immatriculation, personne ne sait même à qui appartenait la voiture.

Imaginez maintenant la ville opposée. Chaque trajet exige une autorisation de la mairie, et il faut trois semaines pour l’obtenir. Aller au magasin exige la même autorisation que conduire un camion rempli de carburant. Que se passe-t-il? Les gens ne cessent pas de conduire. Ils conduisent sans autorisation, sur des routes secondaires, en espérant que personne ne les remarque. La mairie a beaucoup de règles, mais elle connaît moins bien la circulation qu’avant.

Les vraies villes utilisent un code de la route. Chaque voiture a une plaque d’immatriculation et un propriétaire enregistré. Un vélo n’exige aucun permis, mais un camion exige un permis spécial et des inspections régulières. Un conducteur peut présenter son permis et une preuve d’assurance à la demande de la police. Les règles permettent aux gens de conduire et imposent des précautions pour les trajets dangereux.

Larkfield est un magasin pour la maison et le jardin. Il vend en ligne à des clients au Canada et dans l’Union européenne. Larkfield, ses employés et ses systèmes sont construits pour ce cours. Larkfield utilise maintenant l’IA à plusieurs endroits. Ses propres équipes ont créé certains systèmes. D’autres arrivent dans les outils qu’elle achète.

Sans règles, une IA arrive sans que personne le sache. L’équipe de plateforme de Larkfield a trouvé un script dans un dossier partagé (exemple construit). Chaque semaine, il envoie tous les messages des clients de la semaine à un service d’IA. Il envoie ensuite un résumé des plaintes par courriel à une liste de 14 personnes. Larkfield n’a aucun contrat avec ce service d’IA. Le script utilise une clé personnelle qui appartient à un contractuel ayant quitté l’entreprise. Personne ne l’a approuvé, et personne n’en est responsable.

Un deuxième cas n’exige aucun script. TicketHarbor (inventé pour ce cours) vend un module complémentaire que Larkfield branche sur son propre service de soutien. Lors d’une mise à jour, TicketHarbor y a ajouté une fonction de suggestion de réponses par IA et l’a activée par défaut pour tous les agents. Les messages des clients vont maintenant à une fonction d’IA que personne chez Larkfield n’a choisie.

Avec trop de règles, les équipes cachent leur IA. Imaginez que Larkfield réagisse au script par une règle stricte : chaque utilisation de l’IA exige la signature du comité. Un comité de gouvernance est un petit groupe de gestionnaires qui prend des décisions sur l’IA. Ce comité se réunit une fois par mois. Une équipe qui veut des notes de réunion attend des semaines pour une décision sur un petit outil. Elle achète donc l’outil avec une carte d’entreprise et n’en parle à personne. Larkfield a déjà un outil de ce genre. L’équipe produit d’Omar a acheté MinuteMoss, un outil de notes de réunion inventé pour ce cours. Elle a utilisé une carte d’entreprise, sans révision.

Les deux villes arrivent au même résultat : une IA dont personne ne connaît l’existence et que personne ne vérifie.

Trois panneaux côte à côte. Panneau 1, trop peu de règles : un script envoie les messages des clients à un service d'IA; personne ne l'a approuvé, personne n'en est responsable; résultat : une IA dont personne ne connaît l'existence et que personne ne vérifie. Panneau 2, trop de règles : chaque utilisation de l'IA attend des semaines l'accord du comité; les équipes utilisent l'IA discrètement, avec une carte d'entreprise; résultat : une IA dont personne ne connaît l'existence et que personne ne vérifie. Panneau 3, règles proportionnées : chaque système figure dans une liste et a un responsable désigné; un faible risque reçoit une vérification rapide, un risque élevé reçoit une vérification attentive; résultat : les équipes livrent, avec une trace de chaque décision. Les deux premiers panneaux sont rouges, le troisième est vert.
Trop peu de règles et trop de règles échouent de la même façon. Seul le panneau des règles proportionnées montre une organisation qui connaît ce qu'elle utilise.
Description textuelle du diagramme

L’image contient trois panneaux. Dans le premier, trop peu de règles : un script envoie les messages des clients à un service d’IA. Personne ne l’a approuvé et personne n’en est responsable. Dans le deuxième, trop de règles : chaque utilisation de l’IA attend des semaines l’accord du comité. Les équipes utilisent donc l’IA discrètement, avec une carte d’entreprise. Les deux panneaux montrent le même résultat, en rouge : une IA dont personne ne connaît l’existence et que personne ne vérifie. Le troisième panneau, celui des règles proportionnées, est vert. Chaque système figure dans une liste et a un responsable désigné. Un faible risque reçoit une vérification rapide, et un risque élevé reçoit une vérification attentive. Le résultat : les équipes livrent, avec une trace de chaque décision.

La gouvernance de l’IA regroupe les règles, les rôles et les documents qui encadrent l’IA d’une organisation. Ils déterminent les systèmes d’IA utilisés, leurs responsables, les vérifications nécessaires et les preuves à conserver. Le mot vient du terme latin qui désigne l’action de diriger un navire. C’est une image utile : la gouvernance guide le travail. Elle ne l’arrête pas.

Une bonne gouvernance a quatre buts, chacun correspondant à une partie du code de la route :

Quatre paires, chacune avec une flèche allant d'une règle de la route à un but de la gouvernance de l'IA. Chaque voiture a une plaque d'immatriculation mène aux systèmes connus : une liste de tous les systèmes d'IA, y compris ceux achetés. Chaque voiture a un propriétaire enregistré mène aux responsables clairement désignés : une personne nommée pour chaque système. Un vélo n'exige aucun permis, un camion exige un permis spécial et des inspections régulières mène aux vérifications proportionnées : plus les dommages possibles sont importants, plus la vérification est attentive. Un conducteur peut présenter son permis et une preuve d'assurance mène aux preuves : un document qui indique qui a décidé quoi, et pourquoi.
Les quatre buts de la gouvernance de l'IA, chacun avec la règle de la route dont il s'inspire.
Description textuelle du diagramme

L’image montre quatre paires. À gauche se trouve une règle de la route. À droite se trouve le but de la gouvernance de l’IA qui s’en inspire. Une plaque d’immatriculation sur chaque voiture devient les systèmes connus : une liste de tous les systèmes d’IA, y compris ceux achetés. Un propriétaire enregistré pour chaque voiture devient les responsables clairement désignés : une personne nommée pour chaque système. Un vélo sans permis et un camion soumis à des inspections deviennent les vérifications proportionnées. Plus les dommages possibles sont importants, plus la vérification est attentive. Un permis de conduire et des papiers d’assurance deviennent les preuves : un document qui indique qui a décidé quoi, et pourquoi.

  • Systèmes connus. Vous ne pouvez pas gouverner ce que vous ne voyez pas. Les fonctions achetées comptent, car elles reçoivent aussi les données des clients.
  • Responsables clairement désignés. Une personne nommée répond de chaque système et peut dire « arrêtez ». La prochaine leçon porte sur ce sujet.
  • Vérifications proportionnées. « Proportionné » signifie adapté à l’importance du risque : un faible risque reçoit une petite vérification. Un outil qui résume une politique pour le personnel n’exige pas la même révision qu’un outil qui rembourse seul.
  • Preuves. Personne ne peut vérifier plus tard une décision non consignée, que ce soit un gestionnaire, un auditeur ou un tribunal.

Remarquez ce qui ne figure pas dans la liste : « plus d’approbations ». Une étape d’approbation que personne ne lit ajoute de l’attente, sans ajouter de sécurité. La gouvernance est bonne quand les équipes peuvent livrer et que l’organisation peut montrer ce qu’elle a fait.

Farida (elle) rejoint Larkfield comme première responsable des risques et de la conformité. Vous la suivez tout au long du cours. Nadia (elle), la directrice des opérations clients, soutient son travail. Pendant sa première semaine, trois demandes arrivent (exemples construits). Farida lit chacune à la lumière des quatre buts :

Demande Système connu? Responsable? Vérification proportionnée Preuves
Un agent de soutien demande : « Puis-je utiliser l’assistant documentaire pour vérifier notre politique de retour? » oui, dans le registre Mei aucune : c’est un usage approuvé d’un outil approuvé aucune nécessaire
Omar veut MinuteMoss (inventé pour ce cours) pour les appels avec les clients non Omar dit qu’il en est responsable une vérification du fournisseur et de la vie privée : l’outil enregistre des personnes extérieures à Larkfield un court document de décision
Omar veut que le flux de remboursement rembourse seul de petits montants oui la fiche indique « Équipe de soutien » une révision attentive : le système agirait sur l’argent des clients sans intervention humaine une décision complète, signée par un responsable désigné

Lisez le tableau ligne par ligne. La première demande n’exige aucune réunion : le code de la route dit « allez-y ». La deuxième exige quelques jours et deux courtes vérifications. La troisième change ce que le système peut faire seul. Elle reçoit donc l’examen le plus attentif. Elle révèle aussi une lacune : une équipe ne peut rien signer. Plus tard dans le cours, vous mesurez exactement à quel point ce seul changement modifie le risque.

Les mêmes quatre questions ont donné trois réponses très différentes. Voilà ce que signifie la proportion.

Si vous avez suivi le cours Diriger des produits et des équipes d’IA, vous connaissez une version courte de cette idée. Sa leçon La gouvernance en pratique établissait trois niveaux d’approbation à partir d’un score de risque. Faible : 1 à 4, moyen : 5 à 9, élevé : 10 à 25. Ce cours construit le système complet autour de tels niveaux : la liste, les responsables, les vérifications et les preuves.

À son premier jour, Farida découvre trois choses. La liste de l’équipe de plateforme montre huit systèmes d’IA. Seulement quatre figurent dans le registre de la plateforme. Ce registre est la liste des systèmes qui fonctionnent sur la propre plateforme de Larkfield, tenue par l’équipe de plateforme. La politique d’IA de Larkfield compte six lignes et ne désigne aucun responsable. Et la plupart des gens pensent que quelqu’un d’autre s’occupe de l’IA.

Ce dernier point est le plus important. Une responsable des risques ne peut pas gouverner huit systèmes seule, et elle ne devrait pas le faire. La gouvernance fonctionne quand chaque responsable en fait une petite partie dans son travail habituel.

Nadia demande à l’équipe quel devrait être le travail de Farida.

  • Tomás (ingénieur en IA) : « La gouvernance, c’est le travail de l’équipe juridique. Elle lit les lois et nous dit ce qui est interdit. »
  • Omar (gestionnaire de produit) : « Chaque nouvelle règle nous ralentit. Nous livrons une fois par semaine, et les clients le remarquent. »
  • Grace (responsable du soutien) : « Mes agents utilisent trois outils d’IA maintenant. Je n’en ai choisi qu’un. »
  • Sam (iel) demande : « Si un fournisseur active une fonction, est-ce notre décision ou la sienne? »

Avant de continuer, répondez à ces questions :

  1. La gouvernance est-elle le travail de l’équipe juridique?
  2. Chaque règle ralentit-elle Omar?
  3. Répondez à la question de Sam.

La réponse du cours. L’avis juridique est un élément du travail, pas le travail entier. L’avocat répond à la question « qu’exige la loi? ». Seule Larkfield peut répondre à ces questions : « quels systèmes utilisons-nous, qui est responsable de chacun et qu’avons-nous vérifié? ». Ces réponses viennent des équipes. La gouvernance relève donc de l’entreprise, avec l’aide de l’équipe juridique.

Omar a raison au sujet des mauvaises règles. Une règle qui traite l’assistant documentaire comme le flux de remboursement le ralentit sans raison. Une règle proportionnée lui permet de livrer les petits changements le jour même, car la démarche est claire.

La question de Sam a une réponse courte : le fournisseur a activé la fonction, mais Larkfield décide de l’utiliser. Les messages sont les données des clients de Larkfield. Une fonction achetée exige un responsable chez Larkfield, autant qu’une fonction créée à l’interne.

Ce qui changerait la réponse : dans une très petite entreprise, une seule personne peut remplir tous ces rôles. Les quatre buts restent les mêmes. La liste est plus courte, et le nom du responsable est souvent le même.

Commencez la gouvernance dès que le premier système d’IA touche les clients, le personnel ou l’argent, pas après le dixième. Désigner un responsable dès le premier jour coûte moins cher que d’en trouver un après un incident.

La gouvernance prend du temps : une liste à tenir à jour, des responsables qui lisent les preuves et des documents à rédiger. Gardez ce coût bas. Offrez aux usages à faible risque une démarche rapide, sans réunion. Réservez la révision attentive aux quelques systèmes qui peuvent causer de vrais dommages. Une règle qui coûte plus que le risque qu’elle réduit est mauvaise, et les gens la contourneront.

Erreur courante

Une politique qui interdit les outils d'IA

Symptôme : la politique dit « Aucun outil d’IA sans l’approbation du comité ». Aucune demande n’arrive au comité pendant des mois. Pourtant, le relevé de la carte d’entreprise montre de nouveaux abonnements à des outils d’IA chaque mois.

Cause : l’interdiction a rendu la démarche approuvée plus difficile que la démarche cachée. Les gens ont toujours besoin des outils, alors ils cessent de demander.

Solution : faites de la démarche approuvée la plus facile. Publiez une courte liste des outils approuvés et des données permises dans chacun. Prévoyez une démarche rapide pour les demandes à faible risque. Demandez ensuite le relevé de carte à l’équipe des finances et ajoutez à la liste chaque outil d’IA qui y figure.

Études de cas de ce cours

À la fin du cours, vous appliquez ce que vous avez appris à un projet réaliste, des données jusqu’à la recommandation. Terminez-en au moins une pour obtenir le certificat; les autres sont facultatives.

Vérifiez votre compréhension

Nommez les quatre buts de la gouvernance de l'IA. Donnez un exemple chez Larkfield d'un but qui n'est pas atteint aujourd'hui.

Afficher la réponse

Systèmes connus, responsables clairement désignés, vérifications proportionnées et preuves. Exemples : le script de résumé hebdomadaire était inconnu jusqu’à sa découverte par l’équipe de plateforme. Les systèmes n’étaient donc pas connus. Le script n’a pas non plus de responsable, ni la fonction de suggestion de réponses activée par le fournisseur. Seulement quatre des huit systèmes figurent dans le registre. La politique ne désigne aucun responsable, donc personne ne la tient à jour.

Vérifiez votre compréhension

Un gestionnaire dit : « Après ce script, nous devons assurer la sécurité. Dorénavant, chaque utilisation de l'IA exige la signature du comité. » Prévoyez ce qui se passera et proposez une meilleure règle.

Afficher la réponse

Les gens ont toujours besoin des outils, et le comité se réunit rarement. Les demandes attendent donc des semaines. Les équipes cessent de demander et achètent des outils discrètement, comme l’équipe d’Omar avec l’outil de notes de réunion. L’organisation en sait alors moins, et non plus. Une meilleure règle est proportionnée. Les outils approuvés et les usages à faible risque suivent une démarche rapide, sans réunion. Les nouveaux outils qui touchent des données personnelles reçoivent une courte vérification. Seuls les quelques changements à risque élevé vont au comité.

Vérifiez votre compréhension

Tomás dit : « Nous utilisons seulement l'IA de grands fournisseurs, alors le fournisseur est responsable. » Répondez-lui avec l'exemple de la fonction de suggestion de réponses.

Afficher la réponse

Le fournisseur a créé la fonction et l’a activée. Mais Larkfield décide de l’utiliser avec les messages de ses clients. Un client qui reçoit une mauvaise réponse se plaint à Larkfield, pas au fournisseur. La fonction exige donc un responsable chez Larkfield, une vérification du traitement des données par le fournisseur et une décision consignée. La taille du fournisseur n’y change rien.

Récapitulatif

  • La gouvernance de l’IA regroupe les règles, les rôles et les documents qui encadrent votre IA. Elle détermine les systèmes utilisés, leurs responsables, les vérifications nécessaires et les preuves. Elle guide le travail; elle ne l’arrête pas.
  • Trop peu de règles et trop de règles aboutissent au même résultat : une IA inconnue que personne ne vérifie.
  • Les quatre buts : systèmes connus, responsables clairement désignés, vérifications proportionnées, preuves. Plus d’approbations n’en fait pas partie.
  • Une fonction d’IA achetée exige un responsable dans votre organisation, tout comme une fonction créée à l’interne.

Vous pouvez maintenant expliquer à quoi sert la gouvernance. Mais « responsables clairement désignés » est facile à dire et difficile à réaliser. Un remboursement touche le soutien, les finances, la vie privée et le client. Ensuite, vous attribuez à chaque système un responsable qui en répond et vous remplissez un tableau des responsabilités.

Leçon suivante : Qui est responsable