Aller au contenu
English

Travail final

  • Après les études de cas
  • environ 3 h

Où nous en sommes

Dans ce cours, vous avez appris à gouverner l'IA un élément à la fois. Responsables, inventaire, niveaux de risque, évaluation d'impact, politiques, contrôles, preuves, comité et décision sur un incident. Chaque élément répondait à une question pour Larkfield. Vous les réunissez maintenant dans un dossier de gouvernance que le comité de Larkfield pourra adopter pour l'année à venir.

Ce que vous saurez faire

Réunissez tout le cours dans un document : le dossier de gouvernance de l’IA de Larkfield pour l’année à venir. Il décrit les systèmes utilisés par Larkfield et la personne responsable de chacun. Il précise la rigueur des vérifications, les règles pour le personnel et les nouveaux projets d’IA, les contrôles et leurs preuves. Il indique aussi qui décide. Il se termine par le plan des 90 prochains jours. Un responsable de la gouvernance peut remettre ce dossier à un comité et lui demander de l’adopter.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 180 minutes

Ce que vous devez savoir

Ce qu’il vous faut

  • Un navigateur et un outil de rédaction. Aucun compte, aucune installation et aucun coût.
  • Les consignes du dossier final-assignment/governance-pack.md, et le dossier templates/. Vous avez utilisé chaque modèle dans les exercices des modules.
  • Vos réponses aux exercices des modules. Elles constituent votre première ébauche : ce travail les met à jour et les rend cohérentes entre elles.
  • À titre indicatif, environ dix à quinze pages. Les tableaux comptent. Un dossier court avec des preuves vaut mieux qu’un long dossier sans preuves.

Vous êtes Farida, responsable des risques et de la conformité chez Larkfield. Nadia, la cadre qui soutient le projet, demande un dossier que le comité pourra adopter à sa prochaine réunion. Elle veut savoir quatre choses : quels systèmes Larkfield utilise, qui en est responsable, quelles sont les règles et ce qui changera dans les 90 prochains jours.

Larkfield, son personnel, ses systèmes et toutes les réponses des fournisseurs sont construits pour ce cours. Les fournisseurs TicketHarbor, MinuteMoss et LedgerFern sont inventés pour ce cours. Les chiffres des cours précédents sont consignés : ils montrent à quoi ressemblent les documents, pas la qualité actuelle d’un modèle.

Vous avez déjà fait la majeure partie de ce travail dans les exercices des modules. Mais des leçons ultérieures ont changé certaines réponses précédentes. INC-07 a montré qu’une étape d’approbation ne fonctionnait pas. Cela touche l’évaluation d’impact de la demande R-12. Les réponses des fournisseurs touchent une demande que le comité avait déjà approuvée. Relisez vos réponses aux modules en tenant compte de tout ce que vous savez maintenant.

Étiquetez chaque chiffre avec les étiquettes du cours : consigné, source officielle, hypothèse ou construit. Pour un chiffre calculé, indiquez les données utilisées dans le calcul.

Ceci n’est pas un avis juridique. Votre dossier peut nommer une loi, mais il ne dit jamais ce qu’elle signifie pour Larkfield. Il indique les questions à poser à un avocat.

Le dossier comporte cinq parties. Chaque partie s’appuie sur la précédente : vous devez connaître les niveaux avant de définir les contrôles. Vous devez aussi connaître les lacunes avant de planifier.

Les cinq parties du dossier de gouvernance, dans l'ordre, avec les leçons correspondantes. Partie 1, inventaire, responsables, niveaux et tableau des responsabilités : Qui est responsable; Découvrir le portefeuille d'IA de Larkfield; L'inventaire de l'IA; Niveaux de risque et contrôles proportionnés. Partie 2, une évaluation d'impact pour un système à risque élevé : Les évaluations d'impact, et l'étude de cas Tirer les leçons de l'échec public d'un algorithme. Partie 3, la politique d'usage acceptable et la politique de développement et d'achat, chacune avec trois questions « Puis-je…? » : L'usage acceptable pour le personnel; Développer et acheter de l'IA. Partie 4, une décision sur les fournisseurs et une carte des contrôles avec preuves : Vérifier les fournisseurs et les modèles; De la politique au contrôle; La documentation; Preuves et audits. Partie 5, le mandat du comité, une décision sur un incident et un plan de 90 jours avec mesures : Le comité de gouvernance; Incidents, plaintes et recours; Mesurer la gouvernance. Dans chaque partie, chaque énoncé juridique a sa source officielle et sa date de vérification : Une carte du paysage; Le règlement européen sur l'IA; Le Canada, les États-Unis, le Royaume-Uni et ailleurs.
Les cinq parties du dossier, dans l'ordre de rédaction, et les leçons qui enseignent chacune. La règle sur les énoncés juridiques s'applique à toutes les parties.
Description textuelle du diagramme

Partie 1, inventaire, responsables et niveaux, avec un tableau des responsabilités : Qui est responsable, Découvrir le portefeuille d’IA de Larkfield, L’inventaire de l’IA et Niveaux de risque et contrôles proportionnés. Partie 2, une évaluation d’impact pour un système à risque élevé : Les évaluations d’impact, et l’étude de cas Tirer les leçons de l’échec public d’un algorithme. Partie 3, la politique d’usage acceptable et la politique de développement et d’achat, chacune testée avec trois questions « Puis-je…? » : L’usage acceptable pour le personnel et Développer et acheter de l’IA. Partie 4, une décision sur les fournisseurs et une carte des contrôles avec preuves : Vérifier les fournisseurs et les modèles, De la politique au contrôle, La documentation et Preuves et audits. Partie 5, le mandat du comité, une décision sur un incident et un plan de 90 jours avec mesures : Le comité de gouvernance, Incidents, plaintes et recours et Mesurer la gouvernance. Dans chaque partie, chaque énoncé juridique a sa source officielle et sa date de vérification : Une carte du paysage, Le règlement européen sur l’IA et Le Canada, les États-Unis, le Royaume-Uni et ailleurs.

Utilise Qui est responsable, Découvrir le portefeuille d’IA de Larkfield, L’inventaire de l’IA et Niveaux de risque et contrôles proportionnés.

  1. Remplissez l’inventaire avec une ligne pour chacun des huit systèmes de Larkfield : systèmes développés, script non enregistré et fonctionnalités des outils achetés.
  2. Désignez une personne nommée comme responsable de chaque système. Une équipe, un rôle ou « plateforme » n’est pas un responsable.
  3. Évaluez chaque système avec le tableau des niveaux de risque. Inscrivez les quatre scores, la somme, le niveau et la règle utilisée. Posez les deux questions avant d’attribuer les scores.
  4. Si votre niveau diffère de celui du registre, indiquez lequel est correct et pourquoi.
  5. Remplissez un tableau des responsabilités pour chaque système à risque moyen ou élevé. Vérifiez : un seul nom dans chaque cellule A.
  6. Indiquez ce qui arrive maintenant à tout système qui enfreint actuellement la politique, et qui en décide.

Utilise Les évaluations d’impact et, comme exemple complet, l’étude de cas Tirer les leçons de l’échec public d’un algorithme.

  1. Choisissez un système classé à risque élevé dans la partie 1, ou un changement prévu qui le ferait passer à ce niveau. La demande R-12 est un tel changement.
  2. Remplissez les sept sections de l’évaluation d’impact à partir du dossier de preuves. Pour chaque préjudice de la section 4, indiquez sa probabilité et le document qui en témoigne.
  3. Dans la section 6, attribuez à chaque contrôle un responsable et une preuve de son fonctionnement.
  4. Dans la section 7, inscrivez la décision, ses conditions avec leurs responsables, et ce qui ferait changer la décision.
  5. Indiquez qui signe et qui révise l’évaluation. La personne qui a demandé le changement ne signe pas.

Si vous avez rédigé l’évaluation de R-12 au module 3, relisez-la après INC-07 et la réunion du comité du module 6. Certaines conditions devront peut-être changer.

Utilise L’usage acceptable pour le personnel et Développer et acheter de l’IA.

  1. Réécrivez l’ébauche de politique d’usage acceptable sur une page. Elle nomme un responsable, indique qui l’approuve et quand elle sera révisée. Elle liste les outils approuvés et les catégories de données avec des exemples. Elle précise aussi ce qu’une personne vérifie et ce qui est toujours interdit. Elle explique comment poser une question et quoi faire en cas de problème.
  2. Assurez-vous que la liste des outils approuvés concorde avec votre décision sur les fournisseurs dans la partie 4.
  3. Remplissez la politique de développement et d’achat : les barrières par niveau, qui décide à chaque barrière et la révision d’une fonctionnalité d’IA dans un outil acheté.
  4. Rédigez trois questions « Puis-je…? » pour chaque politique, comme le personnel ou une équipe les poserait réellement. Répondez à chacune uniquement à partir de la politique. Indiquez la ligne, ou la barrière et le niveau, qui y répond.
  5. Si une réponse exige de « demander à quelqu’un », modifiez la politique jusqu’à ce que ce ne soit plus nécessaire.

Partie 4 : une décision sur les fournisseurs et une carte des contrôles

Section intitulée « Partie 4 : une décision sur les fournisseurs et une carte des contrôles »

Utilise Vérifier les fournisseurs et les modèles, De la politique au contrôle, La documentation et Preuves et audits.

  1. Comparez les réponses des fournisseurs au questionnaire pour les fournisseurs. Classez chaque réponse : précise, vague, absente, défavorable pour nous ou absente du contrat.
  2. Décidez pour TicketHarbor et MinuteMoss : activer, activer sous conditions ou laisser désactivé. Attribuez un responsable à chaque condition et corrigez d’abord les lacunes aux effets irréversibles.
  3. Indiquez ce qui arrive à la fonctionnalité de LedgerFern en attendant ses réponses, et qui en décide.
  4. Consignez chaque décision dans un document de décision. Si une décision modifie une approbation précédente, indiquez quelle demande retourne au comité.
  5. Remplissez la carte des contrôles pour chaque ligne de votre politique d’usage acceptable. Pour chaque contrôle, indiquez son type, son responsable, ses preuves et la fréquence de vérification.
  6. Testez chaque preuve avec les quatre critères de la leçon sur les preuves : produite par le travail, couvre la demande, actuelle, montre que le contrôle a fonctionné.

Partie 5 : le comité, un incident et le plan de 90 jours

Section intitulée « Partie 5 : le comité, un incident et le plan de 90 jours »

Utilise Le comité de gouvernance, Incidents, plaintes et recours et Mesurer la gouvernance.

  1. Révisez le mandat du comité après son premier trimestre. Gardez ce qui a fonctionné. Modifiez ce que le tableau de suivi révèle comme lent ou sans effet. Indiquez qui décide des demandes à chaque niveau.
  2. Décidez du traitement de l’incident INC-07 avec les cinq questions : qui décide, quoi dire aux personnes touchées, comment corriger le résultat, faut-il informer quelqu’un à l’extérieur et qu’est-ce qui change. Consignez la décision dans une ligne de procès-verbal, avec ses conditions et ce qui la ferait changer.
  3. Remplissez le tableau de suivi de la gouvernance avec les valeurs actuelles.
  4. Rédigez le plan de 90 jours : huit actions au maximum. Chacune a un responsable, une mesure du tableau de suivi, la valeur actuelle et la valeur attendue dans 90 jours.
  5. Ajoutez ce que Larkfield cessera de faire, en plus de ce qu’elle commencera.

Utilise Une carte du paysage, Le règlement européen sur l’IA et Le Canada, les États-Unis, le Royaume-Uni et ailleurs.

Chaque fois que votre dossier nomme une loi, un projet de loi ou une norme, indiquez sa source officielle et la date de vérification. Copiez les deux depuis la carte des lois et des normes, ou vérifiez vous-même la source de nouveau. Expliquez à quoi sert la règle, en termes simples. Ne dites pas si Larkfield la respecte.

Terminez le dossier avec des questions pour un avocat : une ligne par question, avec le système et le document concernés. Une bonne question précise les faits pour que l’avocat n’ait pas à les chercher.

Remettez un document, ou un dossier contenant un document par partie. Utilisez ces titres pour que le réviseur trouve rapidement chaque partie :

Larkfield AI governance pack: next year
1 Inventory, owners and tiers (inventory, tier scores and rules, responsibility tables)
2 Impact assessment (one high-tier system or change, seven sections, decision)
3 Policies (acceptable use; build and buy; three "may I...?" questions each)
4 Vendors and controls (vendor decisions and records; control map with evidence)
5 Board, incident and plan (terms of reference; INC-07 minutes line; scorecard; 90-day plan)
Questions for a lawyer

Avant la remise, répondez aux questions « Vérifier avant de remettre » à la fin des consignes du dossier. Chaque « non » indique la partie à corriger.

Un réviseur attribue à chaque partie la mention démontré, partiellement démontré ou pas encore démontré, avec une raison concrète. Pour terminer le cours, les cinq parties doivent être démontrées. Vous pouvez améliorer une partie et la soumettre de nouveau. Si aucun réviseur n’est disponible, appliquez le même tableau à votre dossier, ou demandez à un collègue de le faire.

Partie Démontré lorsque Partiellement démontré, par exemple Pas encore démontré, par exemple
1. Inventaire, responsables, niveaux et tableau des responsabilités Chaque système a une personne nommée comme responsable, et un niveau avec ses scores et sa règle. Tout niveau différent du registre est justifié. Les systèmes à risque moyen et élevé ont un tableau des responsabilités. Un système a une équipe ou un rôle comme responsable. Ou les niveaux sont donnés sans leurs scores. Un système n’a pas de responsable ou de niveau.
2. Une évaluation d’impact Elle porte sur un système ou un changement à risque élevé. Chaque section est remplie à partir du dossier de preuves. La décision comporte des conditions avec responsables et indique ce qui la ferait changer. Les sections contiennent du texte général, pas des preuves. Ou aucune condition n’a de responsable. Elle est absente, ou porte seulement sur un système à risque faible.
3. Deux politiques, chacune avec trois questions « Puis-je…? » La politique seule répond à chaque question, avec sa ligne, ou sa barrière et son niveau. Une réponse exige de « demander à quelqu’un ». Les questions ne sont pas testées.
4. Une décision sur les fournisseurs et une carte des contrôles La décision précise les lacunes et les conditions, chacune avec un responsable. Chaque contrôle a un responsable et des preuves produites par le travail lui-même. Un contrôle n’a pas de preuve. Ou la preuve est un document rédigé pour l’audit. Il n’y a pas de décision sur les fournisseurs.
5. Mandat du comité, décision sur un incident et plan de 90 jours Le mandat indique qui décide à chaque niveau. Le traitement d’INC-07 est décidé avec les cinq questions. Le plan comporte au maximum huit actions, chacune avec un responsable et une mesure, et indique ce qu’il faut arrêter. Le plan comporte des actions, mais aucune mesure. Ou rien n’est arrêté. Il n’y a pas de décision sur un incident.

Non accepté : un dossier où un système n’a pas de responsable ou de niveau, ou un énoncé juridique sans source officielle et date. Un tel dossier ne permet pas de terminer le cours, quelle que soit la qualité du reste. Une conclusion juridique sur Larkfield (« c’est légal », « nous sommes conformes ») compte comme un énoncé sans source. Rédigez plutôt la question pour l’avocat.

Le réviseur vous demande aussi d’expliquer une décision dans chaque partie. Vous devez pouvoir dire sur quel document elle repose.

Erreur courante

Un inventaire qui copie le registre

Symptôme : l’inventaire comporte une ligne par système, et la colonne du niveau reprend celui du registre. La moitié des systèmes manquent, et un niveau est incorrect.

Cause : la personne apprenante a utilisé une seule source. Le registre ne contient que les systèmes enregistrés par les développeurs. Leurs niveaux n’ont jamais été vérifiés selon la méthode.

Correction : retournez à L’inventaire de l’IA et utilisez les trois sources. Attribuez ensuite vous-même les scores à chaque système. Justifiez chaque désaccord avec le registre.

Erreur courante

Un plan de 90 jours qui ne fait qu'ajouter du travail

Symptôme : le plan comporte douze actions : nouveaux formulaires, nouvelles réunions, nouvelles formations. Rien ne s’arrête, et aucune action n’a de mesure.

Cause : le plan répond à « Que pourrions-nous faire de plus? », pas à « Que montre le tableau de suivi? ».

Correction : partez des signaux d’alerte du tableau de suivi. Pour chacun, indiquez une action, un responsable et la valeur attendue. Repérez ensuite le travail qui ne réduit aucun risque et arrêtez-le. Mesurer la gouvernance montre une telle attente au comité de Larkfield.

Récapitulatif

Dans ce cours, vous avez appris à gouverner l’IA tout en permettant aux équipes de continuer à livrer :

  • Connaître et attribuer les responsabilités : gardez un inventaire unique de chaque système développé, acheté ou découvert. Chacun a une personne nommée comme responsable et un tableau des responsabilités.
  • Vérifier de façon proportionnée : attribuez des scores à chaque système pour établir son niveau de risque, puis définissez les contrôles selon ce niveau. L’autonomie fait changer le niveau, pas le sujet.
  • Évaluer avant de changer : rédigez une évaluation d’impact pour les travaux à risque élevé, signée par le responsable. Incluez les conditions et ce qui ferait changer la décision.
  • Écrire des règles que l’on peut suivre : rédigez une politique d’usage acceptable et une politique de développement et d’achat. Testez chacune avec de vraies questions « Puis-je…? » et lisez les réponses des fournisseurs pour repérer leurs lacunes.
  • Prouver : transformez chaque ligne de politique en contrôle avec un responsable et des preuves produites par le travail.
  • Faire vivre la gouvernance : un comité avec un mandat clair, des parcours rapides pour les risques faibles, des incidents traités avec cinq questions et un tableau de suivi qui révèle les activités de façade.
  • Connaître les règles et poser des questions : donnez à chaque énoncé juridique sa source et sa date. Présentez les questions difficiles à un avocat.

Gardez votre dossier à jour. Révisez-le après le tableau de suivi de chaque trimestre, après chaque incident et lorsqu’une règle change.