Gouvernance de l'IA : politiques, risques et responsabilité
Fixez les règles de l'IA dans une organisation, donnez un responsable à chaque système d'IA et prouvez que les règles sont suivies. Vous gouvernez le portefeuille d'IA de Larkfield, vous lisez en termes simples les principales lois et normes, et vous terminez par un dossier de gouvernance pour l'année suivante.
Lisez toutes les leçons sans compte, ou connectez-vous pour vous inscrire et suivre vos progrès.
Inscrivez-vous pour enregistrer les leçons que vous terminez. C'est gratuit.
Vous êtes inscrit. Dès maintenant, les leçons que vous terminez sont enregistrées.
Pour obtenir votre certificat, marquez chaque vérification des connaissances comme concordante. Ces leçons ont des vérifications à terminer :
Ce que vous apprendrez
À la fin de ce cours, vous pourrez :
Expliquer à quoi sert la gouvernance de l'IA, et fixer les responsabilités pour que chaque système d'IA ait un responsable et chaque décision une personne qui l'approuve.
Expliquer en termes simples ce que demandent les principales lois et normes (le règlement européen sur l'IA, le cadre de gestion des risques de l'IA du NIST, les normes ISO/IEC 42001 et 42005, et la situation au Canada et ailleurs), et savoir quand consulter un spécialiste.
Dresser un inventaire de l'IA, fixer des niveaux de risque et mener une évaluation d'impact proportionnée au risque.
Rédiger des politiques que le personnel et les équipes peuvent suivre : usage acceptable, développement et achat d'IA, et vérification des fournisseurs.
Transformer les politiques en contrôles et en documentation, et réunir des preuves qu'un auditeur accepterait.
Faire vivre la gouvernance chaque semaine : un comité, des voies rapides pour les faibles risques, les incidents, les plaintes et les recours, et des mesures qui montrent que la gouvernance aide.
À propos de ce cours
L’équipe de la plateforme de Larkfield trouve un script que personne n’a enregistré. Chaque semaine, il envoie des messages de clients à un service d’IA avec lequel Larkfield n’a aucun contrat. Au même moment, l’équipe du soutien veut laisser son processus d’IA proposer des remboursements, et trois outils que Larkfield achète ont ajouté des fonctions d’IA sans rien demander. Larkfield vend à des clients au Canada et dans l’Union européenne. Qui décide de ce qui est permis ? Qui est responsable quand quelque chose tourne mal ? Et comment Larkfield montre-t-elle à un client, à un auditeur ou à une autorité qu’elle suit ses propres règles ?
Dans ce cours, vous suivez la première responsable des risques et de la conformité de Larkfield. Vous dressez l’inventaire de l’IA, vous fixez des niveaux de risque et vous rédigez une évaluation d’impact. Vous rédigez des politiques que le personnel peut suivre sans avocat, vous vérifiez des fournisseurs et vous transformez chaque règle en contrôle avec des preuves. Vous animez un comité de gouvernance, et vous traitez un incident et une plainte.
Vous lisez des politiques, des tableaux et de courts rapports, jamais de code. Les lois et les normes sont expliquées en termes simples, chacune avec sa source officielle et la date de vérification. Ce cours ne constitue pas un avis juridique : chaque leçon sur le droit dit quoi demander à un avocat. Chaque chiffre a une étiquette : enregistré dans un cours précédent, une source officielle, une hypothèse énoncée ou un exemple construit. À la fin, vous rédigez le dossier de gouvernance de Larkfield pour l’année suivante.
Avant de commencer
Aucun. Vous devez savoir lire une courte politique, un tableau et un rapport simple. Vous n'écrivez pas de code et vous n'avez besoin ni d'un compte ni d'argent. Il vous faut un navigateur et un outil de document (traitement de texte, éditeur de texte ou tableur) pour remplir les modèles du cours. Ce cours explique les lois en termes simples ; il ne constitue pas un avis juridique.
À qui s'adresse ce cours
Les personnes qui fixent ou vérifient les règles de l'IA dans une organisation. Les responsables d'affaires et de produits, le personnel des risques, de la conformité et de la protection des renseignements personnels, les auditeurs internes, les responsables de la sécurité et des TI, et les fondateurs de petites entreprises qui font tous ces métiers.
Comment nous avons créé ce cours
Des spécialistes de l'IA expérimentés ont conçu ce cours. L'IA nous a aidés à rédiger le contenu; des personnes ont choisi l'approche pédagogique et les exemples, et ont révisé chaque leçon. Les résultats que vous voyez sont les vrais résultats de l'exécution du code. Comment nous créons les cours
Dans ce cours
Module 1À quoi sert la gouvernance
3 leçons
À quoi sert la gouvernance. Vous voyez les règles comme un code de la route qui aide les équipes à livrer, vous donnez à chaque système d'IA un seul responsable, et vous lisez le portefeuille d'IA de Larkfield pour trouver ce que personne ne prend en charge.
Les lois et les normes en termes simples. Vous distinguez les lois, les normes, les cadres et les contrats, et vous apprenez ce que demandent le règlement européen sur l'IA, le cadre de gestion des risques de l'IA du NIST, les normes ISO/IEC 42001 et 42005 et les règles du Canada et d'ailleurs, et quand consulter un avocat.
Module 3Inventaire, niveaux de risque et évaluation d'impact
3 leçons
Inventaire, niveaux de risque et évaluation d'impact. Vous listez chaque système d'IA, y compris l'IA des outils que vous achetez, vous fixez pour chacun un niveau de risque et les contrôles nécessaires, et vous rédigez l'évaluation d'impact d'un système à risque élevé.
Des politiques que l'on peut suivre. Vous rédigez une politique d'usage acceptable que le personnel peut appliquer, vous fixez les vérifications pour développer et acheter de l'IA selon le risque, et vous lisez deux réponses de fournisseurs pour trouver ce qu'elles omettent.
Contrôles, documentation et preuves. Vous transformez chaque ligne de la politique en contrôle avec un responsable et une preuve, vous tenez à jour les fiches de système et les registres de décision, et vous répondez aux demandes d'un auditeur à partir des preuves.
Faire vivre la gouvernance. Vous animez un comité de gouvernance avec des voies rapides pour les faibles risques, vous traitez un incident et une plainte de client avec un recours, et vous mesurez si la gouvernance réduit les risques ou ralentit seulement les équipes.
Dernier module · choisissez-en au moins uneÉtudes de cas
3 études de cas
Trois études de cas sur des documents publics. Vous examinez une décision de tribunal sur la réponse d'un agent conversationnel, vous rédigez l'évaluation d'impact dont un algorithme public de notation avait besoin, et vous dressez un inventaire à partir d'évaluations d'impact algorithmique publiées. Terminez-en au moins une pour obtenir le certificat. Chacune peut entrer dans votre portfolio.
Terminez au moins une étude de cas pour obtenir le certificat. Les autres sont facultatives. Ce que couvre chacune
Des projets réalistes du début à la fin, sur de vraies données, avec chaque résultat expliqué. Chacun devient une pièce de votre portfolio. Terminez-en au moins une pour obtenir le certificat; les autres sont facultatives.