Aller au contenu
English

Gouvernance de l'IA : politiques, risques et responsabilité

Fixez les règles de l'IA dans une organisation, donnez un responsable à chaque système d'IA et prouvez que les règles sont suivies. Vous gouvernez le portefeuille d'IA de Larkfield, vous lisez en termes simples les principales lois et normes, et vous terminez par un dossier de gouvernance pour l'année suivante.

Lisez toutes les leçons sans compte, ou connectez-vous pour vous inscrire et suivre vos progrès.

Ce que vous apprendrez

À la fin de ce cours, vous pourrez :

  • Expliquer à quoi sert la gouvernance de l'IA, et fixer les responsabilités pour que chaque système d'IA ait un responsable et chaque décision une personne qui l'approuve.
  • Expliquer en termes simples ce que demandent les principales lois et normes (le règlement européen sur l'IA, le cadre de gestion des risques de l'IA du NIST, les normes ISO/IEC 42001 et 42005, et la situation au Canada et ailleurs), et savoir quand consulter un spécialiste.
  • Dresser un inventaire de l'IA, fixer des niveaux de risque et mener une évaluation d'impact proportionnée au risque.
  • Rédiger des politiques que le personnel et les équipes peuvent suivre : usage acceptable, développement et achat d'IA, et vérification des fournisseurs.
  • Transformer les politiques en contrôles et en documentation, et réunir des preuves qu'un auditeur accepterait.
  • Faire vivre la gouvernance chaque semaine : un comité, des voies rapides pour les faibles risques, les incidents, les plaintes et les recours, et des mesures qui montrent que la gouvernance aide.

À propos de ce cours

L’équipe de la plateforme de Larkfield trouve un script que personne n’a enregistré. Chaque semaine, il envoie des messages de clients à un service d’IA avec lequel Larkfield n’a aucun contrat. Au même moment, l’équipe du soutien veut laisser son processus d’IA proposer des remboursements, et trois outils que Larkfield achète ont ajouté des fonctions d’IA sans rien demander. Larkfield vend à des clients au Canada et dans l’Union européenne. Qui décide de ce qui est permis ? Qui est responsable quand quelque chose tourne mal ? Et comment Larkfield montre-t-elle à un client, à un auditeur ou à une autorité qu’elle suit ses propres règles ?

Dans ce cours, vous suivez la première responsable des risques et de la conformité de Larkfield. Vous dressez l’inventaire de l’IA, vous fixez des niveaux de risque et vous rédigez une évaluation d’impact. Vous rédigez des politiques que le personnel peut suivre sans avocat, vous vérifiez des fournisseurs et vous transformez chaque règle en contrôle avec des preuves. Vous animez un comité de gouvernance, et vous traitez un incident et une plainte.

Vous lisez des politiques, des tableaux et de courts rapports, jamais de code. Les lois et les normes sont expliquées en termes simples, chacune avec sa source officielle et la date de vérification. Ce cours ne constitue pas un avis juridique : chaque leçon sur le droit dit quoi demander à un avocat. Chaque chiffre a une étiquette : enregistré dans un cours précédent, une source officielle, une hypothèse énoncée ou un exemple construit. À la fin, vous rédigez le dossier de gouvernance de Larkfield pour l’année suivante.

Avant de commencer

Aucun. Vous devez savoir lire une courte politique, un tableau et un rapport simple. Vous n'écrivez pas de code et vous n'avez besoin ni d'un compte ni d'argent. Il vous faut un navigateur et un outil de document (traitement de texte, éditeur de texte ou tableur) pour remplir les modèles du cours. Ce cours explique les lois en termes simples ; il ne constitue pas un avis juridique.

À qui s'adresse ce cours

Les personnes qui fixent ou vérifient les règles de l'IA dans une organisation. Les responsables d'affaires et de produits, le personnel des risques, de la conformité et de la protection des renseignements personnels, les auditeurs internes, les responsables de la sécurité et des TI, et les fondateurs de petites entreprises qui font tous ces métiers.

Comment nous avons créé ce cours

Des spécialistes de l'IA expérimentés ont conçu ce cours. L'IA nous a aidés à rédiger le contenu; des personnes ont choisi l'approche pédagogique et les exemples, et ont révisé chaque leçon. Les résultats que vous voyez sont les vrais résultats de l'exécution du code. Comment nous créons les cours

Dans ce cours

Module 2Les lois et les normes en termes simples

4 leçons

Les lois et les normes en termes simples. Vous distinguez les lois, les normes, les cadres et les contrats, et vous apprenez ce que demandent le règlement européen sur l'IA, le cadre de gestion des risques de l'IA du NIST, les normes ISO/IEC 42001 et 42005 et les règles du Canada et d'ailleurs, et quand consulter un avocat.

  1. Une carte du paysage25 min
  2. Le règlement européen sur l'IA35 min
  3. Le cadre AI RMF du NIST et la norme ISO/IEC 4200130 min
  4. Le Canada, les États-Unis, le Royaume-Uni et ailleurs30 min

Module 3Inventaire, niveaux de risque et évaluation d'impact

3 leçons

Inventaire, niveaux de risque et évaluation d'impact. Vous listez chaque système d'IA, y compris l'IA des outils que vous achetez, vous fixez pour chacun un niveau de risque et les contrôles nécessaires, et vous rédigez l'évaluation d'impact d'un système à risque élevé.

  1. L'inventaire de l'IA30 min
  2. Niveaux de risque et contrôles proportionnés35 min
  3. Les évaluations d'impact35 min

Module 5Contrôles, documentation et preuves

3 leçons

Contrôles, documentation et preuves. Vous transformez chaque ligne de la politique en contrôle avec un responsable et une preuve, vous tenez à jour les fiches de système et les registres de décision, et vous répondez aux demandes d'un auditeur à partir des preuves.

  1. De la politique au contrôle30 min
  2. La documentation30 min
  3. Preuves et audits35 min

Module 6Faire vivre la gouvernance

3 leçons

Faire vivre la gouvernance. Vous animez un comité de gouvernance avec des voies rapides pour les faibles risques, vous traitez un incident et une plainte de client avec un recours, et vous mesurez si la gouvernance réduit les risques ou ralentit seulement les équipes.

  1. Le comité de gouvernance30 min
  2. Incidents, plaintes et recours35 min
  3. Mesurer la gouvernance30 min

Dernier module · choisissez-en au moins uneÉtudes de cas

3 études de cas

Trois études de cas sur des documents publics. Vous examinez une décision de tribunal sur la réponse d'un agent conversationnel, vous rédigez l'évaluation d'impact dont un algorithme public de notation avait besoin, et vous dressez un inventaire à partir d'évaluations d'impact algorithmique publiées. Terminez-en au moins une pour obtenir le certificat. Chacune peut entrer dans votre portfolio.

Terminez au moins une étude de cas pour obtenir le certificat. Les autres sont facultatives. Ce que couvre chacune

  1. Une décision de tribunal sur la réponse d'un agent conversationnel120 min
  2. Tirer les leçons de l'échec public d'un algorithme120 min
  3. Examiner un registre public de l'IA120 min

Après les études de casTravail final

Utilisez tous les modules dans un projet pratique. Vous recueillez des preuves, puis vous les comparez aux objectifs du cours.

  1. Travail final180 min

Études de cas

Des projets réalistes du début à la fin, sur de vraies données, avec chaque résultat expliqué. Chacun devient une pièce de votre portfolio. Terminez-en au moins une pour obtenir le certificat; les autres sont facultatives.

  1. Une décision de tribunal sur la réponse d'un agent conversationnel2 h

    Lire une décision publique et rédiger l'examen de gouvernance qui aurait évité le problème.

  2. Tirer les leçons de l'échec public d'un algorithme2 h

    Lire les rapports officiels sur l'échec d'une décision automatisée dans le secteur public et rédiger l'évaluation d'impact qui aurait dû être faite.

  3. Examiner un registre public de l'IA2 h

    Utiliser des évaluations d'impact algorithmique publiées sous licence ouverte pour dresser un inventaire et des niveaux de risque.

Avis

Chargement des avis…

    Vous avez suivi ce cours? Connectez-vous pour donner votre avis. Vous pouvez donner un avis après avoir terminé 25 % des leçons.

    Partager ce cours