Une carte du paysage
- Leçon 4
- 25 min
- Module 2 : Les lois et les normes en termes simples
Où nous en sommes
Dans le module 1, nous avons repéré les huit systèmes d'IA de Larkfield et attribué un responsable à chacun. La question suivante est de savoir quelles règles ces responsables doivent suivre. Les mots prêtent à confusion : loi, norme, cadre, contrat. Dans cette leçon, nous dessinons une carte du paysage. Nous partons d'une situation connue de beaucoup de gens : louer une voiture dans un autre pays.
Leçon 4 sur 19 · Gouvernance de l'IA : politiques, risques et responsabilitéUne carte du paysage
1. À quoi sert la gouvernance
2. Les lois et les normes en termes simples
3. Inventaire, niveaux de risque et évaluation d'impact
4. Des politiques que l'on peut suivre
5. Contrôles, documentation et preuves
6. Faire vivre la gouvernance
Ce que vous saurez faire
Avant de suivre une règle, vous devez savoir de quel type de règle il s’agit. Vous classez les textes sur l’IA en six types. Vous voyez lesquels imposent des obligations à une organisation et listez les règles d’un système de Larkfield.
Avant de commencerCe qu’il faut savoir et avoir sous la main
Ce que vous devez savoir
- Les huit systèmes de Larkfield et leurs responsables, présentés dans Découvrir le portefeuille d’IA de Larkfield.
Ce qu’il vous faut
- Un navigateur et un outil pour rédiger des documents.
- La carte des lois et des normes : chaque entrée indique sa source officielle et la date de sa vérification.
- Le modèle des règles par système et la fiche système de l’assistant documentaire.
Ce cours ne constitue pas un avis juridique. Il explique à quoi sert chaque règle, pour que vous sachiez quoi demander à un avocat. Voici les textes officiels cités sur cette page : la LPRPDE, le règlement européen sur l’IA, règlement (UE) 2024/1689, la Directive sur la prise de décisions automatisée, le cadre de gestion des risques liés à l’IA du NIST et les tables de correspondance du NIST (tous vérifiés le 22 octobre 2026).
Louer une voiture dans un autre pays
Section intitulée « Louer une voiture dans un autre pays »Vous prenez l’avion vers un autre pays et louez une voiture. Plusieurs règles s’appliquent maintenant à vous, mais elles ne sont pas du même type.
Le code de la route de ce pays vous impose des obligations. Votre lieu de résidence ne change rien : vous conduisez dans ce pays, donc sa loi s’applique. Vous avez signé un contrat de location. Il impose des obligations à vous et à l’entreprise de location, et à personne d’autre. La voiture a réussi un test de sécurité choisi par son fabricant. Un centre d’essai l’a vérifiée selon une norme écrite. Votre ami vous a donné un guide de conduite avec de bons conseils pour les routes de montagne. Vous pouvez le suivre ou non. Et la radio annonce que le gouvernement prévoit une nouvelle limite de vitesse. Aujourd’hui, ce n’est qu’un projet.
Quand la police vous arrête, seuls la loi et votre permis comptent. Quand vous rendez la voiture avec une égratignure, le contrat compte. Le guide vous aide à bien conduire, mais ne vous protège dans aucun de ces deux cas.
Le problème : cinq règles qui se ressemblent
Section intitulée « Le problème : cinq règles qui se ressemblent »Farida, première responsable des risques et de la conformité chez Larkfield, pose une question simple dès sa première semaine. « Quelles règles nos systèmes d’IA suivent-ils? » Larkfield, son personnel et ses systèmes sont construits pour ce cours.
Les réponses mélangent tous les types de règles :
- Omar : « On suit le cadre du NIST, donc on est couverts. »
- Tomás : « On utilise l’IA de grands fournisseurs. Les règles, c’est leur problème. »
- Mei : « ISO/IEC 42001, c’est une loi? Un client nous a posé la question. »
- Sam : « Et le script du résumé hebdomadaire? Ça ne relève pas des lois sur l’IA, non? »
La question de Sam révèle le problème. Le script du résumé hebdomadaire envoie une semaine de messages clients à un service d’IA, avec les noms et numéros de commande. Larkfield n’a aucun contrat avec ce service. Personne ne l’a vérifié, parce que tout le monde cherchait des « règles sur l’IA ». Pourtant, la loi fédérale canadienne sur la vie privée rend déjà une organisation responsable des renseignements personnels dont elle a la gestion. Cela reste vrai lorsqu’une autre entreprise traite les renseignements pour elle (LPRPDE, annexe 1, principe 4.1.3). Les règles les plus anciennes s’appliquent d’abord, et personne ne les avait listées.
L’idée : six types de règles et les obligations qu’ils imposent
Section intitulée « L’idée : six types de règles et les obligations qu’ils imposent »Ici, une règle est tout texte qui indique ce qu’une organisation devrait faire. La carte de ce cours les classe en six types. Pour chaque type, posez deux questions : impose-t-il des obligations, et à qui?
- Une loi impose des obligations à toutes les personnes et organisations auxquelles elle s’applique, qu’elles soient d’accord ou non. Le règlement européen sur l’IA et la loi fédérale canadienne sur la vie privée (LPRPDE) sont des lois.
- Un projet de loi est une proposition de loi. Il n’impose encore aucune obligation. Il peut changer ou ne jamais être adopté.
- Une politique gouvernementale impose des obligations uniquement aux organismes publics qu’elle désigne. La Directive sur la prise de décisions automatisée du Canada en est une. Elle s’applique aux institutions fédérales, pas aux entreprises privées.
- Une norme est un document rédigé par un organisme de normalisation, comme ISO. Elle vous impose des obligations seulement si vous la choisissez, ou si un contrat ou une loi l’exige. Certaines normes fixent des exigences qu’un organisme externe peut vérifier et certifier; d’autres donnent seulement des conseils.
- Un cadre fournit des conseils à suivre volontairement. Le cadre de gestion des risques liés à l’IA du NIST indique lui-même qu’il est volontaire.
- Un contrat impose des obligations aux parties qui le signent, et seulement à elles : conditions de vos fournisseurs, contrats de vos clients.
Description textuelle du diagramme
La carte contient six cases en deux groupes, avec une flèche de chaque case vers votre organisation. Le premier groupe impose des obligations. Une loi, comme le règlement européen sur l’IA, le RGPD, la LPRPDE ou la loi québécoise sur la vie privée : vous devez la suivre si elle s’applique à vous. Un contrat, comme les conditions d’un fournisseur ou le contrat d’un client : vous devez le suivre parce que vous l’avez signé. Une politique gouvernementale, comme la Directive sur la prise de décisions automatisée du Canada : elle impose des obligations uniquement aux organismes publics qu’elle désigne. Le second groupe n’impose pas d’obligations à lui seul. Une norme, comme ISO/IEC 42001 ou 42005 : vous la suivez si vous la choisissez, ou si un contrat l’exige. Un cadre, comme AI RMF du NIST : vous le suivez si vous le choisissez. Un projet de loi, comme C-34 et C-36 au Canada : une flèche pointillée, car vous le surveillez seulement; il peut devenir une loi.
Ces types de règles sont aussi liés. Un contrat peut rendre une norme obligatoire : un grand client peut demander un certificat à ses fournisseurs. Un cadre peut avoir des correspondances avec une norme : le NIST présente une table de correspondance entre son cadre et ISO/IEC 42005. Un projet de loi peut devenir une loi. Mais ces liens ne fonctionnent que dans un sens. Suivre un cadre volontaire ne prouve pas, à lui seul, que vous respectez une loi. Donc, quand Omar dit « on suit le NIST, donc on est couverts », il mélange deux types de règles.
Quelles règles une organisation suit-elle?
Section intitulée « Quelles règles une organisation suit-elle? »Une même organisation peut être visée par une loi, mais pas par une autre. Comme pour le conducteur, la réponse dépend du lieu d’utilisation du système, des personnes dont il utilise les données, de ce que vous avez signé et de ce que vous avez choisi.
Description textuelle du diagramme
Le parcours commence par un système et pose quatre questions. Premièrement : où utilise-t-on sa sortie, et à qui appartiennent les données qu’elle contient? Cela donne les lois de ces endroits. Deuxièmement : qu’avons-nous signé? Cela donne les contrats avec le fournisseur, les clients ou les partenaires. Troisièmement : qu’avons-nous choisi? Cela donne les normes et les cadres que nous avons adoptés. Quatrièmement : que propose-t-on? Cela donne les projets de loi à surveiller. Les quatre réponses remplissent une ligne d’un tableau : les règles, notre rôle, la raison et nos incertitudes. À partir de cette ligne, nous rédigeons les questions à poser à un avocat.
La dernière case compte le plus. Ce n’est pas vous qui déterminez si une loi s’applique à votre organisation; c’est un avocat. Votre travail consiste à lui fournir les faits nécessaires et les questions auxquelles vous ne pouvez pas répondre.
Un petit exemple : les règles de l’assistant documentaire
Section intitulée « Un petit exemple : les règles de l’assistant documentaire »Farida commence par le système le plus simple, l’assistant documentaire. Sa fiche indique qu’il répond aux questions du personnel à partir des documents de Larkfield, avec des citations. Le personnel au Canada l’utilise, tout comme celui d’un magasin partenaire. Larkfield vend à des clients au Canada et dans l’Union européenne (situation construite pour ce cours).
Elle pose les quatre questions, une à la fois, et note chaque réponse :
| Question | Réponse de Farida | Type de règle |
|---|---|---|
| 1. Où utilise-t-on la sortie? | Le personnel au Canada lit les réponses. Celui du magasin partenaire aussi, mais où se trouve-t-il? On ne le sait pas. | loi (Canada); règlement européen sur l’IA seulement si la sortie est utilisée dans l’UE |
| 1. À qui appartiennent les données qu’elle contient? | Documents internes, dont certains contiennent des renseignements personnels | loi : loi canadienne sur la vie privée (LPRPDE) |
| 2. Qu’avons-nous signé? | Le contrat du fournisseur de modèle; une entente avec le magasin partenaire | contrat |
| 3. Qu’avons-nous choisi? | Rien pour l’instant | aucune norme ni aucun cadre n’est obligatoire |
| 4. Que propose-t-on? | Le projet de loi canadien C-36 sur la vie privée | projet de loi : à surveiller seulement |
| Incertitude | où se trouve le personnel du magasin partenaire | — |
| Question pour un avocat | Servir le personnel d’une autre entreprise change-t-il le rôle de Larkfield selon le règlement européen sur l’IA? | — |
Une ligne concernant le règlement européen sur l’IA reste vide : la catégorie du système et le rôle de Larkfield. Pour la remplir, il faut examiner la loi elle-même, ce qui vient ensuite. Remarquez ce que la ligne montre déjà. Aujourd’hui, une loi et deux contrats imposent des obligations à l’assistant documentaire. Aucune norme ne lui en impose, parce que Larkfield n’en a choisi aucune.
Le paysage complet de Larkfield
Section intitulée « Le paysage complet de Larkfield »Farida ouvre la carte des lois et des normes. Elle annote chaque entrée pour Larkfield dans son ensemble :
| Entrée | Type | Impose-t-elle des obligations à Larkfield? |
|---|---|---|
| Règlement européen sur l’IA | loi | Il peut s’appliquer à une entreprise hors de l’UE lorsque la sortie de son système d’IA est utilisée dans l’UE (article 2(1)(c)). Une question pour l’avocat, système par système. |
| RGPD | loi | Il peut concerner les données des clients de l’UE. Une question pour l’avocat. |
| LPRPDE | loi | Loi fédérale canadienne sur la vie privée pour les entreprises privées : très probablement, selon l’interprétation de Larkfield. L’avocat confirme. |
| Loi québécoise sur la protection des renseignements personnels dans le secteur privé | loi | Elle peut concerner les clients au Québec. Une question pour l’avocat. |
| Directive sur la prise de décisions automatisée | politique gouvernementale | Non : elle vise les institutions fédérales. Elle reste un bon modèle pour apprendre. |
| Projets de loi C-34 et C-36 | projet de loi | Non : ce ne sont pas des lois. Surveillez-les. |
| ISO/IEC 42001 et 42005, AI RMF du NIST | norme, cadre | Seulement si Larkfield les choisit, ou si le contrat d’un client les exige. |
| Conditions du fournisseur de modèle, conditions de TicketHarbor (inventées pour ce cours) | contrat | Oui, parce que Larkfield les a signées. |
| Service d’IA du script du résumé hebdomadaire | — | Aucun contrat : la lacune que Sam a trouvée. |
Deux lignes surprennent. Le script, qui semble être le plus petit système, présente la plus grande lacune. Cette lacune concerne un contrat, pas une loi sur l’IA. Et la Directive n’impose aucune obligation à Larkfield, mais montre comment une organisation prudente évalue une décision automatisée. Une étude de cas ultérieure examine des évaluations publiées dans le cadre de cette directive.
Discussion : « on suit le NIST, donc on est couverts »
Section intitulée « Discussion : « on suit le NIST, donc on est couverts » »Omar veut dire à un grand client de l’UE que Larkfield « suit le cadre du NIST et respecte donc les règles sur l’IA ».
- Omar : « Le NIST, c’est le cadre d’IA le plus connu. Dire qu’on le suit, ça répond au client. »
- Tomás : « Et notre modèle vient d’un grand fournisseur. Le règlement sur l’IA, c’est son travail. »
- Mei : « Le client a posé des questions sur le règlement européen sur l’IA et sur ISO/IEC 42001. Ni l’un ni l’autre n’est le NIST. »
Avant de poursuivre votre lecture, répondez aux questions suivantes :
- De quel type de règle relève chaque texte dans cette discussion?
- Suivre un cadre peut-il prouver que Larkfield respecte une loi?
- Que devrait plutôt envoyer Larkfield au client?
La réponse du cours. Le cadre du NIST est volontaire. Le règlement européen sur l’IA est une loi. ISO/IEC 42001 est une norme. Suivre un cadre est utile, mais ne prouve pas que les obligations d’une loi sont respectées. Tomás conclut aussi trop vite. Le règlement impose des obligations à l’entreprise qui fournit un système et à celle qui l’utilise (article 3(3) et (4); pour les systèmes à haut risque, article 26). Larkfield ne peut donc pas renvoyer la question à son fournisseur. Larkfield devrait envoyer des faits au client : quels systèmes traitent ses données, ce que chacun fait et quelles règles Larkfield applique. Si le contrat du client exige quelque chose de précis, comme un certificat, c’est le contrat qui décide.
Ce qui changerait la réponse : si le client demandait seulement un processus de gestion des risques, le cadre serait une partie pertinente de la réponse. Si le contrat du client exigeait la certification ISO/IEC 42001, la norme imposerait des obligations à Larkfield par le contrat.
Quand utiliser la carte et ce qu’elle coûte
Section intitulée « Quand utiliser la carte et ce qu’elle coûte »Utilisez la carte chaque fois qu’un nouveau système arrive ou qu’un fournisseur change ses conditions. Utilisez-la aussi lorsqu’un système est utilisé dans un nouveau pays ou pour un nouveau type de client. Gardez une ligne par système, pas une ligne pour toute l’entreprise. Les règles diffèrent selon le système, comme le montrent l’assistant documentaire et le script.
N’utilisez pas la carte pour décider si une loi s’applique à vous. Elle vous indique quoi demander. Le coût correspond à quelques heures pour remplir le tableau, puis à une partie du temps d’un avocat. Ce travail juridique prend moins de temps et coûte moins cher si vous arrivez avec les lignes remplies.
Erreur courante
Une liste de règles sans aucun contrat
Symptôme : la liste des « règles que nous suivons » de l’entreprise nomme le règlement européen sur l’IA, un cadre et une norme. Elle ne nomme aucun contrat. Un script envoie les données des clients à un service avec lequel personne n’a signé de contrat.
Cause : l’équipe a cherché seulement les règles dont le nom contient « IA ». Les lois sur la vie privée et les contrats s’appliquaient déjà, et personne ne les a listés.
Correction : posez les quatre questions pour chaque système, y compris « qu’avons-nous signé? ». Une réponse vide à cette question est un constat, pas une case vide. Transmettez-le au responsable du système et à la personne responsable de la vie privée, Mei chez Larkfield.
Vérification des connaissances
Section intitulée « Vérification des connaissances »Vérifiez votre compréhension
Classez chaque texte dans l'une des six catégories et indiquez qui il oblige : (a) le règlement européen sur l'IA; (b) le projet de loi C-36 du Canada; (c) le cadre AI RMF du NIST; (d) les conditions d'utilisation de TicketHarbor (inventées pour ce cours); (e) la Directive sur la prise de décisions automatisée du Canada; (f) la norme ISO/IEC 42001.
Afficher la réponse
(a) Une loi : elle oblige les personnes auxquelles elle s’applique. Cela comprend certaines entreprises hors de l’UE lorsque les résultats de leur IA sont utilisés dans l’UE. (b) Un projet de loi : il n’oblige personne, car ce n’est pas une loi et il peut changer. (c) Un cadre : son adoption est volontaire; il n’oblige personne à moins de choisir de le suivre. (d) Un contrat : il oblige Larkfield et TicketHarbor, car ces entreprises l’ont signé. (e) Une politique gouvernementale : elle oblige les institutions fédérales qu’elle désigne, pas les entreprises privées comme Larkfield. (f) Une norme : elle oblige une organisation seulement si celle-ci la choisit, ou si un contrat ou une loi l’exige.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Omar dit : « Nous suivons le cadre du NIST, donc nous respectons les règles sur l'IA. » Expliquez en deux ou trois phrases ce qui ne va pas et ce que Larkfield devrait faire à la place.
Afficher la réponse
Un cadre donne des conseils d’application volontaire. Le suivre ne prouve pas que les obligations d’une loi sont respectées : ce sont des catégories de règles différentes. Larkfield devrait dresser la liste des règles pour chaque système, à l’aide des quatre questions. Où les résultats sont-ils utilisés, et à qui appartiennent les données? Qu’avons-nous signé? Qu’avons-nous choisi? Qu’est-ce qui est proposé? Larkfield devrait ensuite poser à un juriste les questions auxquelles elle ne peut pas répondre elle-même.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Le script du résumé hebdomadaire est le plus petit système de Larkfield. Pourquoi présente-t-il la plus grande lacune sur la carte?
Afficher la réponse
Il envoie à un service d’IA des messages de clients contenant des noms et des numéros de commande. Larkfield n’a aucun contrat avec ce service. La loi canadienne sur la protection des renseignements personnels rend Larkfield responsable des renseignements personnels sous son contrôle. Cette responsabilité demeure lorsqu’une autre entreprise les traite. La lacune concerne donc les catégories de règles les plus anciennes : une loi sur les renseignements personnels et un contrat. Elle ne concerne pas une nouvelle loi sur l’IA.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Récapitulatif
- Six catégories de règles : une loi oblige toutes les personnes auxquelles elle s’applique; un projet de loi n’oblige encore personne; une politique gouvernementale oblige les organismes qu’elle désigne; une norme vous oblige si vous la choisissez ou si un contrat l’exige; un cadre est d’application volontaire; un contrat oblige les parties signataires.
- Les règles applicables dépendent de l’endroit où les résultats sont utilisés, des personnes dont les données sont utilisées, de ce que vous avez signé et choisi. Remplissez une ligne par système.
- Suivre un cadre ne prouve pas que vous respectez une loi. Les règles les plus anciennes, les lois sur les renseignements personnels et les contrats, présentent souvent les plus grandes lacunes.
- La dernière case contient toujours les questions pour un juriste.
Vous pouvez maintenant distinguer une loi d’une norme ou d’un cadre et dresser la liste des règles pour un système. Mais la ligne de l’assistant documentaire contient encore une cellule vide : sa catégorie et le rôle de Larkfield selon le règlement européen sur l’IA. Vous allez maintenant lire cette loi en termes simples.
Leçon suivante : Le règlement européen sur l'IA