Les évaluations d'impact
- Leçon 10
- 35 min
- Module 3 : Inventaire, niveaux de risque et évaluation d'impact
Où nous en sommes
Dans la dernière leçon, nous avons attribué un niveau de risque à chaque système. Le flux de remboursement passe au niveau élevé s'il rembourse seul de petits montants. Mais un niveau élevé dit seulement « examinez de près ». Il ne dit pas qui pourrait subir un préjudice, comment, ni quoi faire. Dans cette leçon, nous rédigeons une évaluation d'impact et décidons qui la signe. C'est ce qu'une ville fait avant de modifier la route devant une école.
Leçon 10 sur 19 · Gouvernance de l'IA : politiques, risques et responsabilitéLes évaluations d'impact
1. À quoi sert la gouvernance
2. Les lois et les normes en termes simples
3. Inventaire, niveaux de risque et évaluation d'impact
4. Des politiques que l'on peut suivre
5. Contrôles, documentation et preuves
6. Faire vivre la gouvernance
Ce que vous saurez faire
Avant un lancement ou un changement à risque élevé, notez qui pourrait être touché, comment et ce que vous ferez. Limitez le document à une page et faites-le signer par le responsable désigné.
Avant de commencerCe qu’il faut savoir et avoir sous la main
Ce que vous devez savoir
- Les niveaux et les contrôles du niveau élevé, présentés dans Niveaux de risque et contrôles proportionnés.
- Le tableau des responsabilités et le responsable désigné du flux de remboursement, présentés dans Qui est responsable.
- Les règles du Québec sur les décisions fondées uniquement sur un traitement automatisé, présentées dans Le Canada, les États-Unis, le Royaume-Uni et ailleurs.
Ce qu’il vous faut
- Le modèle d’évaluation d’impact, copié dans votre outil de rédaction.
- La demande R-12 dans les demandes de révision, la fiche système S2 et les preuves des cours précédents.
Une nouvelle route devant une école
Section intitulée « Une nouvelle route devant une école »Une ville veut accélérer la circulation devant une école, avec une voie plus large et moins d’arrêts. Avant de construire quoi que ce soit, elle pose quelques questions. Qui utilise cette rue? Les conducteurs, mais aussi les enfants, les parents avec des poussettes et les personnes âgées qui traversent lentement. Qu’est-ce qui s’améliore? Le trajet est plus court. Qu’est-ce qui empire, et pour qui? Les voitures roulent plus vite près des enfants.
La ville décide ensuite comment réduire les préjudices : un passage piéton, une limite de vitesse aux heures scolaires, un moyen pour les parents de porter plainte. Un fonctionnaire désigné signe le plan, pour que quelqu’un en réponde.
La ville ne fait pas cela pour un nouveau banc. Elle le fait pour des changements qui peuvent nuire aux gens.
Le problème : un niveau n’est pas un plan
Section intitulée « Le problème : un niveau n’est pas un plan »La demande R-12 d’Omar propose de laisser le flux de remboursement rembourser jusqu’à 25 $ sans approbation. C’est une demande construite. La dernière leçon a montré que ce changement fait passer le flux du niveau moyen au niveau élevé : les contrôles 9 deviennent 12. Le comité pourrait maintenant dire oui ou non.
Mais dire oui ou non à un niveau laisse les questions importantes sans réponse. Quels clients sont les plus exposés? Que se passe-t-il quand le flux rembourse alors que la politique dit « une personne doit décider »? Comment un client peut-il contester une décision automatique? Qui vérifie que la limite de 25 $ fonctionne? Sans réponses écrites, le comité approuve une étiquette, pas un plan. Et quand un problème survient, personne ne peut montrer ce qui a été pris en compte.
L’idée : une évaluation d’impact
Section intitulée « L’idée : une évaluation d’impact »Une évaluation d’impact est un court document rédigé avant un lancement ou un changement majeur. Elle décrit qui pourrait être touché et comment, ainsi que les avantages et les préjudices. Elle nomme les droits qui pourraient être touchés et explique comment faire corriger un résultat erroné. Elle énumère ensuite les contrôles et se termine par une décision. C’est le plan de la ville pour la route.
Le modèle du cours suit la structure publique de la norme ISO/IEC 42005:2025, évaluation d’impact des systèmes d’IA (source officielle, vérifiée le 22 octobre 2026). ISO/IEC 42005 est une norme payante qui fournit des lignes directrices. Elle explique comment et quand évaluer les effets d’un système d’IA sur les personnes et la société. Les titres et les questions du modèle sont propres à ce cours et ne reprennent pas le texte de la norme.
Le modèle compte sept sections. Chacune répond à une question :
- Portée : qu’évalue-t-on, et qui est responsable?
- Le système : que fait-il, que peut-il faire seul, et à quelles fins ne doit-il jamais servir?
- Personnes touchées : qui touche-t-il, et qui est le plus exposé?
- Avantages et préjudices : que pourrait-il arriver, avec quelle probabilité et quelle gravité?
- Équité, droits et recours : le résultat pourrait-il différer selon les groupes? Quels droits s’appliquent? Comment une personne peut-elle le faire corriger?
- Contrôles : qu’est-ce qui réduit chaque préjudice, qui en est responsable, et qu’est-ce qui prouve que cela fonctionne?
- Décision : autoriser, autoriser sous conditions ou refuser, et qu’est-ce qui ferait changer cette décision?
Un petit exemple : le service de triage sur une page
Section intitulée « Un petit exemple : le service de triage sur une page »Le seul système de Larkfield au niveau élevé aujourd’hui est le service de triage des billets de soutien. Farida rédige son évaluation avec Amira, sa développeuse. La page est construite pour cette leçon; les chiffres sont consignés dans MLOps et LLMOps : exploiter l’IA en production.
Description textuelle du diagramme
La page compte sept sections. Portée : l’acheminement actuel du service de triage. Grace, la responsable désignée, la signe. Farida l’a rédigée avec Amira. La prochaine révision aura lieu dans trois mois. Le système : il trie seul chaque billet et indique s’il nécessite une personne. Les agents lisent et envoient les brouillons. Il ne sert jamais à décider des remboursements. Personnes touchées : chaque client qui écrit. Les plus exposés sont les clients dont le billet nécessite une personne, par exemple pour un problème de sécurité. Avantages et préjudices : l’avantage est un tri plus rapide. Le préjudice en cas d’erreur : un billet qui nécessite une personne ne parvient à personne. Cela s’est produit 10 fois pendant une semaine consignée. Équité, droits et recours : les différences d’acheminement selon la langue n’ont pas encore été mesurées; un client qui écrit de nouveau joint une personne. Contrôles : la barrière de mise en production avant chaque changement de requête ou de modèle, un échantillon quotidien de billets marqués « aucune personne nécessaire », et une pause si l’un d’eux nécessite une personne. Décision : autoriser sous conditions. Arrêter si un autre billet qui nécessite une personne ne parvient à personne.
Observez trois éléments de cette page. La section 4 décrit le préjudice à partir des données du système, et non d’une crainte générale. La section 5 reconnaît une lacune : personne n’a mesuré l’acheminement selon la langue. « Le mesurer » devient donc une condition à la section 7, avec un responsable. La section 6 relie chaque contrôle au préjudice qu’il réduit. Le lecteur peut ainsi vérifier qu’aucun préjudice ne reste sans contrôle.
Quand une évaluation est nécessaire, et qui la signe
Section intitulée « Quand une évaluation est nécessaire, et qui la signe »Le modèle et le tableau des niveaux de risque répondent aux deux questions. Une évaluation est nécessaire avant un lancement, avant un changement majeur (nouveaux utilisateurs, nouvelles données ou autonomie accrue), et à chaque révision. Un système au niveau élevé nécessite une évaluation complète, que le comité examine. Un système au niveau moyen qui touche les clients en nécessite aussi une, signée par le responsable, sans examen du comité. Ce sont des contrôles de leurs niveaux respectifs.
Description textuelle du diagramme
Le parcours commence par un lancement ou un changement majeur : nouveaux utilisateurs, nouvelles données ou autonomie accrue. La question porte sur le niveau après le changement. S’il est élevé, rédigez l’évaluation complète; le responsable désigné la signe et le comité l’examine. S’il est moyen et que le système touche les clients, rédigez l’évaluation; le responsable désigné la signe, sans examen du comité. S’il est faible, ou moyen pour le personnel seulement, aucune évaluation n’est nécessaire; la ligne d’inventaire et les contrôles du niveau suffisent. Une note s’applique à tous les parcours : si l’une des deux questions avant le calcul du score a reçu un oui, le spécialiste juridique lit l’évaluation avant toute signature. Chaque système est aussi évalué de nouveau à chaque révision et après un incident.
Certaines lois exigent leurs propres évaluations, mais leur portée est plus limitée qu’on le pense. Le règlement européen sur l’IA exige une évaluation d’impact sur les droits fondamentaux seulement de certains déployeurs de systèmes à risque élevé. Cela comprend, par exemple, les organismes publics et certains usages en crédit et en assurance. Elle n’est pas exigée de toutes les entreprises. La Directive sur la prise de décisions automatisée du Canada exige des institutions fédérales, pas des entreprises privées, qu’elles publient une évaluation de l’incidence algorithmique. Larkfield rédige donc ses évaluations parce que sa propre méthode l’exige. L’avocat indique si une loi en exige aussi une.
Discussion : qui signe l’évaluation des remboursements?
Section intitulée « Discussion : qui signe l’évaluation des remboursements? »Farida a rédigé l’évaluation pour R-12. Quelqu’un doit maintenant la signer.
- Omar : « Farida l’a rédigée, et elle connaît le mieux les risques. Elle devrait signer. »
- Tomás : « Ça parle de droits et de lois. C’est le travail de l’équipe juridique, donc l’avocat signe. »
- Grace : « Je suis responsable de la politique de remboursement et de la promesse aux clients. Mais je ne suis pas certaine de vouloir ce changement. »
- Sam : « Omar peut signer? C’est sa demande. »
Avant de poursuivre, répondez à ces questions :
- Qui devrait signer, et pourquoi?
- Quel est le problème avec chacun des trois autres choix?
- Qu’est-ce qui protège la décision si la personne qui signe a un conflit d’intérêts?
La réponse du cours. Grace signe. Elle est la responsable désignée du flux de remboursement : la seule personne qui répond de ses résultats et peut l’arrêter. Son doute n’est pas une raison d’éviter de signer. C’est la raison d’être de l’évaluation : elle peut signer « autoriser sous conditions » et nommer les conditions.
Farida rédige et vérifie l’évaluation, mais elle n’est pas responsable des remboursements. Si elle signait, la responsable n’aurait jamais à la lire. L’avocat est consulté sur la section 5, par exemple sur la règle du Québec concernant les décisions fondées exclusivement sur un traitement automatisé (texte officiel, article 12.1, vérifié le 22 octobre 2026). La leçon Le Canada, les États-Unis, le Royaume-Uni et ailleurs explique cette règle. Déterminer si un remboursement automatique est visé revient à l’avocat; ce cours ne tire pas cette conclusion. Omar ne doit jamais signer : une personne qui demande un changement ne peut pas être son seul contrôle. Comme le niveau est élevé, le comité examine la page signée. Cet examen protège la décision si Grace a un conflit d’intérêts.
Ce qui changerait la réponse : si le flux de remboursement n’avait aucun responsable désigné, personne ne pourrait encore signer. L’inventaire a révélé ce problème pour d’autres systèmes. La première étape serait d’en nommer un.
Quand rédiger une évaluation, et ce qu’elle coûte
Section intitulée « Quand rédiger une évaluation, et ce qu’elle coûte »Rédigez l’évaluation avant le début du travail, pas après le lancement. Une première page prend quelques heures avec la personne qui développe le système et son responsable. La plupart des réponses figurent déjà dans la ligne d’inventaire, la fiche système et les preuves. Limitez-la à une page et ajoutez des liens vers les preuves; une longue évaluation est une évaluation que personne ne lit.
N’en rédigez pas pour chaque changement au niveau faible : c’est ainsi que les évaluations deviennent de simples formulaires. Et ne copiez pas la page de l’année précédente lors d’une révision. Les questions restent les mêmes, mais les réponses changent avec le système.
Erreur courante
Une évaluation qui ne dit rien
Symptôme : toutes les sections sont remplies, la page est signée, et le comité approuve en cinq minutes. Mais la section 4 dit « erreurs possibles, faible probabilité », et la section 6 dit « surveillance ».
Cause : les sections contiennent des mots généraux, pas les preuves propres à ce système. Personne ne pouvait contester la page, donc personne n’avait à la lire.
Solution : chaque préjudice nomme un groupe, un exemple et ses preuves, ou indique « non mesuré ». Chaque contrôle nomme un responsable et ce qui prouve son efficacité. Un réviseur qui ne trouve aucun préjudice à remettre en question renvoie la page.
Exercice guidé : les sections 1 à 3 pour R-12
Section intitulée « Exercice guidé : les sections 1 à 3 pour R-12 »-
Ouvrez votre copie du modèle d’évaluation d’impact, la demande R-12 et la fiche système S2.
-
À la section 1, écrivez le système et le changement : « Flux de résolution du soutien : remboursements jusqu’à 25 $ sans approbation (R-12) ».
-
Écrivez le nom de la responsable désignée qui signe : Grace. Indiquez qui a rédigé le document et qui a été consulté.
-
Fixez la prochaine révision : 3 mois après le lancement, ou après le premier incident. Un niveau élevé exige une révision tous les 3 mois.
-
À la section 2, écrivez ce que le flux peut faire seul après le changement et ce qui nécessite encore une personne.
Vérification : les remboursements au-dessus de la limite, les refus et les billets que la politique confie à une personne vont toujours à une personne.
-
À la section 3, énumérez les groupes : les clients qui demandent un remboursement, les chefs d’équipe et l’équipe des finances.
-
Indiquez les clients les plus exposés. Utilisez les preuves des cours précédents.
Vérification : vous avez trouvé le billet en allemand. Dans le cours Agents d’IA et orchestration des flux de travail, un des changements non demandés concernait un billet en allemand.
Les preuves consignées pour la section 4 se trouvent dans le même fichier. Ce cours a testé trois conceptions du flux. Lorsque toutes les propositions étaient approuvées telles quelles, la conception avec un agent et un petit modèle a fait 3 changements non demandés dans 2 billets, sur 70. La conception avec routeur, où un petit modèle choisit seulement entre des étapes fixes, en a fait 0. Un approbateur strict les a tous éliminés dans chaque conception.
À vous de jouer : les sections 4 à 7
Section intitulée « À vous de jouer : les sections 4 à 7 »Rédigez les sections 4 à 7 pour R-12. Nommez chaque préjudice avec ses preuves, attribuez un responsable à chaque contrôle, puis terminez par une décision et ce qui la changerait.
Afficher une réponse possible
- 4. Avantages et préjudices. Avantage : remboursements plus rapides et moins de travail d’approbation. Préjudices : un remboursement erroné (perte d’argent, mais corrigeable); un remboursement effectué alors que la politique exige « une personne ». Preuves : seulement les données de test consignées de 70 billets; aucune mesure en production pour le moment. Un refus erroné ne fait pas partie du changement, car les refus vont toujours à une personne. Notez cela comme condition.
- 5. Équité, droits et recours. Vérifiez les résultats selon la langue. Un client en désaccord peut joindre une personne en une étape, et la réponse indique qu’une personne peut réviser la décision. Québec : demandez à l’avocat si un remboursement toujours accordé automatiquement constitue une décision fondée exclusivement sur un traitement automatisé.
- 6. Contrôles. Une limite de 25 $ par remboursement et un total quotidien; uniquement la conception avec routeur; les refus vont toujours à une personne; Grace échantillonne 20 remboursements automatiques par semaine; une pause si l’échantillon révèle un remboursement interdit par la politique; la barrière de mise en production avant tout changement de modèle ou de requête.
- 7. Décision. Autoriser sous conditions, comme projet pilote : une file, 4 semaines, avec la limite et la condition de pause ci-dessus. Le comité décide de nouveau à partir des résultats de l’échantillon. Ce qui changerait la décision : un remboursement interdit dans l’échantillon (arrêter), ou un incident lié aux approbations (arrêter et corriger d’abord les approbations).
Vérification des connaissances
Section intitulée « Vérification des connaissances »Vérifiez votre compréhension
Le comité reçoit une évaluation signée pour R-12. La section 5 dit « aucun problème d'équité prévu ». Pourquoi doit-il la renvoyer? Que devrait plutôt dire cette section?
Afficher la réponse
« Aucun problème prévu » est une affirmation sans preuve. Personne n’a mesuré les résultats du flux de travail selon la langue. Le cours Agents d’IA et orchestration des flux de travail a relevé une modification non demandée dans un billet en allemand. La section devrait préciser ce qui n’a pas encore été mesuré et comment on le mesurera. Il faut mesurer les résultats selon la langue pendant le projet pilote. Elle devrait aussi expliquer comment un client en désaccord peut joindre une personne et faire corriger le remboursement.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Faites une prédiction : l'outil de notes de réunion, de niveau faible, ajoute une fonction qui envoie les résumés aux clients. A-t-il maintenant besoin d'une évaluation d'impact?
Afficher la réponse
Recalculez d’abord son score. C’est un changement majeur, car les clients reçoivent maintenant les sorties de l’outil. Le score des personnes touchées est déjà de 2, car des clients participent à certains appels. Celui des préjudices pourrait atteindre 2 : un résumé erroné peut donner une fausse information à un client. La somme est alors de 2 + 2 + 1 + 2 = 7 : niveau moyen. Un système de niveau moyen qui touche les clients exige une évaluation d’impact signée par Omar, le responsable désigné. Le comité n’a pas à l’examiner. Si le changement faisait passer le système au niveau élevé, le comité examinerait aussi l’évaluation. C’est le niveau après le changement qui compte, pas l’ancien.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Vérification de fin de module : justifiez le niveau du flux de remboursement, aujourd'hui et avec la demande R-12. Présentez les contrôles qui en découlent.
Afficher la réponse
Aujourd’hui : préjudices 2 (un remboursement erroné coûte de l’argent et peut être corrigé), personnes 2 (clients). Autonomie 2 (le système propose; une personne approuve chaque action), données 2 (données personnelles). La somme est de 8 : niveau moyen, avec 9 contrôles. Le niveau moyen retire la procédure accélérée et la révision annuelle. Il ajoute, par exemple, une fiche système et une évaluation avant chaque mise en production. Il exige aussi qu’une personne approuve chaque action qui touche un client, et une révision tous les 6 mois. Il ajoute également une évaluation d’impact signée par Grace, car le flux de travail touche les clients. Avec R-12, l’autonomie passe à 3, et la somme est de 9 : niveau élevé. La règle 2 (agit seul avec un score de préjudices de 2 ou plus) donne le même résultat. Il faut alors 12 contrôles. L’évaluation d’impact complète, examinée par le comité, remplace celle que seul le responsable examine. Une révision tous les 3 mois remplace celle tous les 6 mois. Les nouveaux contrôles comprennent une barrière de mise en production avec des seuils écrits. Ils comprennent aussi une surveillance avec des conditions de suspension et un plan de réponse aux incidents. Enfin, ils ajoutent un examen juridique ou un examen de la protection de la vie privée. C’est l’autonomie qui change le niveau, pas le sujet.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Récapitulatif
- Une évaluation d’impact indique, sur une page, qui pourrait être touché et comment. Elle présente les avantages et les préjudices, l’équité, les droits et les recours, les contrôles et la décision.
- Le modèle du cours suit le plan public de la norme ISO/IEC 42005, dans ses propres mots.
- Rédigez-en une pour un système de niveau élevé, ou de niveau moyen s’il touche les clients. Faites-le avant un lancement ou un changement majeur, puis à chaque révision. C’est le niveau après le changement qui compte.
- Le responsable désigné signe. Le responsable des risques la rédige et consulte des spécialistes. La personne qui a fait la demande ne signe jamais. Le comité examine les pages des systèmes de niveau élevé.
Dans ce module, vous avez répertorié chaque système, attribué un niveau à chacun et évalué le changement le plus risqué. Mais ce travail ne concerne que quelques personnes. La plupart des membres du personnel de Larkfield utilisent des outils d’IA chaque jour. Il leur faut des règles qu’ils peuvent suivre sans demander conseil. Vous allez maintenant rédiger ces règles.
Leçon suivante : L'usage acceptable pour le personnel