Aller au contenu
English

De la politique au contrôle

  • Leçon 14
  • 30 min
  • Module 5 : Contrôles, documentation et preuves

Où nous en sommes

Au module 4, nous avons rédigé les règles de Larkfield pour le personnel et pour développer et acheter de l'IA. Les gens peuvent maintenant lire ce qui est permis. Mais une ligne de politique ne bloque rien à elle seule. Quelqu'un ou quelque chose doit la faire respecter, et une trace doit prouver que cela a fonctionné. Dans cette leçon, nous transformons chaque ligne en contrôle, avec un responsable et une preuve, en revenant à la piscine.

Lue depuis YouTube. Rien ne se charge depuis YouTube avant que vous appuyiez sur lecture. Confidentialité

Ce que vous saurez faire

Faites respecter chaque ligne d’une politique d’IA en pratique. Pour chaque ligne, nommez le contrôle qui l’applique, la personne responsable et la trace qui prouve son bon fonctionnement.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 30 minutes

Ce que vous devez savoir

Ce qu’il vous faut

Revenez à la piscine de L’usage acceptable pour le personnel. Son panneau dit : « Interdit de courir près de l’eau. » Le panneau rend la règle claire. Mais à lui seul, il n’arrête personne. La piscine utilise donc trois autres moyens.

  • Le bâtiment : un plancher antidérapant et une barrière qui empêche les jeunes enfants d’accéder à la partie profonde. Ils fonctionnent même sans surveillance.
  • Une routine : un sauveteur surveille, donne un coup de sifflet et note chaque problème dans un registre.
  • Des leçons : les moniteurs de natation expliquent aux enfants pourquoi courir est dangereux.

Quand l’inspecteur de la ville vient, le panneau ne prouve rien. L’inspecteur lit le registre du sauveteur et teste le plancher. Ces traces existent parce que le travail a eu lieu, pas parce que quelqu’un les a rédigées pour la visite.

La première politique d’IA de Larkfield, telle que Farida l’a trouvée, contient la ligne « Vérifier les sorties de l’IA avant utilisation ». Tous les membres du personnel sont d’accord. Rien ne la fait respecter.

À la semaine 3 du projet pilote du flux de remboursement, un chef d’équipe a approuvé 212 propositions. Il en a ouvert 0 avant de les approuver. Le temps médian d’approbation était de 3 secondes. Un billet de soutien en allemand concernant un article endommagé a mené à un remplacement. Selon la politique de remboursement de Grace, ce type de billet doit être confié à une personne. Cette situation est l’incident INC-07, construit pour ce cours. Il repose sur un comportement consigné dans Agents d’IA et orchestration des flux de travail. Dans ce cours, une conception a fait 3 modifications non demandées dans 2 billets sur 70 quand chaque proposition était approuvée telle quelle.

Chaque approbation de cette semaine a été consignée, avec un nom et une heure. Les traces semblaient parfaites. Grace a trouvé le problème dans son échantillon hebdomadaire : elle ouvre dix actions approuvées et vérifie chacune. La ligne de politique existait, et la plateforme consignait chaque clic. Seule la routine de Grace vérifiait que quelqu’un avait lu le billet.

L’idée : un contrôle, son responsable et ses preuves

Section intitulée « L’idée : un contrôle, son responsable et ses preuves »

Dans Niveaux de risque et contrôles proportionnés, un contrôle était tout ce qui réduit un risque. Ici, nous examinons le contrôle du point de vue de la politique : il fait respecter une ligne de politique. Il existe trois types de contrôles, comme à la piscine :

  • Un contrôle de plateforme est appliqué par un système. Par exemple, le serveur MCP de soutien refuse l’approbation d’une personne qui n’a pas le rôle de propriétaire.
  • Un processus est une routine que les gens suivent et qui laisse une trace. Par exemple, l’échantillon hebdomadaire de Grace.
  • La formation explique la règle et sa raison d’être.

Chaque contrôle a un responsable : une personne nommée qui en répond. Chaque contrôle laisse aussi des preuves : une trace produite par le travail lui-même, qui montre que le contrôle a fonctionné. Un journal, une entrée de registre ou une décision signée constitue une preuve. Un document rédigé pour l’audit n’est qu’une description.

Une carte des contrôles est un tableau avec une ligne par ligne de politique. Elle indique le contrôle, son type, son responsable, ses preuves et la fréquence de vérification.

Une ligne de politique, une personne vérifie avant qu'une action d'IA soit exécutée, appliquée de trois façons. Contrôle de plateforme : le serveur MCP refuse une approbation sans le rôle de propriétaire; il prouve la vérification de chaque appel, mais pas la lecture du billet. Processus : l'échantillon hebdomadaire de dix actions approuvées de Grace; il prouve une vérification, avec des constats, et prend du temps au personnel chaque semaine. Formation : chaque membre du personnel apprend la règle; elle prouve qui y a assisté, pas ce que ces personnes font.
Trois types de contrôles pour une ligne de politique. Chaque type laisse une trace différente, et chaque trace prouve quelque chose de différent.
Description textuelle du diagramme

Le schéma montre une ligne de politique en haut : « Une personne vérifie avant qu’une action d’IA soit exécutée. » Trois flèches mènent à trois types de contrôles. Le contrôle de plateforme : le serveur MCP refuse une approbation de toute personne sans le rôle de propriétaire. Sa trace prouve la vérification de chaque appel, mais pas la lecture du billet par une personne. Le processus : l’échantillon hebdomadaire de dix actions approuvées de Grace. Sa trace prouve que quelqu’un a vérifié un échantillon et rédigé des constats; cela prend du temps au personnel chaque semaine. La formation : chaque membre du personnel apprend la règle. Sa trace prouve qui y a assisté, pas ce que ces personnes font à leur poste.

Un petit exemple : la ligne sur les remboursements, étape par étape

Section intitulée « Un petit exemple : la ligne sur les remboursements, étape par étape »

Le modèle de carte des contrôles contient une ligne remplie à titre d’exemple. La voici, étape par étape, avec la valeur à chaque étape.

Six étapes, de la ligne de politique à sa vérification. 1 Ligne de politique : une personne approuve chaque remboursement proposé par un système d'IA. 2 Ce qui doit être vrai : aucun remboursement ne s'exécute sans l'approbation d'une personne dont la limite couvre le montant. 3 Contrôle : le flux de travail propose seulement; le serveur MCP refuse les approbations sans le rôle de propriétaire; un échantillon hebdomadaire s'ajoute. 4 Type : plateforme et processus. 5 Responsable : Grace pour la politique, Kwame pour la plateforme. 6 Preuves et vérification : la trace d'approbation de chaque remboursement et un échantillon hebdomadaire de dix approbations.
La ligne d'exemple de la carte des contrôles. Les étapes 3 et 6 nécessitent chacune deux parties : un contrôle de plateforme et un processus.
Description textuelle du diagramme

Le schéma montre six cases sur une ligne. Case 1, la ligne de politique : « Une personne approuve chaque remboursement proposé par un système d’IA. » Case 2, ce qui doit être vrai : aucun remboursement ne s’exécute sans l’approbation d’une personne dont la limite couvre le montant. Case 3, le contrôle : le flux de travail propose seulement, le serveur MCP refuse les approbations sans le rôle de propriétaire, et Grace vérifie un échantillon d’actions approuvées. Case 4, le type : plateforme et processus. Case 5, les responsables : Grace pour la politique et Kwame pour la plateforme. Case 6, les preuves et la vérification : la trace d’approbation de chaque remboursement et un échantillon hebdomadaire de dix approbations.

  1. Ligne de politique. « Une personne approuve chaque remboursement proposé par un système d’IA. »
  2. Ce qui doit être vrai. Aucun remboursement ne s’exécute sans approbation. La limite de la personne qui approuve couvre le montant.
  3. Contrôle. Le flux de travail peut seulement proposer. Le serveur MCP de soutien vérifie lui-même chaque approbation. Dans MCP : connecter les applications d’IA aux outils et aux données, il a reçu 72 appels et en a refusé 54 (consignés). Parmi eux, 7 ont été refusés à cause du rôle de la personne qui faisait l’appel.
  4. Type. Plateforme. Mais l’étape 6 montre que la plateforme seule ne suffit pas; on ajoute donc un processus.
  5. Responsable. Grace est responsable de la ligne de politique. Kwame est responsable du contrôle de plateforme.
  6. Preuves. Chaque remboursement laisse une trace d’approbation : qui, quand et l’action exacte. Un exemple consigné : Sam a proposé OP-0001, un remboursement de 25.00 dollars pour le billet T-30002. Quand Sam a tenté de l’approuver, le serveur a répondu « only an owner of larkfield can decide ». Grace l’a ensuite approuvé, et les deux réponses ont été consignées. Fréquence de vérification : un échantillon hebdomadaire de dix approbations, car la trace d’un clic ne prouve pas la lecture du billet.

Les résultats consignés montrent pourquoi l’approbation compte. Dans le cours sur les agents, la conception qui avait fait 3 modifications non souhaitées en a fait 0 avec une personne stricte chargée d’approuver. L’étape d’approbation est le contrôle qui les bloque. Une personne qui approuve tout désactive ce contrôle.

Type Utile pour Ne peut pas Ses preuves Coût
Plateforme les faits qu’un système peut vérifier : qui, quel montant, quelles données, quel outil juger le sens ou voir l’IA qui contourne la plateforme journaux et refus, pour chaque appel création initiale (équipe de plateforme), puis peu de coûts
Processus le jugement : la personne a-t-elle lu, la réponse est-elle correcte? vérifier chaque cas; il utilise un échantillon une fiche d’échantillonnage avec les dates et les constats temps du personnel, chaque semaine ou chaque mois
Formation expliquer la règle et sa raison d’être prouver le comportement présences et résultats des tests quelques heures par personne chaque année

Deux règles pratiques en découlent. D’abord, utilisez un contrôle de plateforme partout où une machine peut vérifier un fait, car il agit sur chaque cas. Ensuite, ne laissez jamais la formation être le seul contrôle d’une ligne qui protège les clients. Chez Larkfield, 42 % du personnel a suivi la formation sur l’IA (construit). Cette trace prouve qui y a assisté. Elle ne montre pas ce que les gens font devant une longue file de demandes.

Le niveau de risque détermine aussi la force des contrôles. Une règle et une formation peuvent suffire pour un outil à faible risque. Un système à risque moyen ou élevé nécessite un contrôle de plateforme et un processus pour ses lignes les plus risquées.

Confier les contrôles techniques à l’équipe de plateforme

Section intitulée « Confier les contrôles techniques à l’équipe de plateforme »

Farida ne crée pas ces contrôles. L’équipe de plateforme de Kwame s’en charge. Ils comprennent le registre, la passerelle, les budgets, les autorisations des outils et les mécanismes d’arrêt d’urgence. La passerelle est la voie unique par laquelle les systèmes inscrits appellent un modèle. Elle peut donc vérifier et consigner chaque appel. Un mécanisme d’arrêt d’urgence arrête immédiatement un système. Un cours sur la gouvernance des agents d’IA enseigne ces contrôles.

Deux côtés. La gouvernance, Farida et les responsables, prend en charge la ligne de politique, ce qui doit être vrai, le responsable, les preuves nécessaires et la fréquence de vérification. L'équipe de plateforme, Kwame, prend en charge le registre, la passerelle, les budgets, les autorisations des outils et les mécanismes d'arrêt d'urgence. Une flèche de la gouvernance vers l'équipe de plateforme : une demande de contrôle avec ce qui doit être vrai et les preuves nécessaires. Une flèche de retour : les traces produites par le travail, comme les entrées de registre, les refus de la passerelle et les journaux d'approbation.
Qui est responsable de chaque partie d'un contrôle. La gouvernance dit ce qui doit être vrai et ce qui le prouve; l'équipe de plateforme crée les moyens.
Description textuelle du diagramme

Le schéma montre deux côtés. À gauche, la gouvernance : Farida et les responsables. Ils prennent en charge la ligne de politique, ce qui doit être vrai, le responsable de chaque contrôle, les preuves nécessaires et la fréquence de vérification. À droite, l’équipe de plateforme : Kwame. Elle prend en charge le registre, la passerelle, les budgets, les autorisations des outils et les mécanismes d’arrêt d’urgence. Une flèche va de la gouvernance à la plateforme : une demande de contrôle précisant ce qui doit être vrai et les preuves nécessaires. Une flèche revient : les traces produites par le travail, comme les entrées de registre, les refus de la passerelle et les journaux d’approbation.

La demande de Farida à Kwame est donc courte. Elle précise ce qui doit être vrai, les preuves nécessaires et la fréquence. Elle ne dit pas comment créer le contrôle. Si Kwame ne peut pas produire les preuves, le contrôle n’existe pas encore, et la ligne l’indique.

Farida montre la carte des contrôles vide à la réunion d’équipe.

  • Tomás : « On a envoyé la politique à tout le monde et donné une formation. Donc, chaque ligne est appliquée. »
  • Kwame : « Je peux bloquer tous les sites d’IA sur les portables de l’entreprise. Comme ça, personne ne colle des données clients ailleurs. »
  • Omar : « Un échantillon hebdomadaire d’approbations, c’est lent. La plateforme consigne déjà chaque approbation. »
  • Sam : « Comment on choisit le type de contrôle pour chaque ligne? »

Avant de poursuivre, répondez à ces questions :

  1. Que prouve la trace de formation, et que ne prouve-t-elle pas?
  2. Que bloquerait la mesure de Kwame, et que manquerait-elle?
  3. Omar a-t-il raison de dire que les traces d’approbation suffisent?

La réponse du cours. La formation est nécessaire, mais elle prouve la présence, pas le comportement. Le blocage de Kwame est un bon contrôle de plateforme pour les agents conversationnels gratuits les plus connus. Il manque les outils sur les téléphones et l’IA intégrée aux outils que Larkfield achète. Et tout bloquer pousse les gens à contourner la mesure. Bloquez donc les agents conversationnels gratuits et gardez une liste d’outils approuvés. Omar se trompe sur les traces : la semaine 3 du projet pilote avait une trace parfaite de 212 clics. L’échantillon est le seul contrôle qui vérifie la lecture.

Ce qui changerait la réponse : supposons que le flux de travail montre chaque billet à la personne qui approuve et consigne son ouverture. La plateforme pourrait alors prouver un fait de plus, et l’échantillon pourrait être plus petit. Il ne pourrait pas disparaître : ouvrir un billet ne signifie toujours pas le lire.

Quand créer une carte des contrôles, et à quel coût

Section intitulée « Quand créer une carte des contrôles, et à quel coût »

Créez la carte des contrôles juste après l’approbation de la politique, avant le premier audit ou examen du comité. Pour une politique d’une page, cela prend un après-midi avec le responsable de chaque ligne. Mettez la ligne à jour quand la ligne de politique ou le système change.

Ne cartographiez pas chaque phrase de chaque document. Cartographiez les lignes qui protègent quelqu’un : les clients, le personnel ou les données de l’entreprise. Une ligne sans preuves reste utile. Elle montre une lacune connue, plutôt qu’une lacune découverte par un auditeur.

Erreur courante

Un contrôle sans preuves

Symptôme : la carte des contrôles indique « Formation » ou « Les gestionnaires vérifient » pour une ligne. La colonne des preuves indique « politique envoyée à tout le personnel ».

Cause : la ligne décrit une intention. Rien dans le travail ne laisse une trace de l’application du contrôle.

Solution : pour chaque ligne, demandez : « Si un auditeur demande les trois derniers mois, quelle trace montrons-nous? » Si la réponse est un document rédigé aujourd’hui, le contrôle ne laisse aucune trace. Ajoutez un processus avec une trace, comme une fiche d’échantillonnage, ou un contrôle de plateforme avec un journal.

Utilisez la ligne 3 de la politique réécrite : « Ne mettez jamais de données clients ou sensibles dans un outil absent de la liste. »

  1. Ouvrez votre copie de control-map.csv. La ligne sur les remboursements est déjà remplie.

  2. Écrivez la ligne dans la première colonne. Écrivez ce qui doit être vrai : aucune donnée client n’atteint un service d’IA absent de la liste.

  3. Ajoutez un contrôle de plateforme : la passerelle de Kwame vérifie la catégorie de données de chaque appel d’un système inscrit.

    Vérification : la passerelle ne voit que 4 des 8 systèmes du registre. Le script de résumé hebdomadaire utilise sa propre clé; la passerelle ne le voit donc jamais.

  4. Ajoutez un deuxième contrôle pour ce que la passerelle manque : une vérification mensuelle des factures des fournisseurs et des cartes de l’entreprise par rapport au registre.

  5. Ajoutez une formation et bloquez les agents conversationnels gratuits les plus connus sur les portables de l’entreprise.

  6. Écrivez le nom du responsable : Mei, responsable des dossiers de données.

  7. Écrivez les preuves : les refus de la passerelle, la vérification mensuelle des factures avec ses constats et la formation terminée.

C’est la vérification des factures qui a révélé le script de résumé. Sans elle, la ligne semblerait appliquée alors que la plus grande lacune resterait ouverte.

À vous de jouer : la carte des contrôles pour la politique de Larkfield

Section intitulée « À vous de jouer : la carte des contrôles pour la politique de Larkfield »

Associez chaque ligne de la politique réécrite à un contrôle. Si vous l’avez réécrite au module 4, utilisez vos propres lignes. Sinon, utilisez cette version (construite) :

  1. Utilisez les outils approuvés qui figurent sur la liste.
  2. Connaissez les quatre catégories de données : publiques, internes, clients et sensibles.
  3. Ne mettez jamais de données clients ou sensibles dans un outil absent de la liste.
  4. Une personne vérifie tout avant l’envoi et n’approuve jamais ce qu’elle n’a pas ouvert.
  5. Un nouvel outil ou une nouvelle fonction d’IA : demandez d’abord au responsable des risques.
  6. Signalez toute erreur à votre responsable d’équipe et au responsable des risques le jour même.

Pour chaque ligne, indiquez le contrôle, son type, son responsable, les preuves et la fréquence de vérification. Marquez toute ligne pour laquelle les preuves n’existent pas encore.

Une réponse possible
  • 1. Outils approuvés : la passerelle accepte seulement les systèmes inscrits au registre, et la liste est publiée (plateforme et processus). Responsables : Kwame et Farida. Preuves : entrées du registre, refus des clés non inscrites par la passerelle et factures comparées au registre. Chaque mois.
  • 2 et 3. Données : une vérification de la catégorie des données à la passerelle, le blocage des agents conversationnels gratuits les plus connus et une formation (plateforme et formation). Responsable : Mei. Preuves : appels refusés par la passerelle, vérification des factures et taux d’achèvement de la formation (42 % aujourd’hui, construit). Chaque mois.
  • 4. Une personne vérifie : l’étape d’approbation dans le flux de travail et le serveur MCP, et l’échantillon hebdomadaire (plateforme et processus). Responsable : Grace. Preuves : enregistrements des approbations et fiche d’échantillonnage avec les constats. Chaque semaine.
  • 5. Demander d’abord : le formulaire « New AI use » (nouvel usage de l’IA); les responsables des contrats signalent les fonctions d’IA ajoutées lors des mises à jour (processus). Responsable : Farida. Preuves : journal des demandes avec les dates et les décisions, et inventaire. À chaque demande.
  • 6. Signaler les erreurs : un formulaire d’incident, lu en premier à chaque réunion du comité (processus). Responsable : Farida. Preuves : enregistrements des incidents avec les heures. À chaque incident.

Vérifiez votre compréhension

À la troisième semaine du projet pilote, chaque approbation était enregistrée avec un nom et une heure. Pourquoi ces enregistrements n'ont-ils pas révélé le problème, et quel contrôle l'a découvert?

Afficher la réponse

L’enregistrement de l’approbation prouve qu’une personne a cliqué à une certaine heure. Il ne prouve pas qu’elle a ouvert ou lu le billet de soutien : 212 approbations correspondaient à zéro ouverture. L’échantillon hebdomadaire de dix actions approuvées de Grace a révélé le problème. Une personne a ouvert chaque action et vérifié sa conformité à la politique.

Vérifiez votre compréhension

Pour chaque contrôle, nommez son type (plateforme, processus ou formation) : (a) le serveur MCP refuse une approbation sans le rôle de responsable; (b) une comparaison mensuelle des factures des fournisseurs au registre; (c) un cours sur les catégories de données pour tout le personnel.

Afficher la réponse

(a) Plateforme : un système l’applique à chaque appel. (b) Processus : des personnes suivent une routine et consignent leurs constats. (c) Formation : elle explique la règle et sa raison d’être, et son enregistrement indique seulement qui y a participé.

Vérifiez votre compréhension

Farida demande à Kwame un contrôle pour la ligne « utilisez les outils approuvés ». Que devrait préciser sa demande, et que devrait-elle laisser à Kwame?

Afficher la réponse

Elle devrait préciser ce qui doit être vrai : seuls les systèmes inscrits au registre appellent un modèle par la plateforme. Elle devrait nommer les preuves : entrées du registre et refus des clés non inscrites par la passerelle. Elle devrait aussi préciser la fréquence de sa vérification : chaque mois. C’est à Kwame de créer la règle de la passerelle. Elle devrait aussi préciser ce que la passerelle ne voit pas, comme un script avec sa propre clé. Un deuxième contrôle pourra ainsi couvrir ce cas.

Récapitulatif

  • Un contrôle fait respecter une ligne de politique. Il relève de la plateforme, d’un processus ou de la formation, et il a un responsable désigné.
  • Une preuve est un enregistrement produit par le travail : un journal, une entrée du registre, une fiche d’échantillonnage. Un document rédigé pour l’audit est une description.
  • Utilisez un contrôle de plateforme lorsqu’un système peut vérifier un fait, et un processus lorsqu’il faut exercer un jugement. La formation seule ne protège jamais les clients.
  • La gouvernance précise ce qui doit être vrai et ce qui le prouve. L’équipe de plateforme crée les moyens d’y arriver.

Vous pouvez maintenant dire qui fait respecter chaque ligne de politique et ce qui le prouve. Mais beaucoup de ces preuves sont des documents. Un document que personne ne met à jour finit rapidement par contenir des renseignements faux. Ensuite, vous verrez quels documents un système d’IA exige et comment les tenir à jour sans travail supplémentaire.

Leçon suivante : La documentation