Aller au contenu
English

Des règles dans les documents, des règles dans le code

  • Leçon 2
  • 30 min
  • Module 1 : Pourquoi les agents ont besoin de contrôles de plateforme

Où nous en sommes

Dans la dernière leçon, nous avons vu que Larkfield ne connaît pas ses systèmes d'IA, leurs responsables ni leurs coûts. Sa politique d'IA interdit ce que le script de résumé a fait. Mais un document ne peut pas empêcher un script d'appeler un fournisseur. Dans cette leçon, nous séparons les règles que le code peut imposer de celles qu'une personne doit vérifier. Nous trouvons aussi où placer chaque vérification, comme les affiches aux murs et les lecteurs de badges aux portes d'un bâtiment.

Lue depuis YouTube. Rien ne se charge depuis YouTube avant que vous appuyiez sur lecture. Confidentialité

Ce que vous saurez faire

Pour chaque règle d’une politique d’IA, déterminez qui peut la faire respecter : le code de la plateforme, une personne lors d’une révision, ou personne. Trouvez ensuite où placer chaque vérification. Une règle qui existe seulement dans un document n’arrête rien.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 30 minutes

Ce que vous devez savoir

Ce qu’il vous faut sur votre ordinateur

  • Le projet ~/projects/ai-estate avec docs/ai-policy.md, de la dernière leçon. Il vous faut un éditeur, mais pas encore Python.

Imaginez un immeuble de bureaux. Sur le mur près de l’entrée, une affiche énumère les règles du bâtiment. « La salle des serveurs est réservée au personnel. » « Les visiteurs s’inscrivent à l’accueil. » « Soyez aimables avec les visiteurs. » « Aucune nourriture dans les salles de réunion. »

Certaines règles ont une porte qui les fait respecter. La salle des serveurs a un lecteur de badges. Une personne sans le bon badge ne peut pas l’ouvrir, peu importe ce que dit l’affiche. Le lecteur tient aussi un journal : qui a ouvert la porte, et quand.

D’autres règles n’ont pas de porte, mais quelqu’un les vérifie plus tard. La personne qui fait le ménage voit les boîtes de pizza dans une salle de réunion le lendemain matin. Quelqu’un a enfreint la règle, mais il reste des preuves, et quelqu’un peut intervenir.

Certaines règles n’ont ni l’un ni l’autre. Personne ne peut vérifier « soyez aimables » avec une porte ou un journal. Le bâtiment peut seulement le demander, et espérer.

Remarquez un autre détail du lecteur de badges. Il voit qui ouvre la porte. Il ne voit pas ce que la personne fait dans la salle. Une porte convient bien à une vérification, mais chaque porte voit seulement ce qui la traverse.

La politique d’IA de Larkfield compte douze règles. Ouvrez docs/ai-policy.md. Voici les quatre règles que le script de résumé a enfreintes :

docs/ai-policy.md (rules 1 to 4)
1. Every AI system that Larkfield builds, runs or buys is in the AI inventory, with an owner who works at Larkfield.
2. An AI system may call only models and providers that the platform team has approved.
3. Customer data goes only to providers with a contract that covers it. Card numbers and bank details never go to a model.
4. No one shares a provider key, and no key is written in code, in a chat or in a ticket.

La direction a approuvé la politique et l’a publiée pour toutes les équipes. Mais lundi à 6 h, le script n’a pas consulté la politique. Il a ouvert une connexion à Fernway, envoyé les messages et affiché un résumé. Rien entre le script et le fournisseur ne savait que la politique existait.

La politique ressemble à l’affiche sur le mur. Le parc de Larkfield n’a pas de portes.

L’idée : trois types de règles et des points de contrôle

Section intitulée « L’idée : trois types de règles et des points de contrôle »

Classez chaque règle selon ce qui peut la faire respecter :

  • Imposer par le code. Un programme vérifie chaque action au moment où elle se produit et refuse celles qui enfreignent la règle. Comme le lecteur de badges.
  • Vérifier lors d’une révision. Une personne examine les preuves plus tard et agit selon ce qu’elle trouve. Comme la personne qui fait le ménage et les boîtes de pizza. Quelqu’un peut enfreindre la règle, mais pas sans laisser de traces.
  • Impossible à vérifier. Aucun programme ni aucun enregistrement ne peut montrer si la règle est respectée. La règle est seulement une demande. Cela ne la rend pas inutile, mais vous devez savoir que ce n’est qu’une demande.

On peut imposer une partie de nombreuses règles : le code impose une partie, et une révision vérifie le reste.

Le code peut imposer une règle seulement si l’action passe par du code que vous exploitez. Cet endroit est un point de contrôle. Toutes les actions d’un même type doivent y passer. Le code peut alors voir l’action et la refuser. Les spécialistes en sécurité appellent cela un policy enforcement point (point d’application des politiques). Un point de contrôle a deux exigences. Toutes les actions doivent y passer, et il doit voir ce que la règle exige. Un lecteur de badges sur une porte n’impose rien si une deuxième entrée reste ouverte.

Le schéma montre les questions à poser pour chaque règle, dans l’ordre.

Un parcours de décision. Départ : une règle de la politique d'IA. Question 1 : l'action passe-t-elle par un point exploité par la plateforme de Larkfield? Si oui, question 2 : le code à cet endroit voit-il tout ce que la règle exige? Oui : imposer par le code; le point refuse l'appel. Une partie seulement : imposer cette partie par le code et vérifier le reste lors d'une révision. Non, ou si la réponse à la question 1 était non : un enregistrement permet-il de le voir plus tard? Oui : vérifier lors d'une révision; une personne lit les preuves. Non : impossible à vérifier; la règle est seulement une demande.
Pour classer une règle, trouvez d'abord un point de contrôle, puis demandez ce qu'il voit et cherchez un enregistrement.
Description textuelle du diagramme

Partez d’une règle de la politique d’IA. Première question : l’action passe-t-elle par un point exploité par la plateforme de Larkfield? Si oui, posez la deuxième question : le code à cet endroit voit-il tout ce que la règle exige? Si oui, imposez-la par le code : le point refuse l’appel. S’il voit seulement une partie, imposez cette partie par le code et vérifiez le reste lors d’une révision. S’il ne voit rien d’utile, ou si aucun point n’existe, posez la dernière question. Un enregistrement permet-il de le voir plus tard? Si oui, vérifiez lors d’une révision, où une personne lit les preuves. Sinon, personne ne peut vérifier : la règle est seulement une demande.

Voici cinq règles classées à l’aide des trois questions. Le projet du cours contient cet exemple détaillé dans docs/rules-worksheet.md. D’abord, voici une règle complète, avec la réponse à chaque question.

Règle 2 : « Un système d’IA peut appeler seulement les modèles et les fournisseurs approuvés par l’équipe de plateforme. »

  1. L’action passe-t-elle par un point exploité par la plateforme? Pas aujourd’hui : chaque application appelle directement le fournisseur. Après le module 4, chaque appel de modèle passe par la passerelle de modèles. La réponse devient donc oui, si rien ne peut la contourner.
  2. Le code à cet endroit voit-il ce que la règle exige? Oui. La passerelle voit quel modèle la requête demande. Elle détient aussi la liste des modèles et des fournisseurs approuvés (le catalogue du module 2). Elle peut refuser tout le reste.
  3. Et le contournement? Le script de résumé n’a consulté aucune passerelle. Il faut donc un deuxième contrôle : une règle de sortie réseau qui permet seulement à la passerelle de joindre les fournisseurs. La sortie réseau désigne le trafic qui quitte le réseau de Larkfield.
  4. Qu’est-ce que le code ne voit toujours pas? Une personne qui utilise un site Web d’IA sur son téléphone personnel, hors du réseau de Larkfield.

Résultat : imposer par le code, avec la passerelle de modèles et la règle de sortie réseau. Il reste une lacune qu’aucun code ne peut combler.

Voici maintenant les mêmes trois questions pour quatre autres règles. Chaque ligne donne le résultat pour une règle.

Règle Imposer par le code? Point de contrôle Ce que le code ne peut pas faire
2. Seulement les modèles et fournisseurs approuvés oui passerelle de modèles (catalogue), règle de sortie réseau arrêter une personne qui utilise un site Web d’IA sur son téléphone personnel
3. Les numéros de carte ne vont jamais à un modèle en partie passerelle de modèles (un garde-fou qui retire les numéros de carte), enregistrement (les données qu’un agent peut envoyer) trouver un numéro de carte écrit en lettres ou dans une photo
6. Une personne approuve chaque modification oui passerelle d’outils (politique d’approbation et autorisation accordée) juger si la personne a lu la proposition avant de l’approuver
9. Un nouveau modèle est testé sur les tâches de chaque système en partie barrière de réassociation (évaluation de chaque système utilisateur, module 2) tester un système sans évaluation : aucune preuve, aucune modification
10. Les réponses sont équitables, polies et correctes non révision (échantillons de réponses, évaluations) décider si une réponse est « correcte » à la passerelle : elle ne connaît pas la tâche

Observez ce qui se répète. Le code peut imposer une règle sur quelque chose qu’un point de contrôle voit dans un seul appel. Par exemple, un nom de modèle, un nombre dans le texte ou une écriture dans une commande. Le code ne peut pas imposer une règle sur le sens du travail. Cette réponse est-elle correcte pour ce client? La personne a-t-elle vraiment lu avant d’approuver? Cela exige la tâche, les données et un jugement, et aucune passerelle ne les possède.

La règle 10 n’est pas inutile parce que le code ne peut pas l’imposer. Elle devient une révision avec des preuves : des échantillons de réponses et les évaluations du cours Évaluer et tester les systèmes d’IA. Un document reste le bon endroit pour ce type de règle, avec le nom du responsable des révisions et leur fréquence.

Le cours construit cinq points de contrôle. Chacun voit certaines choses, et d’autres lui échappent. Savoir ce qu’un point de contrôle ne voit pas est aussi important que savoir ce qu’il voit.

À gauche, un agent, le flux de soutien, avec une flèche sur une ligne : jeton, autorisé?, appel de modèle, appel d'outil, enregistrement. Au-dessus, cinq points de contrôle de gauche à droite, avec ce que chacun voit et ne voit pas. L'identité voit quel agent demande un jeton, et quand; elle ne voit pas ce que l'agent fait du jeton. Le registre voit ce que chaque agent peut faire et son responsable; il ne voit pas ce que l'agent fait réellement. La passerelle de modèles voit un appel de modèle : requête, réponse, agent, coût; elle ne voit pas la tâche entière, les appels d'outils ni les décisions. La passerelle d'outils voit un appel d'outil : outil, arguments, approbation; elle ne voit pas pourquoi le modèle l'a demandé. L'audit voit chaque modification et l'enregistrement de chaque appel; il ne voit rien qui n'a pas traversé une passerelle. En dessous, hors de tout point de contrôle : l'IA dans les outils achetés, comme un outil de suggestion de réponses d'un service de soutien, l'IA utilisée hors du réseau de Larkfield et un script qui appelle directement un fournisseur.
Les cinq points de contrôle, dans l'ordre où le travail d'un agent les rencontre, avec ce que chacun voit ou non.
Description textuelle du diagramme

Un agent, ici le flux de soutien, rencontre les points de contrôle dans l’ordre. Il obtient un jeton, le registre fournit ses autorisations, puis il fait un appel de modèle et un appel d’outil. L’audit enregistre tout.

L’identité voit quel agent demande un jeton, et quand. Elle ne voit pas ce que l’agent fait du jeton. Le registre voit ce que chaque agent peut faire et qui en est responsable. Il ne voit pas ce que l’agent fait réellement. La passerelle de modèles voit un appel de modèle : la requête, la réponse, l’agent et le coût. Elle ne voit pas la tâche entière, les appels d’outils ni les décisions. La passerelle d’outils voit un appel d’outil : l’outil, ses arguments et l’approbation. Elle ne voit pas pourquoi le modèle l’a demandé. L’audit voit chaque modification et l’enregistrement de chaque appel. Il ne voit rien qui n’a pas traversé une passerelle.

Certaines utilisations de l’IA restent hors de tout point de contrôle. Par exemple, les fonctions d’IA intégrées aux outils achetés, comme un outil de suggestion de réponses d’un service de soutien. Il y a aussi l’IA utilisée hors du réseau de Larkfield et les scripts qui appellent directement un fournisseur.

En mots, du premier au dernier :

  • L’identité donne à chaque agent son propre nom et des identifiants de courte durée. Chaque appel indique ainsi quel agent l’a fait. (Module 3.)
  • Le registre contient la fiche de chaque agent : responsable, objectif, risque, données permises, capacités, outils, budget et date de révision. Les passerelles le consultent : « Cet agent peut-il faire cela? » (Module 3.)
  • La passerelle de modèles est la seule porte pour les appels de modèles. Elle vérifie l’identité, l’enregistrement, la capacité, les données et les limites, achemine l’appel vers un modèle et l’enregistre. (Modules 2 et 4.)
  • La passerelle d’outils est la seule porte pour les appels d’outils. Elle permet seulement les outils indiqués dans l’enregistrement, sépare les lectures des écritures et vérifie les arguments. Elle demande une approbation avant une écriture. (Module 5.)
  • L’audit conserve les enregistrements : chaque modification du registre et chaque appel passant par les deux passerelles. Ce sont les preuves examinées lors d’une révision. (Module 6.)

La limite la plus importante se trouve au milieu. La passerelle de modèles voit les appels de modèles, pas le travail de l’agent. Un remboursement est un appel d’outil, pas un appel de modèle. Seules la passerelle d’outils et les traces de l’application voient l’ordre des étapes, les approbations et le résultat d’une exécution. Une fonction d’IA intégrée à un outil acheté ne passe jamais par ces points. Elle entre dans l’inventaire par le processus d’achat, grâce à une vérification lors d’une révision.

Ajoutez les points de contrôle au parc de Larkfield, et le schéma de la dernière leçon change.

Deux panneaux. Avant : chaque application appelle un fournisseur avec sa propre clé. Le triage et le flux avec az-key-1, les documents avec az-key-2 et le juge avec az-key-3 pointent directement vers Azure; le résumé avec fw-7Q2K pointe vers Fernway, sans contrat, en rouge. 5 chemins, 4 clés, aucune vérification commune. Après : une passerelle de modèles, une passerelle d'outils. Le triage, le flux, les documents et le juge ont chacun leur identité et pointent vers la passerelle de modèles. Celle-ci détient la seule clé de fournisseur et pointe vers Azure. Le flux pointe aussi vers la passerelle d'outils, qui pointe vers les serveurs MCP des billets et des commandes. Le registre et l'identité sont derrière les deux passerelles, avec des liens pointillés. Le résumé, non enregistré, a une flèche rouge pointillée vers Fernway avec une croix : bloqué, aucun enregistrement, aucune sortie réseau. 1 porte par type d'appel, vérifications au même endroit.
Avant : cinq chemins et quatre clés, sans vérification commune. Après : une porte pour les appels de modèles et une pour les appels d'outils, avec le registre derrière les deux.
Description textuelle du diagramme

Dans le panneau « Avant », chaque application appelle un fournisseur avec sa propre clé. Le triage et le flux utilisent az-key-1, l’assistant documentaire az-key-2 et le juge des mises en production az-key-3. Tous appellent directement Azure. Le résumé utilise fw-7Q2K et appelle Fernway, qui n’a pas de contrat et apparaît en rouge. Il y a cinq chemins et quatre clés, sans aucune vérification commune.

Dans le panneau « Après », les quatre applications ont chacune leur identité et appellent la passerelle de modèles. Seule la passerelle détient une clé de fournisseur, et elle appelle Azure. Le flux appelle aussi la passerelle d’outils, qui appelle les serveurs MCP des billets de soutien et des commandes. Le registre et l’identité se trouvent derrière les deux passerelles. Le résumé n’est pas enregistré : son chemin vers Fernway est barré, car la passerelle le refuse et le réseau le bloque. Il y a une porte par type d’appel, et les vérifications sont au même endroit.

Trois choses changent. Chaque application a sa propre identité, donc chaque appel nomme son application. Seule la passerelle détient une clé de fournisseur, donc une clé dans le code d’une application ne vaut rien. Le réseau permet aussi seulement à la passerelle de joindre un fournisseur, donc un script ne peut pas contourner la porte.

Les deux derniers changements comptent autant que la passerelle elle-même. L’enregistrement est obligatoire seulement s’il est impossible de le contourner. Même alors, certaines utilisations échappent aux contrôles. Par exemple, un nouveau fournisseur encore inconnu de la règle de sortie réseau, ou l’IA hors du réseau. Le module 6 cherche donc aussi l’IA non enregistrée dans les factures, les journaux réseau et le code. La prévention et la détection se complètent.

« Nous avons une passerelle, donc nous avons une gouvernance »

Section intitulée « « Nous avons une passerelle, donc nous avons une gouvernance » »

Tomás aime le schéma « Après ». « Quand chaque appel passe par la passerelle, nous avons une gouvernance. » Kwame pointe l’exemple détaillé. Aucune porte n’impose la règle 10, celle des réponses correctes. La passerelle d’outils impose la règle 6, pas la passerelle de modèles. Même là, elle vérifie seulement l’approbation, pas le jugement de la personne. La règle 9 exige une évaluation pour chaque système, que des personnes doivent écrire.

Une passerelle est un endroit où les vérifications peuvent s’exécuter. Elle n’est ni les vérifications, ni les règles qui les guident, ni les personnes qui examinent les preuves. Un parc gouverné a besoin de tous ces éléments. Il lui faut des règles dans des fichiers de politique, des points de contrôle qui les imposent, des enregistrements et des personnes qui les lisent.

Sam demande : « Alors pourquoi ne pas mettre toutes les règles dans le code? » Parce qu’une règle dans le code a des coûts. Elle doit être exacte : « fournisseurs approuvés » devient une liste que quelqu’un tient à jour. Il faut l’entretenir, comme tout code. Une règle incorrecte dans le code refuse du travail réel pour tous les agents à la fois. Le module 4 le montre avec une mauvaise modification de configuration. Mettez une règle dans le code quand un point de contrôle voit ce qu’elle exige dans un seul appel. Une mauvaise décision doit aussi être pire qu’un appel refusé. Confiez le reste à une révision, avec de bonnes preuves.

  1. Copiez les deux fichiers de cette leçon dans votre projet, à partir de l’instantané end-of-m01. Dans ~/projects :

    Fenêtre de terminal
    cp nextia-learning-labs/C32/snapshots/end-of-m01/docs/rules-worksheet.md ai-estate/docs/
    cp nextia-learning-labs/C32/snapshots/end-of-m01/docs/control-points.md ai-estate/docs/
  2. Ouvrez docs/control-points.md. Ce tableau présente les cinq points de contrôle et ce que chacun contient, voit et ne voit pas.

  3. Ouvrez docs/rules-worksheet.md. Il contient les cinq règles classées de l’exemple détaillé. Sa dernière ligne dit : « Les autres règles sont à vous de classer. »

  4. Pour la règle 3 de la feuille de travail, trouvez ses points de contrôle dans control-points.md. Lisez ce qu’ils ne voient pas. Vérifiez que la dernière colonne de la feuille de travail dit la même chose.

Classez ces cinq règles de la politique de Larkfield. Pour chacune, ajoutez une ligne au tableau dans docs/rules-worksheet.md. Écrivez « appliquer dans le code » (oui ou en partie), « vérifier en révision » ou « impossible à vérifier ». Nommez ensuite le point de contrôle et ce que le code ne peut pas faire.

  1. Chaque système d’IA figure dans l’inventaire d’IA, avec un responsable qui travaille chez Larkfield. (Règle 1.)
  2. Personne ne partage une clé de fournisseur ni ne l’écrit dans du code, une conversation ou un billet de soutien. (Règle 4.)
  3. Chaque équipe respecte son budget mensuel d’IA; elle prévient l’équipe plateforme avant de le dépasser. (Règle 5.)
  4. Le responsable de chaque système d’IA ou l’équipe plateforme peut l’arrêter en cinq minutes. (Règle 8.)
  5. Nous ne gardons aucun message client plus longtemps que nécessaire, même dans les journaux (logs) de l’IA. (Règle 11.)

Utilisez les trois questions du processus pour chaque règle. Ne regardez pas la réponse avant d’avoir cinq lignes.

La réponse du cours
Règle Appliquer dans le code? Point de contrôle Ce que le code ne peut pas faire
1. Dans l’inventaire, avec un responsable qui travaille ici oui, pour les appels de modèles et d’outils registre; les deux passerelles refusent un agent sans enregistrement actif; le registre refuse un responsable qui a quitté l’entreprise voir l’IA dans un outil acheté ou un script qui appelle directement un fournisseur : les trouver en révision (factures, journaux de trafic sortant, code)
4. Aucune clé partagée ou personnelle, aucune clé dans le code en partie identité (une identité par agent, jetons de courte durée); seule la passerelle détient une clé de fournisseur; règle de trafic sortant empêcher une personne de coller une clé dans une conversation; une analyse du code et de la facture repère les anciennes clés en révision
5. Chaque équipe respecte son budget, avec un avertissement préalable oui passerelle de modèles (un budget par agent et par équipe, un avertissement avant la limite) compter l’argent dépensé hors de la passerelle, par exemple dans un outil acheté
8. Arrêt possible en cinq minutes oui arrêts d’urgence dans les deux passerelles; révocation des identifiants au point de contrôle d’identité arrêter ce qui ne passe pas par les passerelles; vérifier par un exercice pratique que l’arrêt d’urgence fonctionne vraiment
11. Aucun message client gardé plus longtemps que nécessaire en partie passerelle de modèles : son registre d’utilisation ne garde aucun texte de requête ou de réponse voir les journaux de l’application ou ce que le fournisseur conserve : les vérifier en révision, avec le contrat

Deux différences courantes. Si vous avez écrit « vérifier en révision » pour la règle 1, vous avez en partie raison. Le registre l’applique à chaque appel passant par les passerelles, et la révision trouve le reste. Si vous avez écrit « oui » pour la règle 11, regardez encore ce que la passerelle ne peut pas voir. Le fournisseur et l’application gardent leurs propres copies.

Deux autres règles, si vous voulez continuer : la règle 7 exige des révisions trimestrielles pour les systèmes qui agissent. Le registre l’applique en partie : il connaît chaque date de révision et liste les révisions en retard. La qualité d’une révision relève d’une personne. La règle 12 (informer les gens lorsqu’ils parlent à une IA) ne peut être vérifiée à aucun point de contrôle. La passerelle voit la requête, pas l’écran que le client lit. Cette vérification se fait lors de la révision de l’application.

Erreur courante

Une règle marquée « appliquer dans le code » parce qu'un outil existe

Symptôme : votre tableau indique « oui » pour une règle, mais vous ne pouvez pas nommer l’appel que le point de contrôle refuse. Par exemple : « règle 11, oui, la passerelle ne garde pas les requêtes ».

Cause : le point de contrôle applique une partie de la règle, et le tableau cache le reste. La passerelle ne garde aucun texte de requête, mais l’application écrit ses propres journaux et le fournisseur conserve la requête.

Diagnostic : pour chaque « oui », écrivez une phrase : « Le point de contrôle refuse cette action parce qu’il voit ceci. » Lisez ensuite la colonne « ne peut pas voir » du point de contrôle dans control-points.md.

Correction : si la phrase ne fonctionne pas, remplacez « oui » par « en partie ». Ajoutez une révision pour la partie qu’aucun code ne voit.

Vérifiez votre compréhension

Un point de contrôle doit remplir deux conditions avant de pouvoir appliquer une règle. Lesquelles? Utilisez le script de résumé comme exemple.

Afficher la réponse

Chaque action de ce type doit passer par lui, et il doit voir ce dont la règle a besoin. Une passerelle de modèles voit le fournisseur et le modèle de chaque appel. Elle peut donc appliquer la règle « seulement les fournisseurs approuvés ». Mais le script de résumé appelait Fernway directement : la passerelle seule ne remplit donc pas la première condition. La règle de trafic sortant assure cette condition : seule la passerelle peut joindre un fournisseur.

Vérifiez votre compréhension

Tomás dit : « Chaque appel passe maintenant par la passerelle, donc la règle exigeant des réponses correctes est appliquée. » Quelle est l'erreur, et comment Larkfield devrait-elle plutôt vérifier cette règle?

Afficher la réponse

La passerelle voit un appel de modèle, mais pas la tâche, la commande du client ou la politique définissant une réponse correcte. Elle ne peut donc pas décider si une réponse est correcte. La règle devient une vérification en révision : des personnes lisent des échantillons de réponses et les évaluations de chaque système. La passerelle aide en enregistrant quel modèle a répondu à chaque appel.

Récapitulatif

  • Une règle dans un document n’arrête rien à elle seule. Classez chaque règle : appliquer dans le code, vérifier en révision ou impossible à vérifier. Beaucoup de règles ne sont applicables qu’en partie.
  • Le code applique une règle seulement à un point de contrôle. Chaque action d’un type donné y passe, et le code y voit ce dont la règle a besoin.
  • Les cinq points de contrôle sont l’identité, le registre, la passerelle de modèles, la passerelle d’outils et l’audit. Chacun ignore quelque chose : la passerelle de modèles voit les appels de modèles, pas le travail de l’agent.
  • Une passerelle permet des vérifications, mais n’assure pas à elle seule la gouvernance. L’enregistrement est imposé seulement si aucun chemin ne contourne la passerelle. Cela exige une seule clé de fournisseur, détenue par la passerelle, et une règle de trafic sortant.
  • Les règles portant sur le sens (correct, équitable, lu avant approbation) restent des révisions accompagnées de preuves.

Votre projet contient maintenant : docs/ai-policy.md, docs/rules-worksheet.md avec vos cinq nouvelles lignes, et docs/control-points.md. Vous pouvez maintenant dire où chaque règle de la politique pourrait être vérifiée. Mais jusqu’ici, les points de contrôle sont des cases sur une image. Ensuite, vous démarrez le parc de Larkfield sur votre ordinateur et envoyez des requêtes depuis chaque application. Vous lisez aussi ce que le fournisseur enregistre.

Leçon suivante : Découvrir le parc d'IA de Larkfield