Aller au contenu
English

Le contenu d'un enregistrement

  • Leçon 7
  • 40 min
  • Module 3 : Enregistrer chaque agent

Où nous en sommes

Dans le dernier module, nous avons donné un contrat à chaque capacité. Nous avons bloqué la réassociation d'Omar avec les preuves de chaque consommateur. Le catalogue indique maintenant ce qu'une capacité promet. Mais il ne dit pas qui peut l'utiliser, à quelles fins, avec quelles données, ni qui répond des problèmes. Dans cette leçon, nous rédigeons la fiche dont chaque agent a besoin avant son premier appel. C'est comme une entreprise qui tient une fiche pour chaque fourgonnette de son parc.

Ce que vous saurez faire

Rédigez un enregistrement pour chaque agent de Larkfield avant qu’il fasse un appel. Il indique qui est responsable de l’agent, ce qu’il fait et son niveau de risque. Il précise aussi les données et les capacités autorisées, son budget et la date de sa prochaine révision. Le registre vérifie chaque formulaire et refuse ceux que la plateforme ne peut pas autoriser.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 40 minutes

Ce que vous devez savoir

  • Les capacités et leurs contrats, dans Un catalogue de capacités. Un contrat énumère les classes de données qu’une capacité autorise.
  • Les classes de données public (publiques), internal (internes), personal (personnelles) et payment (de paiement) dans config/data-classes.yaml, dans la même leçon.
  • L’évaluation de chaque consommateur et la barrière de réassociation, dans Modifier une association en toute sécurité. Les formulaires provisoires dans registrations/ viennent de cette leçon.
  • Ce que fait le flux de travail de soutien : il propose des remboursements, des étiquettes de retour et des réexpéditions. Une personne approuve chaque proposition. Vous l’avez découvert dans Agents d’IA et orchestration des flux de travail.

Ce qu’il vous faut sur votre ordinateur

  • Le projet ~/projects/ai-estate, identique à l’instantané end-of-m02, avec son environnement virtuel actif. python -m pytest -q se termine par 104 passed, 1 deselected (104 tests réussis, 1 désélectionné). Si votre projet ne fonctionne plus, copiez l’instantané end-of-m02 selon les indications de son README.
  • Le dépôt des exercices dans ~/projects/nextia-learning-labs. Récupérez d’abord les fichiers les plus récents : git -C ~/projects/nextia-learning-labs pull.

Testé sur macOS (Apple silicon) avec Python 3.12.13. Les commandes Windows (PowerShell) et Linux sont fournies, mais elles n’ont pas été exécutées dans ce cours.

Imaginez une entreprise avec quarante fourgonnettes de livraison. Le bureau tient un registre du parc, avec une fiche pour chaque fourgonnette. La fiche nomme la personne qui en répond. Elle indique son usage, qui peut la conduire et ce qu’elle peut transporter : des colis, oui; des produits chimiques, non. Elle donne aussi la limite de la carte de carburant et la date de la prochaine inspection.

Pour la plupart des fourgonnettes, une fiche courte suffit. Mais une fourgonnette transporte des bouteilles de gaz. Pour celle-là, l’entreprise remplit un formulaire plus long. Il indique les problèmes possibles, qui vérifie le chargement et qui appeler après un accident. Cette fourgonnette exige aussi une inspection avant son premier trajet, puis des inspections plus fréquentes.

Le registre est utile grâce à ses règles. Pas de fiche, pas de clés : une fourgonnette sans fiche ne quitte pas la cour. Quand la personne responsable quitte l’entreprise, une autre personne prend sa place. Quand l’entreprise vend une fourgonnette, sa fiche reste dans les archives. Son numéro n’est jamais attribué à une autre fourgonnette.

Le problème : cinq agents et cinq questions sans réponse

Section intitulée « Le problème : cinq agents et cinq questions sans réponse »

Le parc de Larkfield a les mêmes fourgonnettes sans fiches. Kwame, responsable de la plateforme, pose cinq questions simples sur le parc :

  • Qui répond du résumé hebdomadaire?
  • Quelles applications peuvent envoyer les messages des clients à un modèle?
  • Quel agent peut modifier des montants d’argent ou des marchandises?
  • Combien chacun peut-il dépenser par mois?
  • Quand quelqu’un a-t-il vérifié le juge des mises en production pour la dernière fois?

Personne ne peut répondre. Les formulaires provisoires du module 2 contiennent seulement ce dont la barrière de réassociation a besoin. Il s’agit d’un identifiant, d’un nom, d’un responsable, d’une équipe, des capacités et de l’évaluation. Kwame ajoute le premier code du registre du parc, puis vérifie le formulaire provisoire du service de triage. Avant de regarder, faites une prédiction : à laquelle des cinq questions le formulaire répond-il?

- missing: kind, purpose, users, risk_tier, data_classes, tools, autonomy, budget_usd_month, limits, review_date
- limits.requests_per_minute: a whole number, 0 or more
- limits.tokens_per_day: a whole number, 0 or more
- limits.max_calls_per_run: a whole number, 0 or more

Seulement à la première, sur le responsable. Le formulaire provisoire indique qu’Amira est responsable du service de triage. Il ne précise pas les données envoyées, le niveau de risque, le budget ni la date de la prochaine vérification. Et le résumé hebdomadaire n’a aucun formulaire provisoire.

L’idée : un enregistrement conservé dans un registre

Section intitulée « L’idée : un enregistrement conservé dans un registre »

Un enregistrement est la fiche qu’un agent doit avoir avant son premier appel. Il répond aux questions précédentes dans des champs fixes, pour qu’une personne et un programme puissent les lire. Le registre conserve tous les enregistrements, avec leur état et leur historique. Dans ce cours, le registre est une petite base de données SQLite, state/registry.db. La commande python -m estate la lit et la modifie.

Le mot vient du registre du parc et des registres officiels de véhicules, d’entreprises ou de médicaments. L’idée est la même. Une chose peut fonctionner seulement si elle possède une fiche qui nomme la personne qui en répond.

Comme les fourgonnettes, la plupart des agents ont seulement besoin d’un formulaire court. Un agent à risque élevé remplit aussi un formulaire long. Voici le sens de chaque champ et ce que la plateforme en fait :

Champ La question à laquelle il répond Ce que la plateforme en fait
id, name, kind De quel agent s’agit-il? kind (type) vaut app (application), agent, tool-server (serveur d’outils) ou script. L’identifiant devient l’identité de l’agent : son identifiant client, dans la prochaine leçon.
owner, team Qui en répond? Un responsable qui a quitté l’entreprise bloque l’enregistrement.
purpose, users Que fait-il et pour qui? L’inventaire et le rapport mensuel.
risk_tier Quels dommages une erreur peut-elle causer? low (faible), medium (moyen) ou high (élevé) : l’intervalle de révision, le formulaire long et, plus tard, le mode de défaillance.
data_classes Quelles données peut-il envoyer à un modèle? Le contrat de chaque capacité doit autoriser chaque classe. payment ne va jamais à un modèle.
capabilities Quelles capacités peut-il demander? La passerelle refuse toute autre capacité.
tools Quels outils peut-il appeler? La passerelle d’outils refuse tout autre outil.
autonomy Agit-il seul? suggests (propose), acts-with-approval (agit avec approbation) ou acts (agit). Un agent à risque élevé ne peut pas act (agir).
budget_usd_month, limits Que peut-il dépenser et envoyer? Arrêts stricts à la passerelle : dollars par mois, jetons par jour, requêtes par minute, appels de modèles par exécution.
review_date Quand quelqu’un le vérifie-t-il de nouveau? python -m estate review-due énumère toutes les révisions en retard.

Deux champs dépendent de l’agent. evaluations nomme les preuves pour chaque capacité utilisée par l’agent. La barrière de réassociation du module 2 les lit. pins fixe un modèle précis pour une capacité, avec une date de fin. Le formulaire long, réservé aux risques élevés, ajoute impact, human_oversight, failure_mode, incident_contact, data_retention et kill_switch_tested.

Deux champs exigent une décision, pas une simple recherche. Le niveau de risque indique les dommages qu’une erreur de l’agent peut causer. Posez trois questions. Modifie-t-il quelque chose dans le monde, comme de l’argent, des marchandises ou le compte d’un client? Voit-il des données personnelles? Un client voit-il sa sortie avant qu’une personne la vérifie?

  • Faible : il propose des choses au personnel, avec des données internes seulement. L’assistant documentaire présente un risque faible.
  • Moyen : il voit des données personnelles, ou sa sortie a des conséquences, mais une personne décide. Le service de triage et le juge des mises en production présentent un risque moyen.
  • Élevé : il peut modifier de l’argent ou des marchandises, même avec l’approbation d’une personne, ou beaucoup de personnes en dépendent. Le flux de travail de soutien présente un risque élevé.

Le niveau d’autonomie indique comment l’agent agit. suggests signifie qu’une personne effectue l’action. acts-with-approval signifie que l’agent effectue l’action après l’approbation d’une personne. acts signifie qu’il effectue l’action seul.

Le niveau détermine la fréquence de révision de l’enregistrement par une personne. L’intervalle maximal est de 12 mois pour un risque faible, de 6 pour un risque moyen et de 3 pour un risque élevé. Un enregistrement à risque élevé commence à l’état en attente. Il ne peut rien appeler avant qu’une personne le révise. Les enregistrements à risque faible ou moyen deviennent actifs immédiatement. C’est l’inspection avant le premier trajet.

Qui décide de ce que signifie « élevé » pour Larkfield? La gouvernance de l’organisation le décide dans ses politiques. Un cours ultérieur sur la gouvernance de l’IA traite de ce sujet. Ce cours transforme la décision en contrôles qu’un programme peut vérifier.

Un petit exemple détaillé : le formulaire du service de triage

Section intitulée « Un petit exemple détaillé : le formulaire du service de triage »

Voici le formulaire court complet du service de triage, registrations/ticket-triage.yaml. Toutes les valeurs sont visibles :

registrations/ticket-triage.yaml
# Registration (short form). Fill it in before the first call: python -m estate register registrations/ticket-triage.yaml
id: ticket-triage
name: Ticket triage
kind: app
owner: usr-amira
team: service
purpose: Reads each new ticket and returns the team and whether a person must handle it.
users: The help desk reads the result. Customers do not see it.
from: the MLOps course's ticket service (its triage step)
risk_tier: medium
data_classes: [personal]
capabilities: [fast-small, embed]
tools: []
autonomy: suggests
budget_usd_month: 15
limits: {requests_per_minute: 600, tokens_per_day: 2500000, max_calls_per_run: 3}
evaluations:
fast-small: {evaluation: "evaluation course, triage set, dev split", measure: decisions, minimum: 0.85}
review_date: 2027-01-15

Lisez-le comme Kwame et justifiez chaque choix :

  • risk_tier: medium. Le service lit des billets de soutien des clients, donc il voit des données personnelles. Mais il ne modifie rien, et une personne lit son résultat. Le risque n’est pas faible, à cause des données, ni élevé, puisqu’il n’agit pas.
  • data_classes: [personal]. Un billet contient des noms et des détails de commande. La classe correspond aux données les plus sensibles que le service envoie.
  • capabilities: [fast-small, embed]. Un appel de conversation choisit l’équipe, et un plongement (embedding) alimente la recherche. Il n’a besoin de rien de plus puissant.
  • tools: [] et autonomy: suggests. Il n’appelle aucun outil et ne fait rien lui-même.
  • limits. 822 billets par jour, avec au plus 3 appels chacun, donnent environ 2 500 appels par jour. Donc, 600 par minute dépasse largement le trafic normal. Les limites arrêtent une boucle, pas le travail normal. Le module 4 les montre en action.
  • review_date: 2027-01-15. Cette date est à moins de 6 mois, comme l’exige un niveau moyen.

Le registre vérifie un formulaire dans un ordre fixe. Le diagramme montre cet ordre et un refus réel à chaque étape :

Un flux de haut en bas. Un formulaire, registrations/ticket-triage.yaml, passe à python -m estate check, ou register. Première question : les 15 champs du formulaire court sont-ils remplis? Si non : kind, purpose, users, etc. sont manquants. Si oui : le responsable travaille-t-il encore chez Larkfield, et l'équipe est-elle connue? Si non : le responsable usr-lee a quitté l'entreprise le 31 août 2026. Si oui : chaque capacité figure-t-elle au catalogue et autorise-t-elle chaque classe de données, sans jamais envoyer de données de paiement à un modèle? Si non : la capacité teleport ne figure pas au catalogue. Si oui : le niveau de risque est-il élevé? Si non, pour un risque faible ou moyen : la date de révision est-elle à au plus 12 mois pour un risque faible, ou 6 mois pour un risque moyen? Si oui : enregistré, actif. Si le niveau est élevé : le formulaire long est-il rempli, l'autonomie est-elle différente de acts, et la révision est-elle à au plus 3 mois? Si non : un risque élevé exige le formulaire long; long_form.impact et d'autres champs sont manquants. Si oui : enregistré, en attente. Une personne le révise ensuite avec python -m estate review, et il devient actif.
Comment le registre vérifie un formulaire. Chaque texte de refus est le message réel de estate/registry.py.
Description textuelle du diagramme

Le formulaire passe à python -m estate check ou register (enregistrer). Les vérifications suivent cet ordre :

  1. Les 15 champs du formulaire court sont-ils remplis? Sinon, la réponse commence par missing: (manquant) et les énumère.
  2. Le responsable travaille-t-il encore chez Larkfield, et l’équipe est-elle connue? Un responsable qui a quitté donne owner usr-lee: left the company on 2026-08-31 (le responsable usr-lee a quitté l’entreprise le 31 août 2026).
  3. Chaque capacité figure-t-elle au catalogue, et son contrat autorise-t-il chaque classe de données? Les données de paiement ne vont jamais à un modèle. Une capacité inconnue donne capability teleport: not in the catalog (la capacité teleport ne figure pas au catalogue).
  4. Le niveau de risque est-il élevé? Pour un risque faible ou moyen, la date de révision doit être à au plus 12 ou 6 mois. Le formulaire est alors enregistré comme actif.
  5. Pour un risque élevé, le formulaire long doit être rempli, l’autonomie doit différer de acts, et la révision doit être à au plus 3 mois. Un formulaire long manquant donne high risk needs the long form: missing long_form.impact, … (un risque élevé exige le formulaire long : long_form.impact, etc. sont manquants). Un formulaire complet est enregistré comme en attente. Une personne le révise avec python -m estate review, puis il devient actif.

Vous ajoutez le code du registre, les personnes et les équipes de Larkfield, ainsi que la documentation du formulaire. Puis vous complétez le formulaire du service de triage, le vérifiez et l’enregistrez.

  1. Dans ~/projects/ai-estate, copiez le code et les données de cette leçon depuis l’instantané end-of-m03 :

    Fenêtre de terminal
    S=../nextia-learning-labs/C32/snapshots/end-of-m03
    cp $S/estate/registry.py estate/
    cp $S/estate/cli/registry.py estate/cli/
    cp $S/config/people.yaml $S/config/teams.yaml config/
    cp $S/docs/registration-form.md docs/

    config/people.yaml énumère les personnes de Larkfield et leur date de départ. config/teams.yaml énumère les équipes.

  2. Vérifiez le formulaire provisoire du service de triage :

    Fenêtre de terminal
    python -m estate check registrations/ticket-triage.yaml

    Vous voyez la liste des champs manquants du problème précédent, et le code de sortie est 1. La commande estate --help énumère maintenant aussi register, list, show, review, suspend, resume, retire, review-due et events (enregistrer, lister, afficher, réviser, suspendre, reprendre, retirer, révisions échues et événements).

  3. Complétez le formulaire. Ouvrez registrations/ticket-triage.yaml dans VS Code et reproduisez le formulaire de l’exemple détaillé précédent. Vous pouvez aussi copier le formulaire complet :

    Fenêtre de terminal
    cp $S/registrations/ticket-triage.yaml registrations/
  4. Vérifiez de nouveau le formulaire :

    Fenêtre de terminal
    python -m estate check registrations/ticket-triage.yaml
    The form is complete.
  5. Enregistrez-le :

    Fenêtre de terminal
    python -m estate register registrations/ticket-triage.yaml
    Registered ticket-triage (version 1): active

    Un enregistrement à risque moyen est actif immédiatement.

  6. Relisez l’enregistrement dans le registre :

    Fenêtre de terminal
    python -m estate show ticket-triage
    ticket-triage | Ticket triage | active | version 1
    owner usr-amira (service) | risk medium | autonomy suggests | data personal
    capabilities: fast-small, embed
    tools: none
    budget US$15/month | 600 requests/min | 2,500,000 tokens/day | 3 model calls per run
    review by 2027-01-15 | credentials: none

    credentials: none (aucun identifiant d’authentification) est le travail de la prochaine leçon. Aujourd’hui, l’enregistrement existe, mais aucun agent ne peut prouver qu’il est le service de triage.

Le registre stocke le formulaire entier en JSON, avec un état et un numéro de version. Chaque modification est aussi un événement, qui indique qui l’a faite et pourquoi. Vous lirez ces événements dans Le cycle de vie d’un agent.

Le flux de soutien est une autre fourgonnette. Il propose des remboursements, des étiquettes de retour et des réexpéditions. Les systèmes de commandes les exécutent après l’approbation d’une personne. Une proposition erronée qu’une personne approuve déplace de l’argent ou des marchandises. Son enregistrement présente donc un risque élevé et comprend le formulaire long :

L'enregistrement du flux de soutien, registrations/support-workflow.yaml, ligne par ligne, avec une note à côté de chaque groupe de lignes. Formulaire court, pour chaque agent : id support-workflow, name Support-resolution workflow, kind agent : son identité. L'identifiant est l'identifiant client de l'agent, et chaque jeton le nomme. owner usr-amira, team service : qui en répond; un propriétaire qui a quitté l'entreprise bloque l'enregistrement. purpose, users et from : l'inventaire. risk_tier high : le formulaire long, une révision avant son exécution, une révision au moins tous les 3 mois. data_classes personal : les données les plus sensibles qu'il peut envoyer; les données de paiement ne vont jamais à un modèle. capabilities strong-reasoning et fast-small : la passerelle de modèles refuse toute autre capacité. tools, neuf outils de commandes comme orders.request_refund : la passerelle d'outils refusera tout autre outil. autonomy acts-with-approval : une personne approuve chaque écriture; un agent à risque élevé ne peut pas agir seul. budget_usd_month 25 et limites de 120 requêtes par minute, 2 000 000 de jetons par jour et 8 appels de modèles par exécution : des limites strictes que la passerelle appliquera. evaluations, strong-reasoning, task_success, minimum 0,95 : les preuves pour la barrière de réassociation. review_date 2026-12-01 : estate review-due le liste une fois la date passée. Formulaire long, risque élevé seulement : impact, human_oversight, failure_mode fail_closed, incident_contact usr-amira, data_retention et kill_switch_tested null : ce qui peut mal tourner, qui surveille, ce qui arrive quand la plateforme tombe en panne, qui appeler, quelles données sont conservées. Les notes vertes sont vérifiées dès ce module, par le registre ou la passerelle. Les notes en pointillé servent à un contrôle ultérieur : la passerelle d'outils et les limites.
L'enregistrement du flux de soutien, annoté. Vert : vérifié dès ce module. Pointillé : utilisé par un contrôle ultérieur.
Description textuelle du diagramme

Le schéma montre registrations/support-workflow.yaml ligne par ligne, avec une note à côté de chaque groupe de lignes. Une note verte indique que le registre ou la passerelle vérifie le champ dès ce module. Une note en pointillé indique qu’un contrôle ultérieur l’utilise.

Formulaire court, pour chaque agent :

  • id: support-workflow, name, kind: agent : son identité. L’identifiant devient l’identifiant client de l’agent, et chaque jeton le nomme. (Vert.)
  • owner: usr-amira, team: service : qui en répond. Un propriétaire qui a quitté l’entreprise bloque l’enregistrement. (Vert.)
  • purpose, users, from : l’inventaire : ce qu’il fait, pour qui et d’où il vient. (Vert.)
  • risk_tier: high : le formulaire long, une révision avant son exécution et une révision au moins tous les 3 mois. (Vert.)
  • data_classes: [personal] : les données les plus sensibles qu’il peut envoyer. Les données de paiement ne vont jamais à un modèle. (Vert.)
  • capabilities: [strong-reasoning, fast-small] : la passerelle de modèles refuse toute autre capacité. (Vert.)
  • tools : neuf outils de commandes, comme orders.get_order et orders.request_refund. La passerelle d’outils refusera tout autre outil. (Pointillé.)
  • autonomy: acts-with-approval : une personne approuve chaque écriture. Un agent à risque élevé ne peut pas agir seul. (Vert.)
  • budget_usd_month: 25 et limits : 120 requêtes par minute, 2 000 000 de jetons par jour, 8 appels de modèles par exécution. Des limites strictes que la passerelle appliquera. (Pointillé.)
  • evaluations : strong-reasoning, réussite de la tâche, minimum 0,95. Les preuves que la barrière de réassociation utilise avant qu’une capacité change de modèle. (Vert.)
  • review_date: 2026-12-01 : estate review-due le liste une fois cette date passée. (Vert.)

Formulaire long, risque élevé seulement : impact, human_oversight, failure_mode: fail_closed, incident_contact: usr-amira, data_retention et kill_switch_tested: null. Ils indiquent ce qui peut mal tourner, qui surveille et ce qui arrive quand la plateforme tombe en panne. Ils indiquent aussi qui appeler et quelles données sont conservées.

Remarquez kill_switch_tested: null. Personne n’a encore testé l’arrêt d’urgence du flux, et le formulaire le dit honnêtement. Le module 5 effectue ce test. Un enregistrement consigne des faits. Un fait absent le reste donc jusqu’à ce qu’une personne le vérifie.

Sam pose la question du débutant : « Pourquoi ne pas donner le formulaire long à chaque agent? C’est plus sûr. » Kwame répond avec les fourgonnettes. Quarante formulaires longs prennent quarante heures. Les gens copient alors d’anciennes réponses, et personne ne les lit. Un formulaire court pour la plupart des agents, et un long lorsque les dommages sont réels, préserve l’intérêt du formulaire long. Tomás a le souci inverse : « Le formulaire ralentit les équipes. » Le formulaire court compte 15 champs, et la plupart des réponses tiennent en un mot. Le module 7 mesure les obstacles que la plateforme crée.

Changez une condition : un agent à risque élevé. Avant d’exécuter quoi que ce soit, prévoyez deux choses. Quel statut le flux recevra-t-il lors de son enregistrement? Que doit-il se passer avant qu’il puisse appeler quoi que ce soit?

  1. Copiez les formulaires complets des autres applications à partir de l’instantané :

    Fenêtre de terminal
    cp $S/registrations/*.yaml registrations/

    Si vous avez ouvert un nouveau terminal, définissez d’abord S à nouveau, comme à l’étape 1 des étapes précédentes.

  2. Vérifiez registrations/support-workflow.yaml, puis enregistrez-le.

  3. Affichez son enregistrement et lisez son statut.

  4. Révisez-le en tant que propriétaire de la plateforme, avec la prochaine révision le 1 décembre 2026 : python -m estate review support-workflow --next 2026-12-01 --note "first review".

  5. Enregistrez les quatre autres formulaires et révisez le serveur MCP de soutien : il présente aussi un risque élevé.

    Fenêtre de terminal
    for f in doc-assistant release-judge helpdesk-assistant support-mcp; do python -m estate register registrations/$f.yaml; done
    python -m estate review support-mcp --next 2026-12-01
  6. Listez le registre avec python -m estate list.

Vérifiez votre travail

La vérification et l’enregistrement :

The form is complete.
Registered support-workflow (version 1): pending until a review approves it (python -m estate review support-workflow)

python -m estate show support-workflow avant la révision :

support-workflow | Support-resolution workflow | pending | version 1
owner usr-amira (service) | risk high | autonomy acts-with-approval | data personal
capabilities: strong-reasoning, fast-small
tools: orders.get_order, orders.get_customer_orders, orders.get_payments, orders.search_policy, orders.get_operation, orders.create_return_label, orders.reship_item, orders.request_refund, orders.add_ticket_note
budget US$25/month | 120 requests/min | 2,000,000 tokens/day | 8 model calls per run
review by 2026-12-01 | credentials: none

La révision :

Reviewed support-workflow: active, next review by 2026-12-01.

Les quatre autres formulaires : doc-assistant, release-judge et helpdesk-assistant sont actifs immédiatement. support-mcp reste en attente jusqu’à sa révision. Puis python -m estate list :

doc-assistant active low data usr-mei fast-small
helpdesk-assistant active medium service usr-amira fast-small
release-judge active medium evaluation usr-priya strong-reasoning
support-mcp active high platform usr-kwame -
support-workflow active high service usr-amira strong-reasoning, fast-small
ticket-triage active medium service usr-amira fast-small, embed
6 registrations

Le flux était en attente après register (enregistrer), car il présente un risque élevé. Jusqu’à sa révision par une personne, il ne peut pas obtenir d’identifiants d’accès ni appeler quoi que ce soit. Et si le formulaire n’avait pas de formulaire long? L’équipe du cours a supprimé le bloc long_form d’une copie du formulaire, et check (vérifier) a affiché :

- high risk needs the long form: missing long_form.impact, long_form.human_oversight, long_form.failure_mode, long_form.incident_contact, long_form.data_retention

kill_switch_tested ne figure pas dans cette liste. Il peut rester vide jusqu’à ce qu’une personne teste l’arrêt d’urgence.

Exécutez les tests : python -m pytest -q se termine encore par 104 passed, 1 deselected (104 réussis, 1 désélectionné). Les tests propres à cette leçon accompagnent les fichiers de la prochaine leçon, car l’un d’eux nécessite les identifiants d’accès.

Erreur courante

Un formulaire pour le résumé hebdomadaire

Symptôme : Tomás veut rendre le résumé hebdomadaire conforme rapidement. Il écrit un formulaire dans un nouveau dossier, drafts/weekly-digest.yaml. Il désigne Lee comme propriétaire, car Lee a écrit le script :

drafts/weekly-digest.yaml
id: weekly-digest
name: Weekly digest
kind: script
owner: usr-lee
team: service
purpose: Summarises the week's customer messages for the Monday meeting.
users: The service team reads the summary on Mondays.
risk_tier: medium
data_classes: [personal]
capabilities: [fast-small]
tools: []
autonomy: suggests
budget_usd_month: 1
limits: {requests_per_minute: 1, tokens_per_day: 10000, max_calls_per_run: 1}
review_date: 2027-01-15

python -m estate register drafts/weekly-digest.yaml affiche :

Not registered:
- owner usr-lee: left the company on 2026-08-31; a registration needs an owner who is here

python -m estate list affiche toujours 6 enregistrements.

Cause : config/people.yaml indique usr-lee: {…, left: 2026-08-31}. Un enregistrement nomme la personne qui répond de l’agent aujourd’hui. Une personne qui a quitté l’entreprise ne peut plus répondre de quoi que ce soit.

Diagnostic : exécutez python -m estate check sur le formulaire. La commande liste tous les problèmes, pas seulement le premier. Ici, le propriétaire est le seul problème.

Rétablissement : un enregistrement nécessite un propriétaire encore présent. Quelqu’un de l’équipe de service doit décider de prendre la responsabilité du résumé, sinon le résumé doit s’arrêter. Cette décision fait partie du travail final, alors laissez-la de côté pour l’instant. Supprimez le dossier drafts (sous Windows, Remove-Item -Recurse drafts).

Conséquence dans le travail en IA : un agent sans propriétaire présent continue de fonctionner, de dépenser et d’envoyer des données. Personne ne remarque quand il tombe en panne. Le résumé s’est exécuté chaque lundi pendant des semaines après le départ de Lee. Le registre ne peut pas arrêter un script jamais enregistré. Mais il refuse de faire paraître un agent orphelin comme ayant un propriétaire.

Un registre devient utile lorsque plusieurs équipes exploitent des agents avec des modèles et des budgets partagés, comme chez Larkfield. Une équipe avec une seule application peut garder les mêmes faits dans son README. Le coût est réel : un formulaire par agent, une personne pour réviser ceux à risque élevé, et des révisions périodiques. Ces révisions reviennent tous les quelques mois. Le registre fonctionne seulement si personne ne peut le contourner. La prochaine leçon fait refuser par la passerelle tout appel sans enregistrement valide. Le module 6 trouve les agents jamais enregistrés.

Un enregistrement n’est aussi fiable que ses réponses. Rien dans le formulaire ne prouve que le service de triage n’envoie aucune donnée de paiement. La passerelle le vérifie plus tard, dans le module 4, et l’enregistrement lui indique quoi vérifier.

Vérifiez votre compréhension

Mei veut que l'assistant documentaire réponde aux questions sur les commandes des clients. Aujourd'hui, il présente un risque faible avec data_classes : [internal]. Quels champs doivent changer, et que fait le registre avec la nouvelle version?

Afficher la réponse

data_classes doit inclure personal, car les commandes nomment les clients. Avec des données personnelles, le niveau de risque devrait passer de faible à moyen. La date de révision doit alors être dans 6 mois au plus. Mei enregistre le formulaire modifié comme une nouvelle version (version 2). Pour les agents à risque faible ou moyen, le registre conserve le statut actif. L’événement liste les champs modifiés. Si le changement entraînait un risque élevé, le formulaire long serait obligatoire, et l’enregistrement attendrait une révision.

Vérifiez votre compréhension

Prévoyez : Tomás enregistre un nouvel agent avec risk_tier : high et autonomy : acts. Que répond le registre? Pourquoi cette règle est-elle dans la plateforme, et pas seulement dans le document de politique?

Afficher la réponse

Il refuse : « Un agent à risque élevé ne peut pas agir sans l’approbation d’une personne (autonomy : acts-with-approval). » La politique peut demander des approbations, mais une personne peut l’oublier ou mal la lire. Le registre vérifie cette règle sur chaque formulaire. Un agent à risque élevé qui agit seul n’obtient donc jamais d’enregistrement. Sans enregistrement, il ne peut pas obtenir d’identifiants d’accès ni appeler quoi que ce soit.

Vérifiez votre compréhension

Pourquoi le formulaire long existe-t-il seulement pour les agents à risque élevé? Nommez deux de ses champs et leur utilité respective.

Afficher la réponse

Un formulaire long pour chaque agent coûte des heures, et les gens copient alors des réponses sans les lire. Le réserver au risque élevé préserve son intérêt. N’importe lesquels de ces deux champs :

  • impact : ce qu’une erreur peut faire, comme déplacer de l’argent.
  • human_oversight : qui vérifie avant une action.
  • failure_mode : ce qui arrive quand la plateforme tombe en panne, fail_closed (refus en cas de panne) pour le flux.
  • incident_contact : qui appeler.
  • data_retention : quelles données sont conservées, et pendant combien de temps.
  • kill_switch_tested : si une personne a testé l’arrêt.

Récapitulatif

  • Un enregistrement est la fiche dont un agent a besoin avant son premier appel. Le registre garde chaque enregistrement, avec son statut, sa version et son historique.
  • Le formulaire court compte 15 champs. Ils indiquent l’identité, le propriétaire et l’équipe, l’objectif et les utilisateurs, ainsi que le niveau de risque. Ils indiquent aussi les classes de données, capacités, outils, autonomie, budget, limites et date de révision.
  • Un risque élevé ajoute le formulaire long : impact, supervision, mode de défaillance, contact en cas d’incident, conservation des données et test d’arrêt d’urgence.
  • Le niveau de risque découle de ce qu’une erreur peut faire. Il fixe l’intervalle de révision (3, 6 ou 12 mois). Un enregistrement à risque élevé commence en attente jusqu’à sa révision par une personne.
  • Le registre refuse ce que la plateforme ne peut pas permettre. Exemples : champs manquants, propriétaire parti, capacité inconnue, données de paiement pour un modèle ou agent à risque élevé agissant seul.
  • Larkfield compte maintenant 6 enregistrements, tous actifs. Le résumé hebdomadaire n’en a aucun : son propriétaire a quitté l’entreprise.

Vous pouvez maintenant dire qui est responsable de chaque agent, ce qu’il peut faire et ce qu’il peut dépenser. Mais le registre ne fait que consigner les faits. Chaque application appelle encore le fournisseur avec une clé partagée ou personnelle. Rien ne relie un appel à un enregistrement. Ensuite, nous donnons à chaque agent sa propre identité et des identifiants d’accès de courte durée. Puis la passerelle refuse tout appel qui ne les fournit pas.

Leçon suivante : Une identité par agent