Aller au contenu
English

Découvrir le parc d'IA de Larkfield

  • Leçon 3
  • 40 min
  • Module 1 : Pourquoi les agents ont besoin de contrôles de plateforme

Où nous en sommes

Dans la dernière leçon, nous avons trouvé les points de contrôle : identité, registre, passerelle de modèles, passerelle d'outils et audit. Nous avons aussi vu ce que chacun peut observer. Jusqu'ici, ce sont des cases sur une image, et le parc est un dossier de fichiers. Dans cette leçon, nous démarrons le parc de Larkfield sur notre ordinateur. Nous envoyons les requêtes réelles enregistrées de chaque application et lisons ce que le fournisseur consigne. Ainsi, chaque leçon suivante modifiera quelque chose que nous avons déjà vu fonctionner. Nous commençons par revoir un match enregistré.

Ce que vous saurez faire

Démarrez le parc d’IA de Larkfield sur votre ordinateur. Envoyez au fournisseur les requêtes réelles enregistrées de chaque application. Lisez ensuite les seuls documents qui existent avant la gouvernance : la facture du fournisseur et le journal des connexions sortantes. Vous apprendrez aussi quelles preuves sont rejouées ou simulées dans ce cours, et comment recommencer.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 40 minutes

Ce que vous devez savoir

Ce qu’il vous faut sur votre ordinateur

  • Le projet ~/projects/ai-estate de la première leçon de ce module, et le dépôt d’exercices dans ~/projects/nextia-learning-labs.
  • Python 3.12 ou une version plus récente. Vérifiez avec python3.12 --version sur macOS et Linux, ou py -3.12 --version sur Windows.
  • Deux terminaux, par exemple deux onglets dans VS Code. Le port 8320 doit être libre : le simulateur de fournisseur l’utilise.
  • Une connexion Internet, une seule fois, pour pip. Les paquets et l’environnement virtuel occupent environ 85 Mo.

Vous n’avez besoin d’aucun compte, d’aucune clé et d’aucun paiement. Testé sur macOS (Apple silicon) avec Python 3.12.13. Les commandes Windows (PowerShell) et Linux sont fournies, mais l’équipe du cours ne les a pas exécutées.

Imaginez une entraîneuse de soccer qui étudie le match de la semaine dernière. Elle lance l’enregistrement, l’arrête, puis revoit une attaque. À chaque lecture, les mêmes événements se produisent, dans le même ordre. Elle peut le montrer à l’équipe et à une autre entraîneuse. Tout le monde voit le même match.

Un enregistrement possède une autre propriété importante ici. Il ne montre jamais un but qui n’a pas été marqué. Si l’entraîneuse demande : « Et si notre attaquante avait tiré du pied gauche? », l’enregistrement n’a pas de réponse. Il peut seulement montrer ce qui s’est réellement passé.

Le problème : pratiquer la gouvernance avec de vrais fournisseurs

Section intitulée « Le problème : pratiquer la gouvernance avec de vrais fournisseurs »

Kwame pourrait construire la plateforme avec de vrais modèles Azure. Mais chaque appel coûte de l’argent et nécessite une clé. Un vrai modèle peut donner demain une réponse différente à la même requête. Une leçon ne pourrait donc pas montrer le résultat que vous verrez. Kwame ne peut pas provoquer une panne du fournisseur pour tester une solution de repli. Et un mois de trafic de Larkfield représente des dizaines de milliers d’appels.

Le cours fait donc comme l’entraîneuse. Il rejoue ce qui s’est réellement passé.

L’idée : un simulateur de fournisseur qui rejoue des enregistrements

Section intitulée « L’idée : un simulateur de fournisseur qui rejoue des enregistrements »

Les cours précédents ont appelé de vrais modèles et enregistré chaque requête et chaque réponse. Ce cours réunit ces enregistrements dans un simulateur de fournisseur. C’est un petit serveur sur votre ordinateur que les applications voient comme un fournisseur de modèles. Il utilise la même API que le point de terminaison d’Azure compatible avec OpenAI.

Quand une application envoie une requête, le simulateur calcule une empreinte du corps de la requête, un hachage SHA-256. Si un cours précédent a enregistré exactement ce corps, le simulateur renvoie la réponse enregistrée. Il conserve son nombre réel de jetons (tokens) et son temps réel. Sinon, il répond avec une erreur, 422 no_recording (aucun enregistrement), et n’invente jamais de réponse. Quelques champs qui ne changent pas la réponse, comme stream, sont exclus de l’empreinte. Tous les autres caractères comptent : les tests du cours changent max_completion_tokens d’une requête de triage à 999. Le simulateur répond alors 422.

Un flux, de haut en bas. Une application envoie une requête au simulateur avec sa clé. Le simulateur écrit une ligne dans le journal des connexions sortantes : hôte, fournisseur, identifiant de clé, statut. Est-ce une clé d'exercice pour ce fournisseur? Non : 401 invalid_key, clé non valide. Oui : une règle de fonctionnalité enregistrée refuse-t-elle la requête? Oui : 400 avec le texte d'erreur donné par le vrai fournisseur. Non : la clé de la requête est un hachage SHA-256 du corps, octet par octet. Cinq champs sont exclus, comme stream. Un cours précédent a-t-il enregistré exactement ce corps? Non : 422 no_recording, aucun enregistrement; le simulateur n'invente jamais de réponse. Oui : 200, la réponse enregistrée avec ses jetons et sa latence. Une ligne est ajoutée à la facture : identifiant de clé, modèle, jetons, coût.
Comment le simulateur de fournisseur répond à une requête. Seule une requête enregistrée par un cours précédent obtient la réponse d'un modèle.
Description textuelle du diagramme

Une application envoie une requête avec sa clé. Le simulateur écrit d’abord une ligne dans son journal des connexions sortantes. Elle indique l’hôte qui l’a envoyée, le fournisseur, l’identifiant de clé et le statut. Il vérifie ensuite la clé : une clé inconnue reçoit 401 invalid_key, clé non valide. Ensuite, il vérifie les règles de fonctionnalités enregistrées. Le vrai fournisseur a refusé certaines requêtes, par exemple un appel d’outil qu’un modèle ne peut pas faire. Le simulateur les refuse avec le même texte d’erreur. Il calcule ensuite l’empreinte de la requête, un hachage SHA-256 du corps, octet par octet. Cinq champs sont exclus, comme stream. Si aucun cours précédent n’a enregistré exactement ce corps, la réponse est 422 no_recording : le simulateur n’invente jamais de réponse. Si un cours l’a enregistré, la réponse est 200 avec la réponse enregistrée, ses jetons et sa latence. Le simulateur ajoute ensuite une ligne à la facture : identifiant de clé, modèle, jetons et coût.

Chaque preuve dans ce cours porte une étiquette. Utilisez les mêmes étiquettes dans vos notes.

Étiquette Ce que c’est Exemples
rejoué une vraie réponse d’un vrai modèle, enregistrée par un cours précédent et rejouée par le simulateur les réponses de chat-small (gpt-6-luna-2026-09-22), chat-strong (gpt-6.1-sol-2026-09-29), embed-small et gemma3:4b
mesuré un nombre provenant d’une exécution du code du cours, comme le temps ajouté par la passerelle vos propres exécutions, et celles de l’équipe du cours sur un portable
simulé un comportement inventé pour pratiquer une situation la facture, le journal des connexions sortantes, les pannes, les réponses lentes, une deuxième région Azure
construit un cas ou des données inventés par l’auteur du cours le script de résumé hebdomadaire, Fernway et son unique réponse
hypothèse une valeur déclarée, comme un prix ou un volume quotidien 45 exécutions de flux de travail par jour; les prix des enregistrements

Le simulateur contient 5 253 réponses enregistrées à 3 953 requêtes différentes. Certaines requêtes ont été enregistrées plusieurs fois. Une requête répétée peut donc recevoir une autre réponse réelle, comme avec un vrai modèle. Les réponses proviennent des cours Agents d’IA et orchestration des flux de travail (2 363), Évaluer et tester les systèmes d’IA (2 260), Projet intégrateur : créer, évaluer et livrer un produit d’IA (353), Créer des applications fiables avec les API de LLM (7) et de ce cours (269, surtout des plongements (embeddings) du service de triage). Une réponse est construite : celle de Fernway. Chaque application du parc est un outil de rejeu : elle envoie exactement les corps de requêtes de son cours, dans l’ordre.

Vous avez téléchargé l’instantané start (début) dans la première leçon. Créez maintenant son environnement Python, vérifiez-le et ajoutez les fichiers de cette leçon : la ligne de commande du parc.

  1. Placez-vous dans le projet :

    Fenêtre de terminal
    cd ~/projects/ai-estate
  2. Créez et activez un environnement virtuel avec Python 3.12 :

    Fenêtre de terminal
    python3.12 -m venv .venv
    source .venv/bin/activate

    L’invite commence maintenant par (.venv). À partir d’ici, tapez python sur tous les systèmes. Activez de nouveau l’environnement dans chaque nouveau terminal.

  3. Installez les paquets aux versions fixées :

    Fenêtre de terminal
    python -m pip install -r requirements-dev.txt

    Cela prend environ une minute. Les dernières lignes peuvent suggérer une version plus récente de pip. Vous pouvez ignorer cette suggestion.

  4. Exécutez les tests de l’instantané :

    Fenêtre de terminal
    python -m pytest -q

    La dernière ligne :

    88 passed, 1 deselected in 4.12s

    Votre durée sera différente. Parmi les 88 tests, 69 viennent du cours sur les agents et testent le flux de travail de soutien. Le test exclu appelle un vrai fournisseur et s’exécute seulement si vous le demandez.

  5. Copiez les fichiers de cette leçon depuis l’instantané end-of-m01 : le dossier estate, son test et le nouveau README.md. Dans ~/projects/ai-estate :

    Fenêtre de terminal
    S=../nextia-learning-labs/C32/snapshots/end-of-m01
    cp -R $S/estate .
    cp $S/tests/test_estate_basics.py tests/
    cp $S/README.md .
  6. Exécutez de nouveau les tests :

    Fenêtre de terminal
    python -m pytest -q

    La dernière ligne indique maintenant 91 passed, 1 deselected (91 tests réussis, 1 exclu). Votre projet est maintenant identique à l’instantané end-of-m01.

La commande python -m estate démarre et arrête les services du parc. À cette étape, il n’y a qu’un service : le simulateur de fournisseur. Les modules suivants ajoutent le plan de contrôle, les passerelles et les serveurs d’outils. La même commande les démarre tous.

  1. Créez le dossier d’état du parc :

    Fenêtre de terminal
    python -m estate init

    Le résultat (votre chemin sera différent) :

    State folder: /Users/you/projects/ai-estate/state
    The estate has no platform yet: each app calls the provider with its own key.

    Le dossier state/ contient l’état des exercices : aujourd’hui, la facture et le journal des connexions sortantes du simulateur. Plus tard, il contiendra le registre, les clés et les relevés d’utilisation. Git l’ignore.

  2. Démarrez les services :

    Fenêtre de terminal
    python -m estate up

    Le résultat (votre numéro de processus sera différent) :

    provsim up (process 44451) http://127.0.0.1:8320

    Le simulateur fonctionne maintenant en arrière-plan. Vous continuez à utiliser ce terminal.

  3. Vérifiez qu’il répond :

    Fenêtre de terminal
    python -m estate status
    provsim running {"ok":true,"recordings":5253,"speed":0.0,"egress":"open"}

    speed 0.0 (vitesse nulle) signifie que le simulateur répond immédiatement, sans l’attente enregistrée. egress open (connexions sortantes ouvertes) signifie que le réseau simulé permet à chaque machine de joindre chaque fournisseur. C’est ainsi que fonctionne le réseau de Larkfield aujourd’hui.

Exemple détaillé : cinq billets dans le service de triage

Section intitulée « Exemple détaillé : cinq billets dans le service de triage »

Le service de triage lit chaque nouveau billet de soutien et envoie deux requêtes. Un appel de clavardage choisit l’équipe, et un plongement sert à la recherche. Envoyez cinq billets :

Fenêtre de terminal
python -m apps.replay ticket-triage --units 5

Le résultat, rejoué :

ticket-triage: 10 requests straight to the provider | status {200: 10}
answered by: chat-small (gpt-6-luna-2026-09-22) x5, embed-small (text-embedding-3-small) x5
tokens: 10,018 in, 2,025 out | cost: US$0.0020

Lisez-le ligne par ligne :

  • 10 requêtes directement au fournisseur : 5 billets, 2 requêtes chacun. « Directement » signifie que rien ne se trouve entre l’application et le fournisseur.
  • status {200: 10} (statut) : chaque requête avait un enregistrement, donc chacune a reçu une réponse.
  • answered by (réponse de) : l’application a demandé le déploiement chat-small, et le modèle gpt-6-luna-2026-09-22 du fournisseur a répondu. Le deuxième nom est la version du modèle. Aujourd’hui, seule l’application la voit; rien ne la consigne pour Larkfield.
  • jetons et coût : 10 018 jetons en entrée et 2 025 en sortie. Aux prix des enregistrements, cela représente 0,0020 $ US pour cinq billets.

Une unité est un élément du travail d’une application. C’est un billet, une exécution de tâche du flux de travail, une question à l’assistant documentaire ou une réponse lue par le juge. L’outil de rejeu choisit les unités au hasard, mais avec une valeur initiale fixe. Vous obtenez donc les mêmes cinq billets que dans cette leçon.

Quelle application a fait un appel, et quel modèle a répondu?

Section intitulée « Quelle application a fait un appel, et quel modèle a répondu? »

Envoyez une tâche du flux de travail de soutien et affichez chaque requête :

Fenêtre de terminal
python -m apps.replay support-workflow --units 1 --verbose
200 chat-strong -> gpt-6.1-sol-2026-09-29
200 chat-strong -> gpt-6.1-sol-2026-09-29
200 chat-strong -> gpt-6.1-sol-2026-09-29
200 chat-strong -> gpt-6.1-sol-2026-09-29
support-workflow: 4 requests straight to the provider | status {200: 4}
answered by: chat-strong (gpt-6.1-sol-2026-09-29) x4
tokens: 10,149 in, 497 out | cost: US$0.0253

Cette tâche a nécessité quatre appels de modèles. L’agent du cours sur les agents appelle le modèle une fois par étape, jusqu’à ce qu’il propose une résolution. La première ligne du résumé nomme l’application, support-workflow. Chaque ligne --verbose indique le déploiement demandé par l’application et la version du modèle qui a répondu : chat-strong -> gpt-6.1-sol-2026-09-29. N’oubliez pas que seule l’application a affiché ces renseignements. Le fournisseur connaît une clé, pas une application.

  1. Deux exécutions de tâches du flux de travail de soutien :

    Fenêtre de terminal
    python -m apps.replay support-workflow --units 2
    support-workflow: 6 requests straight to the provider | status {200: 6}
    answered by: chat-strong (gpt-6.1-sol-2026-09-29) x6
    tokens: 14,776 in, 738 out | cost: US$0.0369
  2. Trois questions à l’assistant documentaire :

    Fenêtre de terminal
    python -m apps.replay doc-assistant --units 3
    doc-assistant: 3 requests straight to the provider | status {200: 3}
    answered by: chat-small (gpt-6-luna-2026-09-22) x3
    tokens: 2,385 in, 681 out | cost: US$0.0006
  3. Trois réponses lues par le juge de mise en production :

    Fenêtre de terminal
    python -m apps.replay release-judge --units 3
    release-judge: 3 requests straight to the provider | status {200: 3}
    answered by: chat-strong (gpt-6.1-sol-2026-09-29) x3
    tokens: 4,559 in, 309 out | cost: US$0.0122
  4. Le résumé hebdomadaire. C’est un simple script, pas un outil de rejeu :

    Fenêtre de terminal
    python apps/digest/weekly_digest.py

    Le résultat, construit (l’auteur du cours a rédigé la réponse de Fernway) :

    - Damaged or broken on arrival: a cracked bird bath, crushed solar path lights, a cracked bench slat and a frayed hammock.
    - Refunds not yet seen on the card after a return (kettle, pruning shears, hose reel, watering can).
    - Missing boxes and late or lost parcels (frying pan, rattan patio set, garden bench).
    - Account problems: sign-in, password reset emails and changing the email address.
    - Two safety worries: a grill that caught fire and a kettle handle that got very hot with a burning smell.
    Products that come up most: the electric kettle, the hammock, the rattan patio set and the garden bench.
    (2764 tokens in, 152 out)

Le résumé semble utile, et c’est pourquoi des scripts comme celui-ci existent. Ses 40 messages de clients se trouvent dans les données d’exercice, data/tickets.jsonl. Dans l’histoire, ils ont été envoyés à un fournisseur sans contrat.

Le coût d’une unité de travail varie beaucoup d’une application à l’autre. Le graphique montre le coût d’une unité, calculé à partir des exécutions que vous venez de faire.

Vos exécutions, réponses rejouées aux prix des enregistrements : 5 billets, 3 exécutions de tâches du flux de travail, 3 questions documentaires et 3 réponses jugées, divisées par unité.
Description textuelle du graphique

Quatre barres, en cents US par unité. Un billet de triage coûte 0.04 cents (chat-small et un plongement). Une exécution de tâche du flux de travail coûte 2.07 cents. C’est de loin le coût le plus élevé, car elle fait plusieurs appels à chat-strong. Une question documentaire coûte 0.02 cents. Une réponse jugée coûte 0.41 cents, également avec chat-strong.

Une exécution de tâche du flux de travail coûte environ 50 fois plus qu’un billet de triage. chat-strong coûte 20 fois plus par jeton, et une tâche fait plusieurs appels. Gardez cela en tête : au module 2, Omar demande de réduire le coût de « strong-reasoning », le raisonnement avancé. C’est pour cette raison.

Lire l’utilisation : la facture et le journal des connexions sortantes

Section intitulée « Lire l’utilisation : la facture et le journal des connexions sortantes »

Avant la gouvernance, Larkfield possède deux relevés de son utilisation de l’IA. La facture du fournisseur indique ce que chaque clé a utilisé. Le journal des connexions sortantes du réseau indique quelle machine s’est connectée à quel fournisseur. Les deux sont simulés ici, à partir de vos requêtes réelles.

  1. Affichez la facture :

    Fenêtre de terminal
    python -m provsim bill

    Le résultat est une facture simulée de vos requêtes rejouées. La colonne du mois indique le mois de votre exécution.

    month,provider,key_id,deployment,requests,tokens_in,tokens_out,cost_usd
    2026-10,azure,az-key-1,chat-small,5,9594,2025,0.001972
    2026-10,azure,az-key-1,chat-strong,10,24925,1235,0.062200
    2026-10,azure,az-key-1,embed-small,5,424,0,0.000008
    2026-10,azure,az-key-2,chat-small,3,2385,681,0.000579
    2026-10,azure,az-key-3,chat-strong,3,4559,309,0.012208
    2026-10,fernway,fw-7Q2K,fernway-swift,1,2764,152,0.001349

    La ligne chat-strong de az-key-1 compte 10 requêtes : les 4 de la tâche avec --verbose, et les 6 des deux exécutions de tâches.

  2. Affichez le journal des connexions sortantes :

    Fenêtre de terminal
    python -m provsim egress

    Il contient une ligne par requête : 27 lignes après l’en-tête. Voici l’en-tête, la première ligne et la dernière ligne de l’exécution du cours. L’heure au début de chaque ligne est omise ici; votre journal indique l’heure de votre exécution.

    time,source_host,destination,provider,key_id,status,bytes_out
    ...,triage-svc-01,larkfield-ai.openai.azure.example,azure,az-key-1,200,8678
    ...
    ...,build-runner-3,api.fernway.example,fernway,fw-7Q2K,200,11233

Répondez maintenant à la question du README de l’instantané start : quelle application a utilisé az-key-1? La facture ne peut pas le dire. Elle contient trois lignes pour az-key-1, correspondant à trois modèles. Le journal des connexions sortantes donne un indice de plus : il nomme les machines. triage-svc-01 a envoyé 10 requêtes avec az-key-1, et workflow-01 en a envoyé 10. Vous pouvez donc associer une machine à une application, si vous savez quelle application fonctionne sur quelle machine. Rien dans le parc ne consigne cette information.

Et fw-7Q2K? Le journal des connexions sortantes indique que build-runner-3 s’est connectée à api.fernway.example. Une machine de compilation qui contacte un fournisseur d’IA inconnu produit exactement le type de ligne à repérer au module 6. Mais dans ce parc, personne ne lit le journal des connexions sortantes. La facture arrive à la fin du mois.

Le simulateur répond seulement à ce qui a été enregistré. Envoyez-lui une requête qu’aucun cours n’a enregistrée, dans un deuxième terminal ou dans le même :

Fenêtre de terminal
curl -s -X POST http://127.0.0.1:8320/azure/v1/chat/completions \
-H 'Content-Type: application/json' \
-H 'Authorization: Bearer sim-az-service-team-0001' \
-d '{"model": "chat-small", "messages": [{"role": "user", "content": "Hello"}]}'

Sur Windows, cette commande PowerShell n’a pas été testée. Dans PowerShell 7.3 ou une version plus récente, écrivez le corps sans les barres obliques inverses.

{"error":{"code":"no_recording","message":"The provider simulator has no recording of this request (key d821e1a0ccb82898ff33). It answers only requests that a course recorded, byte for byte; it never invents an answer.","type":"simulated"}}

C’est encore comme le match enregistré : pas d’enregistrement, pas de réponse. C’est aussi pourquoi le cours peut faire des affirmations solides. Chaque réponse que vous voyez provient d’un vrai modèle, et le cours le précise. La clé sim-az-service-team-0001 est la clé d’exercice derrière az-key-1. Elle est écrite dans apps/replay.py, comme les clés le sont souvent dans du vrai code. Seul le simulateur l’accepte.

  1. Arrêtez les services :

    Fenêtre de terminal
    python -m estate down
    provsim stopped (process 44451)
  2. Supprimez l’état de l’exercice :

    Fenêtre de terminal
    python -m estate reset
    Deleted /Users/you/projects/ai-estate/state (the registry, the usage records, the keys and the practice database). Start again with: python -m estate init

    À cette étape, state/ contient seulement la facture et le journal du trafic sortant. Le message nomme ce que les modules suivants y conservent.

  3. Redémarrez, puis vérifiez que la facture est vide :

    Fenêtre de terminal
    python -m estate up
    python -m provsim bill

    La facture contient maintenant seulement sa ligne d’en-tête.

reset (réinitialiser) refuse de s’exécuter pendant que les services fonctionnent. Il affiche Stop the services first: python -m estate down (arrêtez d’abord les services). Arrêtez le parc avec python -m estate down quand vous terminez une leçon. Cette commande arrête seulement les processus que up (démarrer) a lancés.

Un arbre de décision. Exécutez python -m pytest. 91 tests réussis? Sinon : vérifiez le dossier ai-estate, vérifiez que l'invite affiche (.venv), recopiez les fichiers de la leçon et relancez les tests. Si oui : python -m estate up. Affiche-t-il provsim up, http://127.0.0.1:8320? Sinon : le port 8320 est occupé; exécutez python -m estate down, ou arrêtez l'autre programme, puis redémarrez. Si oui : python -m apps.replay ticket-triage --units 5. Affiche-t-il status 200: 10 et cost US$0.0020? Si oui : tout est prêt, votre parc donne les mêmes réponses que ce cours. Sinon : utilisez la graine par défaut, sans l'option --seed, puis relancez la commande.
La vérification de la configuration. Quand cinq billets de triage coûtent 0,0020 $ US et produisent dix réponses, votre parc donne les mêmes réponses que les leçons.
Description textuelle du diagramme

Exécutez d’abord python -m pytest. S’il n’affiche pas 91 passed, vérifiez que vous êtes dans le dossier ai-estate et que l’invite affiche (.venv). Recopiez les fichiers de cette leçon, puis relancez les tests. Exécutez ensuite python -m estate up. S’il n’affiche pas provsim up avec http://127.0.0.1:8320, le port 8320 est occupé. Exécutez python -m estate down, ou arrêtez l’autre programme, puis redémarrez. Envoyez ensuite cinq billets de triage. Si la sortie affiche status 200: 10 et cost US$0.0020, tout est prêt. Sinon, relancez la commande avec la graine par défaut, sans l’option –seed.

Erreur courante

Le simulateur ne répond pas

Symptôme : python -m estate up affiche, après quelques secondes :

provsim NOT ANSWERING (process 46186) http://127.0.0.1:8320 - port 8320 was already in use

Le journal state/logs/provsim.log se termine par cette ligne (sur macOS) :

ERROR: [Errno 48] error while attempting to bind on address ('127.0.0.1', 8320): [errno 48] address already in use

Sur Linux, le numéro est 98. Sur Windows, l’erreur indique 10048 (non testé).

Cause : un autre programme utilise le port 8320. Le plus souvent, c’est un simulateur que vous avez démarré avec python -m provsim dans un autre terminal. Il peut aussi s’agir du parc d’une autre copie du projet.

Diagnostic : sur macOS et Linux, lsof -i :8320 nomme le programme. Sur Windows, Get-NetTCPConnection -LocalPort 8320 donne son identifiant de processus (non testé).

Solution : arrêtez ce programme avec Ctrl+C dans son terminal, ou avec python -m estate down dans l’autre projet. Exécutez ensuite python -m estate up de nouveau.

Erreur courante

Connexion refusée lors de la relecture

Symptôme : python -m apps.replay ticket-triage --units 1 affiche une longue trace d’erreur qui se termine par :

httpx.ConnectError: [Errno 61] Connection refused

Sur Linux, le numéro est 111; sur Windows, l’erreur indique 10061 (non testé).

Cause : le simulateur ne fonctionne pas. Vous avez exécuté python -m estate down, ou l’ordinateur a redémarré.

Solution : exécutez python -m estate up, puis relancez la relecture. python -m estate status vous indique si le simulateur fonctionne.

Changez une condition : d’autres applications, d’autres unités. Avant d’exécuter quoi que ce soit, notez ce que vous pensez voir sur la facture.

  1. Réinitialisez le parc : python -m estate down, puis python -m estate reset, puis python -m estate up.

  2. Faites une prédiction : vous envoyez 5 réponses au juge des mises en production et 3 questions à l’assistant documentaire avec --seed 7. Quelles clés et quels modèles la facture affichera-t-elle, et avec combien de requêtes chacun?

  3. Lancez les deux relectures :

    Fenêtre de terminal
    python -m apps.replay release-judge --units 5
    python -m apps.replay doc-assistant --units 3 --seed 7
  4. Affichez la facture avec python -m provsim bill, puis comparez-la à votre prédiction.

  5. Arrêtez le parc avec python -m estate down.

Vérifiez votre prédiction

L’exécution du cours, les réponses relues et une facture simulée :

release-judge: 5 requests straight to the provider | status {200: 5}
answered by: chat-strong (gpt-6.1-sol-2026-09-29) x5
tokens: 7,690 in, 632 out | cost: US$0.0217
doc-assistant: 3 requests straight to the provider | status {200: 3}
answered by: chat-small (gpt-6-luna-2026-09-22) x3
tokens: 3,015 in, 267 out | cost: US$0.0004
month,provider,key_id,deployment,requests,tokens_in,tokens_out,cost_usd
2026-10,azure,az-key-2,chat-small,3,3015,267,0.000435
2026-10,azure,az-key-3,chat-strong,5,7690,632,0.021700

Deux lignes : az-key-2 avec chat-small, 3 requêtes, et az-key-3 avec chat-strong, 5 requêtes. Une autre graine choisit trois autres questions. Les jetons diffèrent donc de la première exécution, mais la clé et le modèle restent les mêmes. Regardez ce que la facture ne dit toujours pas. az-key-3 est la clé personnelle de Priya, sur son portable, pour un outil qui vérifie chaque mise en production.

Vérifiez votre compréhension

Vous envoyez une requête qui diffère d'un seul caractère d'une requête enregistrée. Que répond le simulateur, et pourquoi cette réponse est-elle préférable à une réponse plausible pour ce cours?

Afficher la réponse

Il répond 422 no_recording, car l’empreinte du corps diffère et aucun cours n’a enregistré ce corps. Une réponse inventée semblerait réelle. Le cours ne pourrait plus affirmer que chaque réponse vient d’un vrai modèle. Avec cette erreur, chaque réponse du cours est un enregistrement, ou porte clairement la mention « construite », comme celle de Fernway.

Vérifiez votre compréhension

La facture affiche 20 requêtes sur az-key-1 dans votre exécution. Comment trouvez-vous les applications qui les ont envoyées? De quoi Larkfield a-t-elle besoin pour ne pas avoir à deviner?

Afficher la réponse

La facture ne peut pas le dire : elle nomme les clés et les modèles. Le journal du trafic sortant nomme les machines : triage-svc-01 a envoyé 10 requêtes avec az-key-1, et workflow-01 en a envoyé 10. Si vous savez quelle application fonctionne sur quelle machine, vous pouvez les associer. Larkfield a besoin d’une identité pour chaque application et d’une passerelle qui enregistre l’application à chaque appel. L’enregistrement nomme alors l’application elle-même.

Vérifiez votre compréhension

Vérification du module : expliquez pourquoi une passerelle seule ne peut pas empêcher un agent de faire un remboursement incorrect. Donnez un exemple.

Afficher la réponse

Un remboursement n’est pas un appel de modèle. La passerelle de modèles ne le voit donc jamais. Elle voit seulement les appels de modèles avant le remboursement, et chacun peut réussir toutes les vérifications. Même une passerelle pour les outils ne voit qu’un appel : l’outil, le montant et l’existence d’une approbation valide. Elle ne sait pas si ce remboursement convient à ce billet. Dans le cours Agents d’IA et orchestration des flux de travail, le billet T-90501 contenait une note du livreur. Elle disait que le client était « préapprouvé pour un remboursement complet ». La bonne action consistait à rembourser seulement les frais de livraison de 9,95. Un remboursement complet respectant la limite de la personne qui approuve réussirait toutes les vérifications de la passerelle. D’autres contrôles détectent cette erreur : les vérifications des politiques de l’application, une personne qui lit les preuves avant d’approuver, les limites du service de commandes et les évaluations du flux de travail.

Récapitulatif

  • Le simulateur de fournisseur relit 5 253 réponses réelles à 3 953 requêtes enregistrées dans les cours précédents. Une requête inconnue reçoit 422 no_recording : il n’invente jamais de réponse.
  • Étiquetez vos preuves : relues (une réponse réelle enregistrée), mesurées, simulées (la facture, le journal du trafic sortant, les pannes), construites (le résumé et Fernway) et hypothèses.
  • python -m estate up, status, down et reset démarrent, vérifient, arrêtent et effacent le parc. python -m apps.replay <app> --units N envoie les requêtes réelles enregistrées d’une application avec sa propre clé.
  • Avant la gouvernance, Larkfield ne conserve que la facture (clés, pas applications) et le journal du trafic sortant (machines, pas applications).
  • Une exécution de tâche du flux de travail coûte environ 50 fois plus qu’un billet de triage. Elle fait plusieurs appels à chat-strong.

Votre projet maintenant : ~/projects/ai-estate, identique à l’instantané end-of-m01. Il contient la ligne de commande du parc dans estate/, son environnement virtuel .venv et 91 tests qui réussissent. Vous pouvez maintenant exécuter le parc et lire ce que le fournisseur enregistre. Mais chaque application nomme encore un modèle et appelle le fournisseur avec sa propre clé. Ensuite, dans le module 2, les applications demandent plutôt une capacité, et la plateforme décide quel modèle la fournit.

Leçon suivante : Un catalogue de capacités