Aller au contenu
English

Associer les capacités aux modèles

  • Leçon 5
  • 40 min
  • Module 2 : Demander des capacités, pas des modèles

Où nous en sommes

Dans la dernière leçon, nous avons donné un contrat à chaque capacité : fonctionnalités, qualité minimale, latence, classes de données et fourchette de prix. Mais un contrat ne dit pas quel modèle tient cette promesse, où il fonctionne, ni ce qui arrive si le fournisseur tombe en panne. Dans cette leçon, nous associons chaque capacité à un modèle et à un fournisseur. Nous ajoutons une solution de repli et des règles sur les données, puis consignons le modèle qui a répondu. Nous permettons aussi à un consommateur de fixer un modèle précis au besoin. Revenons à la location de voitures.

Ce que vous saurez faire

Décidez quel modèle et quel fournisseur servent chaque capacité, et quel fournisseur prend le relais si le premier tombe en panne. Décidez aussi quelles données chaque fournisseur peut recevoir. Ensuite, consignez à chaque appel le modèle qui a réellement répondu. Permettez à un consommateur de conserver un modèle précis jusqu’à une date indiquée.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 40 minutes

Ce que vous devez savoir

  • Les capacités et leurs contrats, présentés dans Un catalogue de capacités.
  • Les classes de données : public (publiques), internal (internes), personal (personnelles) et payment (paiement), présentées dans la même leçon.
  • Les codes d’état HTTP : 200 indique une réponse, 4xx une requête incorrecte, 5xx une panne du serveur, 429 « trop de requêtes ».

Ce qu’il vous faut sur votre ordinateur

  • Votre projet après la dernière leçon, avec config/ et la commande estate catalog.
  • Le parc en marche (python -m estate up) dans votre terminal, avec l’environnement virtuel activé.

Testé sur macOS (Apple silicon) avec Python 3.12.13; les commandes Windows et Linux ne sont pas testées. Les réponses des modèles sont rejouées. La panne est simulée, tout comme la deuxième région Azure : elle répond avec les mêmes enregistrements que la première.

Vous avez réservé une voiture « intermédiaire, cinq places, automatique, avec une barre de remorquage ». L’entreprise doit maintenant tenir cette promesse. Son plan comporte quatre parties.

D’abord, quelle voiture : à la succursale de l’aéroport, une voiture intermédiaire signifie une Hyundai avec une barre de remorquage. Ensuite, une solution de repli : quand cette succursale n’a plus de voitures, celle en ville vous donne le même modèle. Troisièmement, des règles sur les déplacements permis : certaines voitures ne peuvent pas traverser la frontière. Un client qui conduit à l’étranger reçoit seulement une voiture qui le permet. Quatrièmement, un enregistrement : le contrat indique quelle voiture vous avez reçue, avec sa plaque. Si un feu se brise pendant le voyage, tout le monde sait de quelle voiture il s’agit.

Une cliente a un besoin particulier. Elle conduit avec des commandes manuelles, et l’entreprise les a installées dans une voiture. Elle demande de garder cette voiture précise jusqu’à la fin de son contrat, même si l’entreprise change ses voitures intermédiaires. L’entreprise accepte, note la date de fin et l’appelle un mois avant.

Le problème : le contrat n’achemine pas les appels

Section intitulée « Le problème : le contrat n’achemine pas les appels »

Le catalogue de Kwame indique ce que fast-small promet. Il ne dit pas où va une requête pour fast-small. Si personne ne le décide à un seul endroit, chaque application décide elle-même, et leurs décisions diffèrent.

Larkfield a vu les conséquences au module 1. Le service de triage et le flux de travail détenaient chacun la même clé partagée et appelaient East US 2 directement. Si cette région tombe en panne, chaque application doit avoir son propre code de nouvelle tentative et choisir une deuxième région. Et rien ne consigne quel modèle a répondu. La facture indique une clé et un déploiement, jamais l’application ni la version du modèle. Seule l’application affichait gpt-6-luna-2026-09-22, et seulement à l’écran.

Les règles sur les données ont le même problème. Mei sait quel contrat autorise les données des clients, mais cette information reste dans sa tête et dans un document. Rien n’empêche une application d’envoyer le message d’un client à un fournisseur sans contrat. C’est exactement ce que le résumé hebdomadaire a fait avec Fernway.

L’idée : une association avec des solutions de repli, des règles sur les données et un enregistrement

Section intitulée « L’idée : une association avec des solutions de repli, des règles sur les données et un enregistrement »

Une association de modèles indique, pour une capacité, quels endroits peuvent la servir et dans quel ordre :

  • une cible principale : le fournisseur et le déploiement qui la servent aujourd’hui, comme azure / chat-small;
  • des solutions de repli : les prochains endroits à essayer, dans l’ordre, comme le même déploiement dans une deuxième région;
  • les paramètres dont le modèle a besoin. params accompagne chaque requête. params_if_tools accompagne seulement les requêtes avec des outils, par exemple reasoning_effort: none pour chat-small.

Les règles sur les données se trouvent avec les fournisseurs. Chaque fournisseur dans config/providers.yaml énumère les classes de données que son contrat autorise. Le routage conserve seulement les fournisseurs qui peuvent recevoir la classe de données de la requête. Un fournisseur absent du fichier n’est jamais appelé.

Deux règles déterminent quand utiliser une solution de repli. Utilisez-la pour 429, 5xx et une expiration du délai : le fournisseur est occupé ou en panne, et un autre pourrait répondre. N’utilisez jamais de solution de repli pour un autre 4xx. Un code 4xx indique que la requête elle-même est incorrecte : un paramètre manque, une clé est incorrecte, un champ est refusé. Le prochain fournisseur la refuserait aussi. Ou pire, il accepterait une requête qui enfreint une règle.

Enfin, chaque réponse nomme le modèle qui l’a produite. Dans l’API compatible avec OpenAI, le champ model de la réponse contient la version précise, comme gpt-6-luna-2026-09-22. La plateforme la consigne avec le fournisseur et le déploiement. Ainsi, on peut répondre plus tard à la question « quel modèle a répondu au billet T-90103? ».

Le parcours d'une requête. Une requête demande la capacité fast-small, avec la classe de données personal. La capacité a-t-elle une association? Non, comme vision : rien ne la sert, aucun appel. Oui : les cibles sont la cible principale, puis les solutions de repli, mais seulement les fournisseurs autorisés à recevoir cette classe. L'application fixe-t-elle un déploiement? Si oui, conservez le déploiement fixé chez chacun de ces fournisseurs. Ensuite, pour la prochaine cible, utilisez son nom de déploiement et ajoutez les paramètres nécessaires, avec outils reasoning_effort none. Réponse du fournisseur : 200, consignez le modèle qui a répondu, le fournisseur, le déploiement et la version. 429, 5xx ou expiration du délai : reste-t-il une cible? Oui, essayez-la; non, aucun fournisseur n'a répondu. Autre 4xx : la requête est incorrecte, arrêtez, sans solution de repli.
Comment la plateforme achemine une requête selon sa capacité. Elle utilise une solution de repli seulement si le fournisseur échoue, jamais si la requête est incorrecte.
Description textuelle du diagramme

Une requête demande une capacité, par exemple fast-small, avec la classe de données personal. Si la capacité n’a pas d’association, comme vision aujourd’hui, rien ne la sert. Sinon, les cibles sont la cible principale, puis les solutions de repli. Seuls les fournisseurs dont le contrat autorise cette classe de données sont retenus. Si l’application fixe un déploiement, seul ce déploiement est conservé chez chacun de ces fournisseurs. Pour chaque cible à tour de rôle, la plateforme met le nom du déploiement dans la requête. Elle ajoute les paramètres nécessaires au modèle, comme reasoning_effort none pour une requête avec des outils. Si le fournisseur répond 200, la plateforme consigne le modèle qui a répondu : fournisseur, déploiement et version du modèle. S’il répond 429 ou 5xx, ou ne répond pas à temps, la plateforme essaie la prochaine cible. Quand il n’en reste aucune, aucun fournisseur n’a répondu. S’il répond un autre 4xx, la requête elle-même est incorrecte, et la plateforme s’arrête sans solution de repli.

Petit exemple détaillé : acheminer une requête à la main

Section intitulée « Petit exemple détaillé : acheminer une requête à la main »

Au module 3, la passerelle fait cela pour chaque appel. Ici, vous le faites pour un appel, avec environ 35 lignes de Python, pour rendre chaque étape visible.

  1. Copiez le fichier de test de cette leçon depuis l’instantané end-of-m02, puis exécutez les tests :

    Fenêtre de terminal
    S=../nextia-learning-labs/C32/snapshots/end-of-m02
    cp $S/tests/test_catalog.py tests/
    python -m pytest -q

    La dernière ligne indique 100 passed, 1 deselected (100 tests réussis, 1 désélectionné). Les 9 nouveaux tests vérifient les contrats, les associations, les règles sur les données et les modèles fixés.

  2. Affichez la fiche de fast-small :

    Fenêtre de terminal
    python -m estate catalog show fast-small

    Les deux dernières lignes représentent l’association :

    serves today: azure/chat-small (gpt-6-luna-2026-09-22) + with tools {'reasoning_effort': 'none'}
    fallback: azure-canada/chat-small
  3. Créez le fichier try_route.py dans le dossier du projet, avec ce contenu. C’est un fichier d’exercice, pas une partie du projet; vous le supprimerez à la fin de la leçon.

    try_route.py
    """Route one recorded request by capability, by hand (a practice file: not part of the project)."""
    import argparse
    import httpx
    from apps.replay import load_stream
    from estate import catalog
    STREAMS = {"ticket-triage": "ticket-triage", "release-judge": "release-judge__chat-strong"}
    ap = argparse.ArgumentParser()
    ap.add_argument("app", choices=STREAMS)
    ap.add_argument("capability")
    ap.add_argument("--data-class", default="personal")
    ap.add_argument("--catalog", help="another catalog file")
    ap.add_argument("--pin", help="a deployment that this app pins")
    a = ap.parse_args()
    # The app's first recorded request. It now asks for a capability, not a model.
    body = dict(load_stream(STREAMS[a.app])[0]["body"], model=a.capability)
    cat = catalog.load_catalog(a.catalog)
    pin = {"deployment": a.pin} if a.pin else None
    targets = catalog.targets(cat, a.capability, a.data_class, pin)
    print("targets:", [t.label() for t in targets] or "none")
    for t in targets:
    sent = t.body_for(body)
    r = httpx.post(f"http://127.0.0.1:8320/{t.provider}/v1/chat/completions", json=sent,
    headers={"Authorization": "Bearer sim-az-service-team-0001"})
    print(f" {t.label()} -> HTTP {r.status_code}")
    if r.status_code == 200:
    print(f"answered by: {t.label()} ({r.json()['model']})")
    break
    if r.status_code != 429 and r.status_code < 500:
    print(" the request itself was refused: no fallback")
    break
    else:
    print("no provider answered")

    catalog.targets() effectue le routage du schéma : l’association, filtrée par les règles sur les données et le modèle fixé. body_for() met le nom du déploiement dans la requête et ajoute les paramètres.

  4. Acheminez la première requête enregistrée du service de triage, qui demande maintenant fast-small :

    Fenêtre de terminal
    python try_route.py ticket-triage fast-small
    targets: ['azure/chat-small', 'azure-canada/chat-small']
    azure/chat-small -> HTTP 200
    answered by: azure/chat-small (gpt-6-luna-2026-09-22)

Lisez les trois lignes. targets (cibles) : la cible principale et la solution de repli, toutes deux autorisées pour les données personal. azure/chat-small -> HTTP 200 : la plateforme a remplacé fast-small par le nom de déploiement chat-small. La requête de triage n’a pas d’outils, donc elle n’a ajouté aucun paramètre. Le corps modifié correspond exactement à celui enregistré dans le cours d’évaluation; le simulateur a donc trouvé sa réponse. answered by (réponse produite par) : la version du modèle vient de la réponse elle-même, pas du catalogue. Si Azure changeait le modèle derrière chat-small, cette ligne le montrerait.

Solutions de repli et règles sur les données, volontairement

Section intitulée « Solutions de repli et règles sur les données, volontairement »

Faites maintenant échouer la cible principale. Le simulateur peut arrêter un fournisseur volontairement pour vous permettre de vous exercer à gérer une panne.

  1. Arrêtez la région simulée East US 2 :

    Fenêtre de terminal
    python -m provsim control azure down
    Controls now: [{"provider": "azure", "deployment": null, "mode": "down", "seconds": 5.0, "rate": 0.5, "requests_left": null}] (simulated)
  2. Acheminez de nouveau la même requête :

    Fenêtre de terminal
    python try_route.py ticket-triage fast-small
    targets: ['azure/chat-small', 'azure-canada/chat-small']
    azure/chat-small -> HTTP 503
    azure-canada/chat-small -> HTTP 200
    answered by: azure-canada/chat-small (gpt-6-luna-2026-09-22)
  3. Redémarrez la région :

    Fenêtre de terminal
    python -m provsim control azure normal
  4. Acheminez la requête avec la classe de données payment :

    Fenêtre de terminal
    python try_route.py ticket-triage fast-small --data-class payment
    targets: none
    no provider answered

Le code 503 a envoyé l’appel vers la solution de repli. La même version du modèle a répondu depuis la deuxième région. L’enregistrement indique donc azure-canada, pas azure. Le modèle est le même; l’endroit diffère, et cet endroit peut compter pour les données personnelles. payment n’a trouvé aucune cible, car aucun fournisseur dans providers.yaml ne l’énumère. Les numéros de carte n’atteignent jamais un modèle, et personne n’a eu à se souvenir de cette règle.

Ici, l’application a choisi sa propre classe de données avec --data-class. Une vraie application pourrait choisir public pour le message d’un client. Au module 4, la passerelle utilise la classe la plus sensible de l’enregistrement si la requête n’en indique aucune. Elle refuse aussi une classe que l’enregistrement n’autorise pas.

Larkfield : l’association de Kwame et les règles sur les données de Mei

Section intitulée « Larkfield : l’association de Kwame et les règles sur les données de Mei »

Kwame est responsable de l’association. Mei est responsable des règles sur les données. Elles sont dans deux fichiers, pour que chaque responsable modifie seulement son propre fichier.

Fournisseur Région Contrat Classes de données qu’il peut recevoir
azure East US 2 Abonnement Azure de Larkfield, avec une entente de traitement des données (hypothèse : elle couvre les données personnelles) public, internal, personal
azure-canada Canada East (deuxième région simulée) le même abonnement public, internal, personal
local Matériel de Larkfield (gemma3:4b) aucun requis : les données ne quittent pas Larkfield public, internal, personal
Fernway – aucun absent de la liste : jamais appelé

La cible principale de chaque capacité est dans azure, et chaque solution de repli est le même déploiement dans azure-canada. Ce choix est important. Un repli vers un autre modèle serait un changement d’association sans avertissement, pendant une panne, quand personne ne surveille. La deuxième région fournit le même modèle, donc les réponses restent les mêmes. Les conseils de Microsoft sur une passerelle devant plusieurs déploiements décrivent cette configuration de plusieurs régions derrière une seule passerelle.

Sam demande : « Pourquoi local est dans le fichier? Aucune capacité n’y est associée. » Kwame répond : « Parce que c’est l’endroit le moins cher. Quelqu’un va le proposer. Sa règle sur les données est déjà décidée : les données sur notre matériel restent chez Larkfield. » La dernière leçon de ce module teste cette proposition.

Erreur courante

Une association sans le paramètre nécessaire aux outils

Symptôme : après un nettoyage de catalog.yaml, python -m estate catalog check affiche cette ligne et se termine avec le code 1 :

fast-small -> azure/chat-small: tools on chat-small needs reasoning_effort: none in the mapping

La comparaison montre ce qui a changé :

< primary: {provider: azure, deployment: chat-small, params_if_tools: {reasoning_effort: none}}
---
> primary: {provider: azure, deployment: chat-small}

Cause : quelqu’un a supprimé params_if_tools parce que « les applications ne l’envoient pas de toute façon ». C’est justement le but : les applications ne l’envoient pas, donc l’association doit l’ajouter. models.yaml indique que chat-small a besoin de reasoning_effort: none pour les outils, et le contrat de fast-small promet des outils. Sans ce paramètre, chaque appel d’outil par fast-small recevrait le code HTTP 400 vu dans la dernière leçon.

Diagnostic : la ligne nomme la capacité, la cible, la fonctionnalité et le paramètre. Comparez l’association à la ligne needs: du déploiement dans models.yaml.

Rétablissement : remettez params_if_tools: {reasoning_effort: none} sur chaque cible de fast-small qui utilise chat-small, y compris la solution de repli. Exécutez de nouveau catalog check. Les tests détectent aussi cette erreur : test_a_mapping_must_add_the_setting_that_a_feature_needs.

Priya est responsable du juge de mise en production. Il décide si une nouvelle version des réponses de soutien peut être livrée. Sa preuve repose sur 99 réponses sur 101 jugées comme les vérifications du code, mesurées sur chat-strong, version gpt-6.1-sol-2026-09-29. Si le modèle derrière strong-reasoning change, sa preuve concerne un modèle qui ne répond plus.

Le juge peut donc fixer le modèle : conserver un déploiement et une version du modèle pour une capacité, jusqu’à une date de retrait (retire_by). Dans l’enregistrement que vous écrivez au module 3, un modèle fixé ressemble à ceci. La date est un exemple, pas une date publiée par un fournisseur :

pins:
strong-reasoning: {deployment: chat-strong, model_version: gpt-6.1-sol-2026-09-29, retire_by: 2027-03-31}

Un modèle fixé comporte trois parties qui fonctionnent ensemble. Le routage conserve le déploiement fixé, même après un changement d’association. La vérification de version refuse une réponse d’une autre version du modèle, avec pinned_model_changed (le modèle fixé a changé). La passerelle fait cette vérification au module 4. Et le rappel : la liste de révision du module 3 nomme chaque modèle fixé dont le retrait arrive dans 60 jours. Celui-ci apparaît donc à partir du 30 janvier 2027. Avant la date, Priya exécute son évaluation sur le nouveau modèle. Les fournisseurs retirent les versions des modèles selon leurs propres dates; consultez la page de retrait des modèles de votre fournisseur.

Deux applications demandent strong-reasoning après un changement d'association vers azure chat-small. Le flux de travail de soutien n'a pas de modèle fixé : la nouvelle association l'envoie vers chat-small, et gpt-6-luna-2026-09-22 répond. Le juge de mise en production fixe chat-strong, version gpt-6.1-sol-2026-09-29, avec retire_by 2027-03-31 : ce choix l'envoie vers chat-strong, et gpt-6.1-sol-2026-09-29 répond. Une ligne du temps en dessous : à partir du 30 janvier 2027, 60 jours avant, la liste de révision nomme le modèle fixé; le 31 mars 2027, ce choix prend fin, et Priya réexécute d'abord son évaluation.
Un modèle fixé après un changement d'association : une capacité, deux consommateurs, deux modèles et une date de fin de l'exception.
Description textuelle du diagramme

Après un changement d’association, strong-reasoning pointe vers azure chat-small. Le flux de travail de soutien n’a pas de modèle fixé, donc il reçoit maintenant chat-small, et gpt-6-luna-2026-09-22 répond. Le juge de mise en production fixe chat-strong, version gpt-6.1-sol-2026-09-29, jusqu’au 31 mars 2027, donc il reçoit toujours chat-strong. En dessous, une ligne du temps : à partir du 30 janvier 2027, soixante jours avant, la liste de révision nomme le modèle fixé. Le 31 mars 2027, ce choix prend fin, et Priya exécute son évaluation sur le nouveau modèle avant cette date.

À vous de jouer : modifier une association et fixer un modèle

Section intitulée « À vous de jouer : modifier une association et fixer un modèle »

Changez une condition : l’association de strong-reasoning. Travaillez sur une copie du catalogue. Faites d’abord une prédiction : après le déplacement de strong-reasoning vers chat-small, quel modèle répond à la première requête du juge de mise en production? Sans modèle fixé, puis avec --pin chat-strong? Et est-ce que catalog check accepte la copie?

  1. Copiez le catalogue : cp config/catalog.yaml my-catalog.yaml (Windows : Copy-Item config\catalog.yaml my-catalog.yaml).

  2. Dans my-catalog.yaml, sous strong-reasoning: et mapping:, remplacez deployment: chat-strong par deployment: chat-small à deux endroits : la cible principale et la solution de repli.

  3. Vérifiez la copie : python -m estate catalog check --file my-catalog.yaml.

  4. Acheminez la requête du juge sans modèle fixé, puis avec celui-ci :

    Fenêtre de terminal
    python try_route.py release-judge strong-reasoning --catalog my-catalog.yaml
    python try_route.py release-judge strong-reasoning --catalog my-catalog.yaml --pin chat-strong
  5. Supprimez les fichiers d’exercice : rm my-catalog.yaml try_route.py (Windows : Remove-Item my-catalog.yaml, try_route.py).

Vérifiez votre prédiction
The catalog is consistent: every mapping keeps its contract.
targets: ['azure/chat-small', 'azure-canada/chat-small']
azure/chat-small -> HTTP 200
answered by: azure/chat-small (gpt-6-luna-2026-09-22)
targets: ['azure/chat-strong', 'azure-canada/chat-strong']
azure/chat-strong -> HTTP 200
answered by: azure/chat-strong (gpt-6.1-sol-2026-09-29)

Sans modèle fixé, chat-small répond. Le cours d’évaluation a enregistré les requêtes du juge sur les deux modèles, donc le simulateur possède cette réponse. Avec le modèle fixé, chat-strong répond toujours, dans les deux régions. Et la vérification accepte la copie : chat-small possède toutes les fonctionnalités du contrat, et son prix est bien sous la fourchette. La vérification connaît les fonctionnalités, les données et les prix. Elle ne sait rien de la qualité. Seules les évaluations du juge et du flux de travail peuvent déterminer si chat-small leur convient.

Une solution de repli dans une deuxième région est utile si une panne régionale risque d’arrêter un travail important. C’est le cas des 822 billets de soutien à trier chaque jour. Elle exige un deuxième déploiement et son quota, et les données sont traitées ailleurs. Vérifiez que le contrat autorise cet endroit pour chaque catégorie de données.

Une solution de repli vers un autre modèle est un changement d’association déguisé. Utilisez-la seulement si l’évaluation de chaque application utilisatrice a réussi sur ce modèle, comme pour un changement d’association planifié. Sinon, envoyer un billet à une personne pendant une panne est la solution la plus sûre.

Les règles sur les données doivent accompagner les contrats des fournisseurs, dans un seul fichier dont Mei est responsable. Leur vérification à chaque appel ne coûte presque rien. La difficulté consiste à garder le fichier exact quand un contrat change.

Un épinglage est une exception; il a donc une date de fin. Il oblige la plateforme à garder un deuxième modèle disponible. Il retarde aussi le passage de l’application utilisatrice au nouveau modèle. Épinglez un modèle seulement si les preuves de l’application dépendent de ce modèle précis, comme celles du juge. Ne le faites jamais « au cas où ».

L’enregistrement du modèle qui a répondu coûte un champ par appel. Il permet de déterminer plus tard quels appels un changement de modèle a touchés.

Vérifiez votre compréhension

East US 2 renvoie 503 à une requête de triage. Une minute plus tard, il renvoie 400 à une requête de flux de travail avec un paramètre refusé par le modèle. Que doit faire la plateforme dans chaque cas, et pourquoi?

Afficher la réponse

Pour le 503, essayez la cible suivante : le même déploiement chat-small dans la deuxième région. Le fournisseur a échoué, et un autre endroit peut répondre à la même requête. Pour le 400, arrêtez et transmettez l’erreur à l’application. Un code 4xx indique que la requête elle-même est incorrecte. La deuxième région utilise le même modèle et la refuserait aussi. Réessayer là-bas ne fait que doubler les appels échoués. Et un autre fournisseur pourrait accepter une requête qui enfreint une règle.

Vérifiez votre compréhension

Kwame veut utiliser gemma3:4b sur le matériel de Larkfield comme deuxième solution de repli pour strong-reasoning. Il veut « qu'une panne des deux régions n'arrête jamais le flux de travail ». Quel est le problème avec ce plan?

Afficher la réponse

Un repli vers un autre modèle est un changement d’association pendant une panne, sans barrière et sans surveillance. gemma3:4b n’est pas le modèle pour lequel le flux de travail et le juge disposent de preuves; ses réponses diffèrent. Il ne peut pas non plus appeler des outils, ce qui compte pour toute application utilisatrice qui en a besoin. Utilisez-le comme solution de repli seulement si l’évaluation de chaque application utilisatrice réussit sur ce modèle. Sinon, quand les deux régions sont en panne, la solution la plus sûre est de confier le travail à une personne.

Vérifiez votre compréhension

Pourquoi un épinglage exige-t-il une date de retrait et un rappel, et pas seulement le nom du déploiement?

Afficher la réponse

Un épinglage est une exception à l’association, et les fournisseurs retirent des versions de modèles. Sans date, l’épinglage reste en place jusqu’à la disparition de l’ancien modèle. L’application utilisatrice échoue alors le jour où le fournisseur le retire. Avec retire_by, tout le monde sait quand l’exception prend fin. Le rappel 60 jours avant donne au responsable le temps d’évaluer le nouveau modèle et d’y passer. Sinon, le responsable demande un nouvel épinglage, avec de nouvelles preuves.

Récapitulatif

  • Une association de modèles attribue à chaque capacité un modèle principal, des solutions de repli ordonnées et les paramètres nécessaires (params, params_if_tools).
  • Règles sur les données : chaque fournisseur indique les catégories de données autorisées par son contrat. Le routage ignore les autres, et payment (paiement) n’atteint aucun modèle.
  • Utilisez une solution de repli pour les codes 429 et 5xx, ainsi que les délais d’attente dépassés; jamais pour un autre 4xx. Les solutions de repli de Larkfield utilisent le même modèle dans une deuxième région. Un repli n’est donc jamais un changement d’association silencieux.
  • Enregistrez le modèle qui a répondu à partir de la réponse elle-même : azure-canada/chat-small (gpt-6-luna-2026-09-22).
  • Un épinglage conserve un modèle pour une application utilisatrice jusqu’à retire_by (date limite de retrait), avec un rappel 60 jours avant.

Votre projet possède maintenant les tests du catalogue : 100 passed (100 tests réussis). Vous pouvez router un appel et conserver un épinglage. Mais votre changement d’association d’exercice a réussi catalog check (vérification du catalogue) sans aucune question sur la qualité. Un véritable changement d’association touche toutes les applications utilisatrices de la capacité en même temps. Ensuite, vous traitez ce changement comme une mise en production. L’évaluation propre à chaque application utilisatrice sert de barrière.

Leçon suivante : Modifier une association en toute sécurité