Comparer les passerelles
- Leçon 20
- 40 min
- Module 7 : Construire, acheter et déployer
Où nous en sommes
Dans le module 6, nous avons transformé les enregistrements de la passerelle en preuves et trouvé l'IA que personne n'avait enregistrée. Nous avons écrit le code de chaque partie de cette plateforme. Nous savons donc ce que chacune fait. Mais Larkfield n'a pas à exploiter sa propre passerelle : des produits à code source ouvert et gérés existent. Dans cette leçon, nous comparons la nôtre à quatre produits, à partir de leur propre documentation. Nous commençons dans un atelier qui a construit un kart.
Leçon 20 sur 21 · Gouverner les agents d'IA : passerelles, registres et contrôlesComparer les passerelles
1. Pourquoi les agents ont besoin de contrôles de plateforme
2. Demander des capacités, pas des modèles
3. Enregistrer chaque agent
4. La passerelle de modèles
5. Gouverner les outils et les actions
6. Utilisation, preuves et IA fantôme
7. Construire, acheter et déployer
Ce que vous saurez faire
Comparez votre propre passerelle aux produits à code source ouvert et gérés, fonction par fonction, à partir de leur documentation. Séparez les exigences indispensables des fonctions souhaitables. Examinez ensuite ce qu’une liste de fonctions cache : la licence, les besoins d’exploitation, le risque lié à la chaîne d’approvisionnement et les responsables de l’exploitation.
Avant de commencerCe qu’il faut savoir et avoir sous la main
Ce que vous devez savoir
- Tous les contrôles de la plateforme, des modules 2 à 6 :
- le catalogue, dans Un catalogue de capacités;
- les identités, dans Une identité par agent;
- les limites, dans Quotas, budgets et limites de débit;
- les modes de défaillance, dans Quand la passerelle tombe en panne;
- la passerelle d’outils, dans Une passerelle pour les outils.
Ce qu’il vous faut sur votre ordinateur
- Le projet à la fin du module 6 (194 tests réussissent), dans
~/projects/ai-estate, avec l’environnement virtuel actif. - Aucun compte, aucune clé ni aucun essai de produit. Vous lisez la documentation des produits; vous n’installez rien.
Testé sur macOS (Apple silicon) avec Python 3.12.13. Les commandes Windows et Linux sont écrites, mais n’ont pas été exécutées.
Un kart dans l’atelier
Section intitulée « Un kart dans l’atelier »Une entreprise de livraison a besoin de fourgonnettes. Ses mécaniciens ont d’abord construit un kart dans l’atelier pour comprendre le moteur, les freins et la direction. Maintenant, ils peuvent lire la fiche technique d’une fourgonnette et comprendre chaque ligne.
Le kart ne livrera jamais de colis. L’entreprise prépare donc une fiche : une ligne par besoin des chauffeurs et une colonne par fourgonnette. Elle remplit les colonnes à partir des fiches techniques des fabricants, pas des propos d’un vendeur ni de mémoire. Certaines lignes sont indispensables : une fourgonnette sans hayon élévateur est exclue, même si tout le reste est excellent. L’acheteur pose aussi deux questions auxquelles aucune fiche technique ne répond. Qui fait l’entretien, et combien coûtera un changement de marque dans trois ans?
La réponse à la dernière question dépend de l’entreprise, pas de la fourgonnette. Si les itinéraires et les registres de livraison appartiennent à l’entreprise, changer de marque de fourgonnette est un petit changement.
Le problème : une comparaison de mémoire
Section intitulée « Le problème : une comparaison de mémoire »Kwame demande à Tomás une première comparaison des produits dont l’équipe de plateforme a parlé. Tomás l’écrit en dix minutes, de mémoire. Cette ébauche est construite pour le cours :
Envoy AI Gateway: an Envoy add-on, no limits that know tokensAzure API Management: has budgets per teamLiteLLM: budgets and keys; no product counts the steps of an agent runCloudflare AI Gateway: logs and caching onlyChaque ligne est fausse, ou n’est plus vraie, quand vous lisez la documentation des produits :
- Envoy AI Gateway a un nouveau nom et un nouvel emplacement : Agent Router. Sa documentation décrit des limites de débit basées sur les jetons et des quotas de jetons.
- Les politiques d’IA d’Azure API Management limitent les jetons, par minute et par période. Sa documentation ne décrit aucune limite monétaire.
- La documentation de LiteLLM décrit des « budgets d’itérations d’agent » : un plafond d’appels de modèles pour une session.
- La documentation de Cloudflare AI Gateway décrit des limites de dépenses, des garde-fous et des solutions de repli.
Les produits changent toutes les quelques semaines. Une comparaison de mémoire mène à une décision fondée sur des faits dépassés. Personne ne peut la vérifier ensuite, car elle n’a aucune source. Pire encore, elle compare ce qui fait la réputation des produits, pas ce dont Larkfield a besoin.
L’idée : une fiche comparative tirée de la documentation
Section intitulée « L’idée : une fiche comparative tirée de la documentation »Une fiche comparative est un tableau avec une ligne par contrôle nécessaire et une colonne par produit. Chaque cellule provient de la documentation actuelle du produit, avec un lien vers la page. Trois règles la rendent fiable :
- Les lignes sont vos contrôles, pas les fonctions des produits. Vous avez construit tous les contrôles du cours. Vous savez donc ce que chaque ligne signifie. C’est la valeur du kart.
- Chaque cellule commence par un mot :
yes(oui),partly(en partie),no(non) ounot found(non trouvé). Viennent ensuite ce que dit la documentation, puis une source. « Non trouvé » ne veut pas dire « non ». Cela signifie que vous ne l’avez pas trouvé. C’est une question à poser au fournisseur. - La fiche indique la version que vous avez lue. Tout le monde sait alors quand la vérifier à nouveau.
Cette décision s’appelle construire ou acheter : exploiter votre propre code ou utiliser un produit, à code source ouvert ou géré. Le coût d’un changement de produit ultérieur est le coût de changement. Un produit difficile à quitter crée une dépendance au fournisseur.
Ouvrez la fiche dans votre projet. Copiez-la depuis l’instantané end-of-m07 :
cp ../nextia-learning-labs/C32/snapshots/end-of-m07/docs/gateway-comparison.md docs/Copy-Item ..\nextia-learning-labs\C32\snapshots\end-of-m07\docs\gateway-comparison.md docs\cp ../nextia-learning-labs/C32/snapshots/end-of-m07/docs/gateway-comparison.md docs/La fiche contient 19 lignes de fonctions, une ligne indiquant la version lue et une liste de sources sous le tableau. L’image montre le premier mot de chaque cellule, la licence et les besoins d’exploitation de chaque produit.
Description textuelle du diagramme
Les lignes sont les fonctions, les colonnes sont les passerelles. Les noms de capacités, un point de terminaison compatible avec OpenAI et les solutions de repli sont présents partout. Les alias de modèles d’Azure API Management sont en préversion. Les vérifications des caractéristiques dans un contrat sont présentes seulement dans la nôtre, et non trouvées pour les quatre produits. Enregistrement avant le premier appel : oui pour la nôtre, en partie pour LiteLLM, non trouvé pour Agent Router et Cloudflare, en partie pour Azure. Une identité par agent : oui pour la nôtre, LiteLLM et Azure, en partie pour Agent Router et Cloudflare. Budgets monétaires : oui pour la nôtre, LiteLLM et Cloudflare, en partie pour Agent Router et Azure, qui comptent les jetons. Limites de débit et quotas de jetons : en partie pour Cloudflare, oui pour les autres. Limite d’étapes par exécution : oui pour la nôtre et LiteLLM, non trouvé pour les autres. Garde-fous : non trouvé pour Agent Router, oui pour les autres. Contrôle des outils : non pour Cloudflare, car c’est un produit distinct, oui pour les autres. Arrêts d’urgence : oui pour la nôtre et Azure, en partie pour LiteLLM et Cloudflare, non trouvé pour Agent Router. OpenTelemetry : en partie pour la nôtre et Azure, oui pour les autres. Autohébergement : non pour Cloudflare, en partie pour Azure, oui pour les autres. Licences : MIT pour la nôtre, MIT avec parties commerciales pour LiteLLM, Apache-2.0 pour Agent Router, services propriétaires pour Cloudflare et Azure.
Lire la matrice par lignes
Section intitulée « Lire la matrice par lignes »Trois tendances comptent plus qu’une cellule isolée.
Le chemin des données est le même partout. Chaque produit accepte les requêtes compatibles avec OpenAI et masque le modèle du fournisseur derrière un nom de votre choix. Il utilise aussi un autre système dorsal comme solution de repli. Vous pouvez acheter cette partie.
Les enregistrements sur les agents sont rares. Aucune documentation de produit ne montre un enregistrement avant le premier appel avec responsable, objectif, niveau de risque et date de révision. Les clés de LiteLLM ont un responsable et une équipe. Les abonnements d’Azure peuvent exiger l’approbation d’un administrateur. Aucun des deux ne contient ce que contient le formulaire du module 3. Aucun produit ne vérifie les caractéristiques d’un contrat, comme le fait estate catalog check. Ces parties sont les connaissances propres à Larkfield, pas du trafic.
Les différences concernent les limites, les outils et l’hébergement. LiteLLM et Cloudflare offrent des budgets monétaires. Agent Router et Azure comptent les jetons. Trois produits offrent le contrôle des outils par MCP; Cloudflare l’offre dans un produit distinct. Cloudflare fonctionne uniquement comme service. La passerelle autohébergée d’Azure existe dans deux niveaux d’offre et reçoit toujours sa configuration d’Azure.
Sam demande : « Notre colonne est verte presque partout. Donc, la nôtre est la meilleure? » Kwame répond : « Les lignes sont les contrôles que nous avons construits. Une fiche basée sur votre propre conception favorise toujours votre conception. Regardez les lignes que l’image ne montre pas. »
Ce que la liste de fonctions cache
Section intitulée « Ce que la liste de fonctions cache »Quatre lignes de la fiche ne sont pas des fonctions. Elles déterminent qui fait le travail.
- Licence. Le noyau de LiteLLM est sous licence MIT, mais son dossier
enterprise/a une licence commerciale distincte (licence). Sa documentation désigne certaines fonctions comme fonctions d’entreprise, dont la connexion avec JWT et les garde-fous par clé. Agent Router est entièrement sous licence Apache-2.0. Cloudflare et Azure sont des services propriétaires. Lisez la licence de chaque fonction nécessaire, pas seulement celle du projet. - Besoins d’exploitation. LiteLLM a besoin de PostgreSQL pour les clés et les budgets, et de Redis pour plusieurs instances (guide de production). Agent Router a besoin de Kubernetes et d’Envoy Gateway (prérequis). Chacun est un autre service que votre équipe exploite, met à niveau et sécurise.
- Comportement quand son propre stockage tombe en panne. Vous avez choisi ce comportement par niveau de risque au module 4. La documentation de LiteLLM indique que les appels échouent par défaut quand sa base de données est inaccessible. Un paramètre permet de garder les clés fonctionnelles. Les vérifications de quotas d’Agent Router autorisent les appels par défaut quand le service de limitation du débit est en panne. La passerelle autohébergée d’Azure continue avec sa dernière configuration. Vous devez connaître chaque choix avant une panne, pas pendant celle-ci.
- Risque lié à la chaîne d’approvisionnement. Une passerelle contient toutes les clés des fournisseurs. Son code est donc une cible. La mise à jour de sécurité de LiteLLM décrit deux versions compromises sur PyPI : 1.82.7 et 1.82.8. Les deux projets à code source ouvert publient des avis de sécurité (LiteLLM, Agent Router). Notre passerelle a 10 paquets aux versions fixées, 35 une fois installée avec leurs dépendances. C’est un projet pédagogique : testé sur un seul portable, il n’a jamais fait l’objet d’une révision de sécurité.
Le dernier point est le véritable coût de « construire ». Le code du cours montre chaque partie d’une passerelle. L’exploiter pour Larkfield signifie que quelqu’un la corrige, la révise, se réveille quand elle tombe en panne et en répond, pendant des années.
Un petit exemple détaillé : noter la fiche pour Larkfield
Section intitulée « Un petit exemple détaillé : noter la fiche pour Larkfield »Une fiche de 19 lignes et cinq colonnes est difficile à lire d’un seul coup. Un petit script rend la décision visible, étape par étape. C’est un fichier d’exercice, pas une partie du projet.
-
Créez le fichier
score_gateways.pydans le dossier du projet, avec ce contenu :score_gateways.py """Score the gateways of docs/gateway-comparison.md for one company's needs (a practice file: not part of the project)."""import argparsePOINTS = {"yes": 2, "partly": 1} # "no", "not found" and everything else: 0 pointsSHORT = ["ours", "LiteLLM", "Agent Router", "Cloudflare", "Azure APIM"]ap = argparse.ArgumentParser()ap.add_argument("--must", action="append", default=[], help="a feature that must be 'yes'")ap.add_argument("--want", action="append", default=[], help="a feature that earns points")a = ap.parse_args()with open("docs/gateway-comparison.md", encoding="utf-8") as f:rows = [line.strip().strip("|").split(" | ") for line in f if line.startswith("| ")]table = {r[0].strip(): r[1:] for r in rows[1:]}assert len(rows[0]) - 1 == len(SHORT), "the sheet has another set of products"def points(cell: str) -> int:return POINTS.get(cell.split(":")[0].split()[0], 0)print(f"{'':<42}" + "".join(f"{s:>13}" for s in SHORT))for kind, features in (("must", a.must), ("want", a.want)):for feature in features:print(f"{kind} {feature[:36]:<36}" + "".join(f"{points(c):>13}" for c in table[feature]))passes = [all(points(table[f][i]) == 2 for f in a.must) for i in range(len(SHORT))]print("fails a must-have:", ", ".join(s for s, ok in zip(SHORT, passes) if not ok) or "none")scores = {s: sum(points(table[f][i]) for f in a.want) for i, s in enumerate(SHORT) if passes[i]}print("score of the rest:", ", ".join(f"{s} {n} of {2 * len(a.want)}" for s, n in scores.items()))points()lit seulement le premier mot d’une cellule. Une exigence indispensable demandeyes(2 points); toute valeur inférieure élimine le produit. Les lignes souhaitables donnent ensuite 2, 1 ou 0 point aux produits restants. -
Notez la fiche avec les quatre exigences indispensables et les cinq fonctions souhaitables de Larkfield :
Fenêtre de terminal python score_gateways.py \--must "One identity per agent" --must "Budgets per agent and team (money)" \--must "Tool control (MCP)" --must "An OpenAI-compatible endpoint" \--want "Capability names instead of models" --want "Fallbacks" --want "Rate limits and token quotas" \--want "Kill switches" --want "OpenTelemetry"Fenêtre de terminal python score_gateways.py `--must "One identity per agent" --must "Budgets per agent and team (money)" `--must "Tool control (MCP)" --must "An OpenAI-compatible endpoint" `--want "Capability names instead of models" --want "Fallbacks" --want "Rate limits and token quotas" `--want "Kill switches" --want "OpenTelemetry"Fenêtre de terminal python score_gateways.py \--must "One identity per agent" --must "Budgets per agent and team (money)" \--must "Tool control (MCP)" --must "An OpenAI-compatible endpoint" \--want "Capability names instead of models" --want "Fallbacks" --want "Rate limits and token quotas" \--want "Kill switches" --want "OpenTelemetry"ours LiteLLM Agent Router Cloudflare Azure APIMmust One identity per agent 2 2 1 1 2must Budgets per agent and team (money) 2 2 1 2 1must Tool control (MCP) 2 2 2 0 2must An OpenAI-compatible endpoint 2 2 2 2 2want Capability names instead of models 2 2 2 2 2want Fallbacks 2 2 2 2 2want Rate limits and token quotas 2 2 2 1 2want Kill switches 2 1 0 1 2want OpenTelemetry 1 2 2 2 1fails a must-have: Agent Router, Cloudflare, Azure APIMscore of the rest: ours 9 of 10, LiteLLM 9 of 10
Lisez la sortie depuis le haut. Les lignes indispensables éliminent trois produits. Agent Router offre une identité partielle et un budget limité aux jetons. L’identité de Cloudflare est partielle, et son contrôle des outils est un produit distinct. Azure API Management échoue sur une seule ligne : ses quotas comptent les jetons, pas l’argent. Les lignes souhaitables notent ensuite les deux produits restants. La dernière ligne donne une égalité : la nôtre 9, LiteLLM 9. Chacune perd un point : la nôtre sur OpenTelemetry, que le cours n’a jamais testé. LiteLLM en perd un sur les arrêts d’urgence, qui bloquent une clé à la fois.
Une égalité est un résultat utile. Elle indique que les fonctions ne départagent pas ces deux options. La décision passe aux lignes que le script ne note pas. Ce sont la licence, les besoins d’exploitation, la chaîne d’approvisionnement et les responsables de l’exploitation. C’est la question de la prochaine leçon.
Larkfield : pourquoi ces exigences indispensables
Section intitulée « Larkfield : pourquoi ces exigences indispensables »Chaque exigence indispensable de Kwame vient d’un événement observé dans le cours.
- Une identité par agent : la clé partagée
az-key-1cachait quelle application dépensait combien. La clé personnelle de Priya n’a été trouvée que par la découverte au module 6. - Budgets monétaires : les budgets des équipes sont en dollars américains (l’équipe de service a 40 $ US par mois). Un quota de jetons n’est pas un budget monétaire quand une capacité est associée à des modèles aux prix différents. Chat-strong coûte 20 fois plus par jeton d’entrée que chat-small. Après une nouvelle association, le même quota de jetons représente donc un montant différent.
- Contrôle des outils : les remboursements du flux de travail sont des appels d’outils, et la passerelle de modèles ne les voit jamais.
- Un point de terminaison compatible avec OpenAI : chaque application a migré en changeant seulement son URL de base et son identifiant d’accès.
Kwame conserve dans tous les cas les fichiers propres à Larkfield : enregistrements, catalogue et contrats, barrière de réassociation, politique d’approbation et preuves. Aucun produit ne les contient, comme le montre la matrice. Le produit, acheté ou construit, doit seulement les appliquer.
Description textuelle du diagramme
En haut se trouvent les applications. Chacune connaît seulement une URL de base, son propre identifiant d’accès et des noms de capacités comme fast-small. Chaque appel passe par le produit de passerelle, la partie que Larkfield peut remplacer. Il route les requêtes, applique les clés, les limites et les garde-fous, écrit ses propres journaux et appelle les fournisseurs de modèles. À gauche se trouvent les fichiers propres à Larkfield, la source de vérité. Ce sont les 7 enregistrements et le catalogue avec ses contrats. Ils contiennent aussi les évaluations, la barrière de réassociation, la politique d’approbation avec ses 12 tests, le fichier d’outils et les preuves d’utilisation. Ils sont traduits dans la configuration du produit. Les lignes d’utilisation du produit reviennent, une par appel, et servent à produire les preuves. Pour changer de produit, Larkfield écrit une nouvelle traduction, exécute l’évaluation de chaque consommateur avec elle et migre les applications une par une.
Erreur courante
Un score total cache une exigence indispensable manquante
Symptôme : une première exécution note onze lignes comme souhaitables, sans --must : les neuf lignes de l’exemple détaillé, plus Guardrails (garde-fous) et Registration before the first call (enregistrement avant le premier appel). Les deux dernières lignes sont :
fails a must-have: nonescore of the rest: ours 21 of 22, LiteLLM 20 of 22, Agent Router 14 of 22, Cloudflare 15 of 22, Azure APIM 19 of 22Azure API Management semble près du sommet, avec 19 sur 22.
Cause : un total additionne les points des lignes. Une ligne forte compense donc une ligne manquante. Azure obtient 2 pour l’identité, les arrêts d’urgence, le contrôle des outils et les garde-fous. Cela cache son 1 pour les budgets monétaires, une ligne dont Larkfield ne peut pas se passer.
Diagnostic : demandez pour chaque ligne : « Choisirions-nous un produit sans cela? » Si la réponse est non, la ligne est indispensable.
Correction : déplacez ces lignes vers --must. Un produit qui échoue sur une seule est exclu, quel que soit son total. Si aucun produit ne passe, il faut revoir l’exigence indispensable : construisez cette partie ou modifiez le besoin. Par exemple, convertissez le budget en dollars américains de chaque équipe en quotas de jetons par capacité. Refaites cette conversion après chaque réassociation.
À vous de jouer : une entreprise plus grande
Section intitulée « À vous de jouer : une entreprise plus grande »Changez une condition : l’entreprise. Une entreprise plus grande compte 40 équipes, trois fournisseurs et une équipe de sécurité qui recueille toutes les traces. Elle exige une identité par agent, des limites de débit et des quotas de jetons, des solutions de repli, OpenTelemetry et des garde-fous. Les budgets, le contrôle des outils, les arrêts d’urgence et l’enregistrement sont souhaités.
Faites d’abord une prédiction : quels produits répondent aux cinq exigences obligatoires? Et notre passerelle y répond-elle?
-
Évaluez la grille avec ces besoins :
Fenêtre de terminal python score_gateways.py \--must "One identity per agent" --must "Rate limits and token quotas" --must "Fallbacks" \--must "OpenTelemetry" --must "Guardrails" \--want "Budgets per agent and team (money)" --want "Tool control (MCP)" --want "Kill switches" \--want "Registration before the first call"Sous Windows, terminez les lignes par un accent grave, pas par une barre oblique inverse.
-
Exécutez le script à nouveau avec OpenTelemetry comme fonction souhaitée, et non obligatoire.
-
Supprimez le fichier d’exercice :
rm score_gateways.py(Windows :Remove-Item score_gateways.py).
Vérifiez votre prédiction
ours LiteLLM Agent Router Cloudflare Azure APIMmust One identity per agent 2 2 1 1 2must Rate limits and token quotas 2 2 2 1 2must Fallbacks 2 2 2 2 2must OpenTelemetry 1 2 2 2 1must Guardrails 2 2 0 2 2want Budgets per agent and team (money) 2 2 1 2 1want Tool control (MCP) 2 2 2 0 2want Kill switches 2 1 0 1 2want Registration before the first call 2 1 0 0 1fails a must-have: ours, Agent Router, Cloudflare, Azure APIMscore of the rest: LiteLLM 6 of 8Seul LiteLLM répond aux exigences, et notre passerelle échoue : sa prise en charge d’OpenTelemetry est partielle. Si OpenTelemetry est souhaité, trois produits répondent aux exigences :
fails a must-have: Agent Router, Cloudflarescore of the rest: ours 9 of 10, LiteLLM 8 of 10, Azure APIM 7 of 10Une ligne est passée d’obligatoire à souhaitée, et la réponse est passée d’un produit à trois. Les exigences obligatoires constituent donc la vraie décision. Elles méritent une argumentation fondée sur des raisons, pas une supposition. Vérifiez aussi ce que « oui » signifie pour une grande entreprise : les garde-fous par clé ou équipe de LiteLLM sont dans son édition entreprise.
Quand comparer, et à quel coût
Section intitulée « Quand comparer, et à quel coût »Préparez la grille avant toute décision de construire ou d’acheter, puis avant chaque révision annuelle. Cela demande quelques heures de lecture de documentation. Les lignes viennent de vos contrôles, donc la majeure partie du travail est déjà faite.
Ne vous fiez pas seulement au score. Le script compte les fonctions. Il ne tient pas compte des personnes qui exploitent le produit la nuit, du coût de la licence ni des incidents de chaîne d’approvisionnement. Utilisez-le pour éliminer les produits qui ne répondent pas à une exigence obligatoire, puis décidez avec les personnes concernées.
Vérifiez à nouveau. Un produit de cette leçon a changé de nom pendant la rédaction du cours. Avant de décider, ouvrez la documentation actuelle pour chaque cellule sur laquelle vous vous appuyez, puis mettez la grille à jour.
Interrogez le fournisseur sur les mentions « non trouvé ». Une cellule vide peut signaler une page manquante, pas une fonction manquante. Une courte question au fournisseur coûte moins cher qu’une mauvaise décision.
Vérification des connaissances
Section intitulée « Vérification des connaissances »Vérifiez votre compréhension
Tomás dit : « Azure API Management a des budgets, c'est écrit dans la grille : partiellement. » Pourquoi Larkfield considère-t-elle cette cellule comme un échec?
Afficher la réponse
La cellule indique « partiellement », car les politiques d’IA d’Azure limitent les jetons par minute et par période, pas l’argent. Les budgets de Larkfield sont en $ US par agent et par équipe. Après une nouvelle association, un quota de jetons pour strong-reasoning représente un montant différent, car les prix des modèles diffèrent. Chat-strong coûte 20 fois plus par jeton d’entrée que chat-small. Pour une ligne obligatoire, une prise en charge partielle ne suffit donc pas.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Deux cellules indiquent « non trouvé » et « non ». Quelle est la différence, et que faites-vous dans chaque cas?
Afficher la réponse
« Non » signifie que la documentation indique que le produit ne le fait pas. C’est le cas du contrôle des outils de Cloudflare, qui se trouve dans un produit distinct. « Non trouvé » signifie que l’équipe du cours ne l’a pas trouvé dans la documentation. C’est une question ouverte, pas un fait. Un « non » pour une exigence obligatoire élimine le produit. Pour un « non trouvé » sur une exigence obligatoire, interrogez le fournisseur ou testez la fonction avant de décider.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Notre passerelle et LiteLLM sont à égalité avec 9 sur 10 pour Larkfield. Nommez deux éléments que le score ne compte pas et qui devraient les départager.
Afficher la réponse
N’importe lesquels de ces éléments. Qui l’exploite et le sécurise : notre passerelle est un projet pédagogique sans révision de sécurité, et Larkfield l’entretiendrait seule. Ce qu’il faut pour l’exécuter : LiteLLM a besoin de PostgreSQL et, pour plusieurs instances, de Redis. La licence des fonctions nécessaires : certaines fonctions de LiteLLM sont dans son édition entreprise commerciale. La chaîne d’approvisionnement : une passerelle détient toutes les clés des fournisseurs, donc la construction et la signature de ses paquets comptent. Les versions compromises de LiteLLM sur PyPI l’ont montré. Et le comportement de son stockage en cas de panne, que vous devez choisir selon le niveau de risque.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Récapitulatif
- Une grille de comparaison présente vos contrôles en lignes et les produits en colonnes. La documentation actuelle de chaque produit remplit sa colonne, avec une source par cellule et la version consultée.
not found(non trouvé) est une question, pas unno(non). Une exigence obligatoire élimine un produit; les points comptent seulement ensuite.- Le chemin des données (point de terminaison compatible avec OpenAI, noms des modèles, solutions de repli) existe dans chaque produit. Aucun n’offrait de fiches d’enregistrement ni de vérifications de contrat : conservez-les dans vos propres fichiers.
- Une liste de fonctions cache la licence, les besoins d’exécution du produit, son comportement en cas de panne et les risques de sa chaîne d’approvisionnement. « Construire » signifie aussi que vous l’exploitez pendant des années.
Votre projet contient maintenant docs/gateway-comparison.md, rempli pour quatre produits. Vous pouvez lui attribuer des scores selon les besoins de n’importe quelle entreprise. Mais une grille ne fait migrer aucune application, et le meilleur produit ne protège rien si les équipes le contournent. Ensuite, vous planifiez le déploiement chez Larkfield, de l’inventaire au dernier accès parallèle, et vous mesurez les difficultés qu’il entraîne.
Leçon suivante : Déployer dans une organisation