En lot ou en temps réel
- Leçon 27
- 40 min
- Module 9 : L'exploiter en production
Où nous en sommes
Au module 8, nous avons choisi une liste avec un test en ligne simulé. Nous avons vu comment une page d'accueil qui apprend seulement de ses propres résultats reste bloquée. Maintenant, la liste doit atteindre de vraies pages, rapidement, chaque jour. Dans cette leçon, nous comparons les suggestions calculées chaque nuit à celles calculées à chaque requête. Nous exécutons aussi un petit service qui utilise la popularité comme solution de repli.
Leçon 27 sur 29 · Recommandation et personnalisation : montrer à chacun ce qui compteEn lot ou en temps réel
1. Le problème de la recommandation
2. Les données, la rétroaction implicite et un découpage honnête
3. Mesurer les recommandations hors ligne
4. Les voisins et le filtrage collaboratif
5. La factorisation matricielle pour la rétroaction implicite
6. Le contenu, les hybrides et le démarrage à froid
7. Deux étapes : les candidats et le classement
8. Des scores hors ligne au vrai magasin
9. L'exploiter en production
Ce que vous saurez faire
Décidez quand Larkfield calcule ses suggestions : chaque nuit pour tous les clients, ou au moment où une page les demande. Exécutez ensuite un petit service de recommandation qui répond toujours, même quand le modèle manque.
Carnet JupyterFaites cette leçon dans un carnet
Le carnet calcule une simple liste « les clients ont aussi acheté » pour tous les clients à la fois. C’est ce que fait une tâche nocturne. Il fournit ensuite les listes par consultation, avec une solution de repli pour un client inconnu. Enfin, il mesure le temps nécessaire pour calculer les scores d’un client au moment de la requête. Ses cellules de préparation téléchargent environ 8 Mo. Environ 15 minutes.
Le carnet est en anglais. Colab et Kaggle ouvrent votre propre copie. Il faut un compte Google ou Kaggle gratuit. Vous êtes bloqué ? Consultez le carnet de solution.
Avant de commencerCe qu’il faut savoir et avoir sous la main
Ce que vous devez savoir
- La liste des tendances et pourquoi elle est difficile à battre, dans Les références de base à battre.
- Le système en deux étapes et ses règles d’affaires, dans Pourquoi deux étapes et Règles d’affaires et reclassement.
- Le garde-fou de vitesse de 100 millisecondes d’Amira, dans Tests en ligne et garde-fous.
Ce qu’il vous faut sur votre ordinateur (seulement pour les étapes du projet)
- Votre projet
larkfield-recsà la fin du module 8, avec son environnement virtuel actif.recs checkafficheSetup check passed.(vérification de la configuration réussie). - Les fichiers d’exercice dans
../nextia-learning-labs, à côté du dossier du projet. Vous copiez cinq fichiers et un nouveaurequirements.txtdepuis son instantanéend-of-m09. curl, ou un navigateur Web, pour envoyer des requêtes au service.
Testé sur macOS avec Python 3.12. Les commandes Windows (PowerShell) n’ont pas été exécutées.
Une boulangerie qui prépare son pain la nuit
Section intitulée « Une boulangerie qui prépare son pain la nuit »Pensez à une boulangerie. Les boulangers arrivent à quatre heures du matin et préparent le pain du jour. À l’ouverture, un client demande un pain et le reçoit en deux secondes. Le travail était fait avant que quelqu’un le demande.
Certains clients veulent quelque chose de spécial : un gâteau d’anniversaire avec un nom dessus. La boulangerie ne peut pas le préparer d’avance, car elle ne connaît pas le nom. Elle prépare donc le gâteau quand la commande arrive. Le client attend, mais le gâteau correspond exactement à sa demande.
Et quand le four tombe en panne? La boulangerie ne ferme pas. Elle vend le pain de la veille et les gâteaux au congélateur. Ce n’est pas ce qu’elle peut offrir de mieux, mais personne ne repart sans rien.
Un système de recommandation a les mêmes trois choix. Il peut calculer les listes avant qu’on les demande. Il peut calculer une liste quand la page la demande. Et il lui faut quelque chose à afficher quand son modèle n’est pas disponible.
Le problème : une page qui attend ou une page vide
Section intitulée « Le problème : une page qui attend ou une page vide »Jusqu’ici, chaque méthode de ce cours s’exécutait dans un carnet ou dans recs evaluate. La commande entraînait un modèle, calculait les scores de 2 118 clients de test et affichait un nombre. Personne n’attendait.
Une vraie page d’accueil est différente. Un client l’ouvre, et la page demande 10 produits au système de recommandation. Deux problèmes peuvent survenir.
- La page attend. Entraîner le système en deux étapes prend 12 secondes. Si la page entraînait le modèle à chaque visite, le client partirait. Même calculer les scores d’un client avec un modèle prêt prend du temps. Et une page très fréquentée répond à des milliers de clients.
- La page est vide. Le fichier du modèle manque après l’échec d’une tâche nocturne. Ou le client est nouveau, et aucun modèle ne le connaît. Sans plan, la page affiche une erreur ou un encadré vide à la place des suggestions.
L’idée : le lot, le temps réel et une solution de repli
Section intitulée « L’idée : le lot, le temps réel et une solution de repli »Le service consiste à répondre aux requêtes de vraies pages. Une requête est une question posée par une page, par exemple « 10 produits pour le client C100123 ». La latence est le temps entre la requête et la réponse. On la mesure en millisecondes (ms) : un millième de seconde.
Il existe deux façons de fournir des suggestions :
- Le service en lot calcule les listes de tous les clients à un moment fixe, généralement chaque nuit. Il les enregistre dans un fichier. Une requête consulte seulement la liste enregistrée. C’est le pain préparé à quatre heures du matin. Le nom vient d’un lot de pains : plusieurs pains préparés en une seule fois.
- Le service en temps réel garde le modèle en mémoire et calcule une liste quand la requête arrive. Il peut utiliser ce que le client a fait il y a une minute. C’est le gâteau d’anniversaire.
Les deux ont besoin d’une solution de repli : une liste simple que le service affiche quand il ne peut pas fournir de liste personnalisée. C’est le pain de la veille quand le four tombe en panne.
Description textuelle du diagramme
L’image montre deux parcours. À gauche, le service en lot, chaque nuit. La tâche entraîne le modèle sur tous les événements disponibles et calcule les scores des 40 000 clients à la fois. Le système en deux étapes prend 111 secondes. Ensuite, la tâche enregistre les 50 meilleurs produits de chaque client (17,6 Mo). Plus tard, une requête consulte seulement la liste enregistrée, en 0,72 ms. À droite, le service en temps réel, à chaque requête. Le modèle attend en mémoire. Une requête lit les événements du client jusqu’à cette seconde. Elle calcule les scores de ce client (10,3 ms pour le système en deux étapes) et répond.
Deux façons de décrire la vitesse : p50 et p95
Section intitulée « Deux façons de décrire la vitesse : p50 et p95 »Les requêtes ne prennent pas toutes le même temps. Nous décrivons donc la vitesse avec deux nombres. Imaginez 100 requêtes, classées de la plus rapide à la plus lente.
- p50, la médiane, est le temps de la 50e requête. La moitié des requêtes sont plus rapides.
- p95 est le temps de la 95e requête. Seulement 5 requêtes sur 100 sont plus lentes. Il indique combien de temps prend une requête lente.
Une page semble lente quand ses requêtes lentes prennent beaucoup de temps. Un budget de vitesse limite donc généralement p95, pas seulement p50.
Un petit exemple où chaque valeur est visible
Section intitulée « Un petit exemple où chaque valeur est visible »Voici un exemple construit avec quatre produits de jardinage. Le modèle connaît la proximité entre les produits, comme dans Filtrage collaboratif article-article :
| Proche de… | Gants | Compost | Plateau de semis |
|---|---|---|---|
| Transplantoir | 0,6 | 0,3 | 0,2 |
| Plateau de semis | 0,1 | 0,8 | (le même produit) |
Ana a consulté le transplantoir. La nuit, la tâche en lot additionne la proximité avec chaque produit qu’elle a consulté. Les gants obtiennent 0,6, le compost 0,3 et le plateau de semis 0,2. Sa liste enregistrée est gants, compost, plateau de semis.
À onze heures du matin, Ana consulte le plateau de semis. Elle veut probablement semer des graines maintenant.
- En lot : la page consulte la liste enregistrée. Elle voit encore les gants en premier. La liste tiendra compte du plateau de semis seulement demain soir.
- En temps réel : le service additionne les deux lignes maintenant. Les gants obtiennent 0,6 + 0,1 = 0,7, le compost 0,3 + 0,8 = 1,1. Le plateau de semis a déjà été consulté, donc le service ne l’affiche pas. Elle voit le compost en premier.
Le temps réel a une demi-journée d’avance. Il a aussi fait plus de travail pendant la requête : lire ses derniers événements et additionner deux lignes. Avec 3 000 produits et un modèle de classement, les 10,3 ms mesurent ce travail.
Les chiffres de Larkfield
Section intitulée « Les chiffres de Larkfield »L’équipe du cours a mesuré les deux façons sur son portable (Apple M4, un fil d’exécution), avec les commandes du projet. Ces nombres sont mesurés :
| Quoi | Temps |
|---|---|
| Lot nocturne, item-cf, 40 000 clients | 1,5 s |
| Lot nocturne, two-stage, 40 000 clients | 111 s (environ 2 minutes) |
| Taille des listes enregistrées (50 meilleurs produits par client et voisins des produits) | 17,6 Mo |
| Service : consulter une liste enregistrée | p50 0,72 ms, p95 0,79 ms |
| Service : solution de repli seulement (aucun modèle chargé) | p50 0,70 ms, p95 0,78 ms |
| Temps réel : ALS, modèle en mémoire | p50 0,06 ms |
| Temps réel : two-stage, modèle en mémoire | p50 10,3 ms, p95 11,1 ms |
Description textuelle du graphique
Un graphique à barres du temps médian par requête, en millisecondes, sur le portable du cours. Scores en deux étapes calculés au moment de la requête : 10,3 ms. Consultation d’une liste enregistrée dans le service : 0,72 ms. Service sans modèle, répondant avec la solution de repli : 0,70 ms. Scores ALS calculés au moment de la requête : 0,06 ms. Le budget d’Amira est de 100 ms par requête, bien au-dessus de chaque barre.
Trois choses ressortent.
Premièrement, chaque façon est assez rapide pour le budget de 100 ms d’Amira. Même le système en deux étapes au moment de la requête en utilise environ un dixième.
Deuxièmement, la consultation (0,72 ms) correspond presque entièrement au travail du service lui-même : lire la requête, appliquer les règles, écrire la réponse. La solution de repli seule prend 0,70 ms. Trouver une liste enregistrée n’ajoute presque rien.
Troisièmement, ALS au moment de la requête est le plus rapide : 0,06 ms. Son score vient d’une multiplication du vecteur client par les vecteurs produits, comme dans Goûts cachés. Le système en deux étapes est plus lent. Il recueille environ 200 candidats de cinq sources, calcule leurs caractéristiques et exécute le modèle de classement.
Ce que coûte chaque façon
Section intitulée « Ce que coûte chaque façon »La vitesse n’est pas le seul coût. Le cours suppose qu’un serveur avec 4 processeurs coûte 0,17 $ US par heure :
- En lot : 111 secondes par nuit représentent 111 ÷ 3 600 × 0,17 ≈ un demi-cent par nuit de calcul. Le serveur qui répond aux requêtes lit seulement un fichier de 17,6 Mo. Il peut donc être petit. Le coût est la fraîcheur : une liste peut dater d’une journée. Le plateau de semis d’Ana atteint sa liste demain.
- En temps réel : à 10,3 ms par requête, un processeur peut calculer environ 1 000 ÷ 10,3 ≈ 97 requêtes par seconde. C’est un calcul approximatif : un vrai serveur fait aussi d’autres tâches. Le service doit garder le modèle, les caractéristiques et les derniers événements du client en mémoire. Tous doivent être prêts à chaque requête. Le gain est une liste qui sait ce que le client a fait il y a une minute.
Les prix changent : consultez la page actuelle de votre fournisseur avant de les utiliser dans votre plan.
La solution de repli : quoi afficher quand la personnalisation est impossible
Section intitulée « La solution de repli : quoi afficher quand la personnalisation est impossible »Une solution de repli répond à trois cas. Le fichier du lot manque ou est endommagé. Le client n’a pas de liste enregistrée parce qu’il est nouveau. Ou le client ne doit pas recevoir de liste personnalisée. Vous découvrirez ce dernier cas dans Vie privée et suggestions sensibles.
La solution de repli de Larkfield est la liste des tendances : les produits les plus commandés des 28 derniers jours. Ce n’est pas une mauvaise réponse. Dans Les références de base à battre, les tendances ont obtenu un rappel à 10 (recall@10) de 0,156 sur la période de test. Elles ont battu chaque méthode personnalisée utilisée seule. Le service applique aussi les règles d’affaires à la solution de repli. Il n’affiche donc jamais un produit en rupture de stock ou soumis à une restriction d’âge.
Description textuelle du diagramme
L’image montre comment le service choisit sa réponse. Une requête pour le client C100123 arrive à une première question : les fichiers du lot ont-ils été chargés? Sinon, parce qu’ils manquent ou sont endommagés, le service utilise la solution de repli, la liste des tendances. S’ils sont chargés, il pose une deuxième question : ce client a-t-il une liste enregistrée? Un nouveau client n’en a pas, donc le service utilise encore la solution de repli. Autrement, il prend les 50 meilleurs produits enregistrés du client. Les deux parcours passent par la même étape. Les règles retirent les produits bloqués, et le service complète une liste courte avec la solution de repli. La réponse contient toujours 10 produits, avec sa source et la raison.
Exercice guidé : fournir les suggestions
Section intitulée « Exercice guidé : fournir les suggestions »Votre projet à la fin du module 8 n’a pas encore de service. Vous copiez cinq fichiers et un nouveau requirements.txt depuis l’instantané de fin du module 9 :
serving.pycalcule et charge les listes enregistrées, puis choisit la réponse comme dans l’image.service.pyest le service Web. Il utilise FastAPI, une bibliothèque Python pour les petits services Web, et uvicorn, le programme qui l’exécute.commands/batch.py,commands/serve.pyetcommands/bench.pyajoutentrecs batch,recs serveetrecs bench.
-
Dans votre dossier
larkfield-recs, avec l’environnement virtuel actif, copiez les fichiers :Fenêtre de terminal S=../nextia-learning-labs/C37/snapshots/end-of-m09cp $S/larkfield_recs/serving.py $S/larkfield_recs/service.py larkfield_recs/cp $S/larkfield_recs/commands/batch.py $S/larkfield_recs/commands/serve.py $S/larkfield_recs/commands/bench.py larkfield_recs/commands/cp $S/requirements.txt .Fenêtre de terminal $S = "..\nextia-learning-labs\C37\snapshots\end-of-m09"Copy-Item "$S\larkfield_recs\serving.py", "$S\larkfield_recs\service.py" larkfield_recs\Copy-Item "$S\larkfield_recs\commands\batch.py", "$S\larkfield_recs\commands\serve.py", "$S\larkfield_recs\commands\bench.py" larkfield_recs\commands\Copy-Item "$S\requirements.txt" . -
Installez les trois nouveaux paquets (FastAPI, uvicorn et httpx). Les autres lignes du fichier correspondent à des paquets déjà installés :
Fenêtre de terminal pip install -r requirements.txt -
Exécutez la tâche nocturne avec le modèle rapide item-cf :
Fenêtre de terminal recs batch item-cfBatch: item-cf, trained on the events before 2026-07-06; lists for 40,000 customers; 2 sWritten to outputs/batch/ (lists.npz, fallback.json, meta.json)La tâche a entraîné le modèle sur tout le journal, jusqu’à son dernier jour.
lists.npzcontient les 50 meilleurs produits de chaque client et les 20 voisins de chaque produit.fallback.jsoncontient la liste des tendances. -
Démarrez le service. Un port est le numéro sur lequel un programme de votre ordinateur écoute. Ici, c’est 8037 :
Fenêtre de terminal recs serve --port 8037Larkfield recommendations on http://127.0.0.1:8037/ (try /health, /recommend/C100123, /similar/P10020). Stop with Ctrl+C.La commande continue de s’exécuter. Laissez ce terminal ouvert.
-
Ouvrez un deuxième terminal. Demandez au service s’il fonctionne correctement :
Fenêtre de terminal curl -s http://127.0.0.1:8037/healthFenêtre de terminal curl.exe -s http://127.0.0.1:8037/health{"status":"ok","model":"item-cf","customers_with_lists":40000,"fallback_only":false}Vous pouvez aussi ouvrir la même adresse dans votre navigateur.
-
Demandez trois suggestions pour un client connu et pour un client que le magasin n’a jamais vu. Sur Windows, écrivez
curl.exe:Fenêtre de terminal curl -s "http://127.0.0.1:8037/recommend/C100123?k=3"curl -s "http://127.0.0.1:8037/recommend/C999999?k=3"{"customer_id":"C100123","surface":"home","source":"model","reason":null,"products":[{"product_id":"P10065","title":"Silver Lamb's Ear Perennial","price":20.99},{"product_id":"P12645","title":"Garden Fern in Natural Pot","price":15.99},{"product_id":"P11784","title":"Blueberry Shrub in Oak Pot","price":14.99}],"ms":0.116}{"customer_id":"C999999","surface":"home","source":"fallback","reason":"no history for this customer","products":[{"product_id":"P11118","title":"Lumi Green Nordic Coffee Table","price":174.99},{"product_id":"P10614","title":"Bramble Terracotta Mosaic Side Table","price":241.99},{"product_id":"P10219","title":"Navy Nitrile-Grip Garden Gloves","price":7.99}],"ms":0.182}C100123 reçoit des plantes du modèle. C999999 reçoit la solution de repli, et la réponse indique pourquoi. La valeur
msest le temps du service lui-même; la vôtre sera différente. -
Demandez la liste de la page produit du fauteuil Driftwood :
Fenêtre de terminal curl -s "http://127.0.0.1:8037/similar/P10020?k=3"Le premier produit est P12928, le Driftwood Terracotta Rattan Armchair. Vous l’avez découvert dans Les clients ont aussi acheté.
-
Retournez au premier terminal et appuyez sur Ctrl+C. Le service s’arrête.
-
Exécutez maintenant la tâche nocturne avec le système en deux étapes. Elle prend environ deux minutes :
Fenêtre de terminal recs batch two-stageBatch: two-stage, trained on the events before 2026-07-06; lists for 40,000 customers; 113 sWritten to outputs/batch/ (lists.npz, fallback.json, meta.json)Elle remplace les fichiers item-cf. Un service que vous démarrez maintenant fournit les listes en deux étapes.
-
Mesurez le temps du service et du calcul des scores en temps réel. La commande entraîne ALS et le système en deux étapes une fois. Elle prend donc environ une demi-minute :
Fenêtre de terminal recs bench --requests 200L’exécution de l’équipe du cours a affiché :
service, batch lookup (two-stage), 200 requests: p50 0.82 ms, p95 1.29 msals at request time (model in memory, 100 customers): p50 0.06 ms, p95 0.06 ms; training took 3.4 stwo-stage at request time (model in memory, 100 customers): p50 9.94 ms, p95 13.37 ms; training took 12.0 sVos nombres seront différents : ils dépendent de votre ordinateur et de ses autres tâches. L’ordre devrait être le même. ALS est le plus rapide, la consultation vient ensuite, et le système en deux étapes est le plus lent. Avant ces lignes, vous pourriez voir un
StarletteDeprecationWarning(avertissement d’obsolescence de Starlette) concernanthttpx2. Il est sans danger. -
Exécutez les tests avec
python -m pytest -q. Vous voyez28 passed(28 tests réussis). Les tests des fichiers de ce module arrivent dans sa dernière leçon.
Si recs batch s’arrête avec No module named 'fastapi' (aucun module nommé fastapi), lisez les erreurs courantes ci-dessous. Faites de même si recs serve s’arrête avec address already in use (adresse déjà utilisée).
À vous : rendez le modèle indisponible volontairement
Section intitulée « À vous : rendez le modèle indisponible volontairement »Une solution de repli que personne n’a testée est un espoir, pas un plan. Rendez le modèle indisponible et vérifiez que le service fournit encore une réponse utile.
- Déplacez
outputs/batch/lists.npzhors du dossierbatch, par exemple dans le dossier du projet. - Redémarrez le service et demandez
/healthet/recommend/C100123?k=3. - Prédisez d’abord : qu’indiquent
fallback_only(repli seulement),sourceetreason(raison)? Comparez ensuite. - Remettez le fichier en place. Redémarrez le service et vérifiez que C100123 reçoit de nouveau la liste du modèle.
Afficher la réponse
L’exécution de l’équipe du cours, avec lists.npz déplacé :
{"status":"ok","model":null,"customers_with_lists":0,"fallback_only":true}{"customer_id":"C100123","surface":"home","source":"fallback","reason":"no model loaded","products":[{"product_id":"P11118","title":"Lumi Green Nordic Coffee Table","price":174.99},{"product_id":"P10614","title":"Bramble Terracotta Mosaic Side Table","price":241.99},{"product_id":"P10219","title":"Navy Nitrile-Grip Garden Gloves","price":7.99}],"ms":2.37}Le service démarre et indique qu’il utilise seulement la solution de repli. Il donne à C100123 la liste des tendances avec la raison no model loaded (aucun modèle chargé). /similar/P10020 répond aussi avec la solution de repli. La page affiche 10 bons produits au lieu d’une erreur.
Un fichier endommagé correspond au même cas. Le projet traite un lists.npz tronqué, par exemple à cause d’un disque plein, comme un fichier manquant. Un test dans la dernière leçon de ce module le vérifie.
Quand utiliser chaque mode, et à quel coût
Section intitulée « Quand utiliser chaque mode, et à quel coût »| En lot | En temps réel | |
|---|---|---|
| Fraîcheur | Jusqu’à un jour de retard | Jusqu’au dernier clic |
| Temps par requête | Une consultation des listes : moins de 1 ms ici | Le travail du modèle : de 0,06 ms (ALS) à 10,3 ms (deux étapes) ici |
| Calcul | Chaque client, chaque nuit, même s’il ne visite jamais le site | Seulement les clients qui visitent le site |
| Ce qui doit être prêt à la réception d’une requête | Un fichier | Le modèle, ses variables et les derniers événements |
| Si le modèle échoue | Les listes d’hier, ou la solution de repli | La solution de repli |
Utilisez le service en lot quand une liste datant d’un jour suffit. Les courriels hebdomadaires et la plupart des pages d’accueil conviennent : les goûts des clients de Larkfield changent rarement en une nuit. Utilisez le temps réel quand la dernière action compte beaucoup. Une page produit et l’article suivant dans une visite en sont des exemples. Dans Sessions, séquences et LLM, en bref, le produit actuel prédisait la consultation suivante bien mieux que les tendances.
Beaucoup de magasins combinent les deux. Le traitement en lot nocturne calcule les listes personnelles. Une petite étape en temps réel les modifie à la réception de la requête. Par exemple, elle retire un produit en rupture de stock depuis une heure. Ou elle ajoute des voisins du produit à l’écran.
Chaque mode nécessite une solution de repli, et cette solution doit être testée. Le cours MLOps et LLMOps : exploiter l’IA en production approfondit l’exploitation des modèles comme services, notamment dans Pannes des fournisseurs et des dépendances.
Erreurs courantes
Section intitulée « Erreurs courantes »Erreur courante
ModuleNotFoundError : No module named 'fastapi'
Symptôme : après avoir copié les fichiers, chaque commande recs, même recs batch, se termine par :
File ".../larkfield_recs/service.py", line 9, in <module> from fastapi import FastAPI, HTTPExceptionModuleNotFoundError: No module named 'fastapi'Cause : le projet charge chaque fichier de larkfield_recs/commands/ au démarrage. bench.py importe le service, et le service a besoin de FastAPI. Cette erreur survient après la copie des fichiers et avant l’étape 2.
Solution : avec l’environnement virtuel actif, exécutez pip install -r requirements.txt avec le nouveau fichier de l’étape 1.
Erreur courante
adresse déjà utilisée
Symptôme : recs serve --port 8037 affiche sa première ligne, puis :
ERROR: [Errno 48] error while attempting to bind on address ('127.0.0.1', 8037): [errno 48] address already in useCause : un autre programme écoute déjà sur le port 8037. Il s’agit généralement de votre propre service, encore actif dans un autre terminal. Ce message apparaît sur macOS quand un premier service fonctionne encore. Le texte sous Windows est différent (non testé).
Solution : arrêtez le premier service avec Ctrl+C dans son terminal. Ou démarrez celui-ci sur un autre port, par exemple recs serve --port 8038, et utilisez ce port dans vos requêtes.
Vérification des connaissances
Section intitulée « Vérification des connaissances »Vérifiez votre compréhension
Le courriel hebdomadaire de Larkfield part le lundi matin. Ses listes devraient-elles venir d'un traitement en lot ou d'un calcul des scores en temps réel? Donnez une raison et un coût.
Afficher la réponse
D’un traitement en lot. Le courriel est préparé pour tous les clients à une heure connue, et personne ne l’attend. On peut donc calculer les listes la veille au soir. Le coût est la fraîcheur : les actions du client le lundi matin ne figurent pas dans la liste. Pour un courriel hebdomadaire, cela compte peu. Le calcul des scores en temps réel ajouterait du travail au moment de l’envoi, pour seulement quelques heures de fraîcheur supplémentaires.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Le service répond à une consultation des listes en 0,72 ms et avec la solution de repli seule en 0,70 ms. Qu'est-ce que cela révèle sur la répartition du temps du service?
Afficher la réponse
Presque tout le temps sert au travail du service lui-même. Il lit la requête, applique les règles, décrit les produits et écrit la réponse. Trouver la liste enregistrée du client ajoute seulement environ 0,02 ms. Un modèle plus rapide n’accélérerait donc pas un service de consultation des listes. Le calcul des scores en temps réel est différent : le travail du modèle prend alors la majeure partie du temps. Il prend 10,3 ms pour le système à deux étapes.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Dans votre projet, déplacez outputs/batch/lists.npz ailleurs et démarrez le service. Que renvoient /health et /recommend/C100123, et pourquoi est-ce un bon résultat?
Afficher la réponse
/health renvoie "fallback_only":true (solution de repli seulement) et "customers_with_lists":0 (aucun client avec une liste). /recommend/C100123 renvoie "source":"fallback" (source : solution de repli), avec la raison no model loaded (aucun modèle chargé) et la liste des tendances. C’est un bon résultat. La page affiche toujours 10 produits qui se vendent bien. Et la réponse explique pourquoi, ce qui permet à la surveillance d’Amira de détecter l’absence du modèle.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Récapitulatif
- Le service en lot calcule la liste de chaque client une fois par nuit. Une requête consulte cette liste (0,72 ms ici). Le service en temps réel calcule les scores à la réception de la requête et utilise les derniers événements. Cela prend 10,3 ms avec deux étapes et 0,06 ms avec ALS.
- p50 est le temps médian; p95 est le temps que seulement 5 requêtes sur 100 dépassent.
- Le traitement en lot à deux étapes de Larkfield prend 111 secondes par nuit. Il coûte environ un demi-cent au tarif du serveur utilisé dans le cours. Son coût est la fraîcheur : jusqu’à un jour de retard.
- Une solution de repli (ici la liste des tendances, avec les règles) répond quand les fichiers sont absents ou endommagés. Elle répond aussi quand le client n’a pas de liste. Testez-la en brisant volontairement le modèle.
- Utilisez le service en lot quand une liste datant d’un jour suffit (courriels, plupart des pages d’accueil). Utilisez le temps réel quand la dernière action compte (pages produit, article suivant dans une visite).
Le service répond maintenant à chaque requête. Mais le magasin évolue : de nouveaux produits arrivent, les saisons changent, et un modèle entraîné en mai devient peu à peu inadéquat. Ensuite, vous surveillez le service chaque semaine et décidez quand un nouveau modèle peut remplacer l’ancien.
Leçon suivante : Surveiller et réentraîner