Déployer des modèles d'IA pour de vrais utilisateurs
Servez à de vrais utilisateurs le modèle que vous avez entraîné dans le cours sur l'apprentissage automatique. Empaquetez-le avec son contrat, choisissez un service par lots, en ligne ou asynchrone, créez et mesurez le service de prédiction, et publiez une nouvelle version avec un retour en arrière testé.
Lisez toutes les leçons sans compte, ou connectez-vous pour vous inscrire et suivre vos progrès.
Inscrivez-vous pour enregistrer les leçons que vous terminez. C'est gratuit.
Pour obtenir votre certificat, marquez chaque vérification des connaissances comme concordante. Ces leçons ont des vérifications à terminer :
Ce que vous apprendrez
À la fin de ce cours, vous pourrez :
Empaqueter les artefacts d'entraînement avec des contrats d'inférence.
Choisir entre le service par lots et le service en ligne.
Mesurer la latence et la capacité des prédictions.
Mettre en production et restaurer des versions de modèle en toute sécurité.
À propos de ce cours
Un modèle entraîné est un fichier. Il n’aide personne tant qu’un autre programme ne peut pas lui envoyer un billet, une demande de prêt ou un dossier de patient et recevoir une réponse : assez vite, chaque fois, et la même réponse que le modèle donnait à l’entraînement. Cette dernière étape s’appelle le service du modèle (serving), et c’est là que beaucoup de bons modèles échouent.
Dans ce cours, vous servez le modèle d’escalade des billets que vous avez entraîné dans le cours Apprentissage automatique : du problème à un modèle fiable. D’abord, vous écrivez exactement ce que le modèle accepte et renvoie, et vous l’empaquetez pour que rien ne puisse le modifier en chemin. Ensuite, vous choisissez comment les prédictions doivent parvenir au centre d’assistance : un fichier chaque nuit, une réponse à chaque nouveau billet ou une tâche qui s’exécute en arrière-plan.
Vous créez le service de prédiction avec FastAPI, de la même façon que l’API du cours Créer et déployer votre première API, et vous prouvez qu’il donne les mêmes scores qu’à l’entraînement. Vous le mettez dans un conteneur avec des limites de CPU et de mémoire, et vous mesurez la vitesse de ses réponses et le nombre de requêtes qu’il peut traiter. Ensuite, vous publiez une nouvelle version du modèle. Elle s’exécute d’abord en mode fantôme : elle note de vrais billets, mais personne ne voit ses réponses. Vous décidez alors, à partir de preuves, si elle peut passer en production. Quand une version défectueuse passe quand même, vous revenez en arrière et vous vérifiez que tout fonctionne de nouveau.
Chaque nombre des leçons a été mesuré lors d’une vraie exécution, et chaque leçon montre une erreur courante : ce que vous voyez, pourquoi elle se produit et comment la corriger. Les diagrammes et les graphiques interactifs portent les idées principales : le texte reste donc court.
Avant de commencer
Vous avez suivi les cours Apprentissage automatique : du problème à un modèle fiable, Créer et déployer votre première API et L'essentiel de Docker et du nuage pour les développeurs en IA, ou vous savez déjà entraîner et enregistrer un pipeline scikit-learn, créer un service FastAPI avec des tests, et construire et exécuter une image de conteneur avec Docker Compose. Vous n'avez pas besoin de GPU ni de compte infonuagique. Chaque exercice s'exécute sur votre ordinateur.
Les personnes qui ont entraîné un modèle, comme dans le cours Apprentissage automatique : du problème à un modèle fiable, et qui ont créé une API et l'ont mise dans un conteneur, comme dans les cours Créer et déployer votre première API et L'essentiel de Docker et du nuage pour les développeurs en IA. Un modèle n'aide personne tant qu'un programme ne peut pas lui demander une prédiction, de façon sûre et assez vite. Ce cours comble cet écart.
Comment nous avons créé ce cours
Des spécialistes de l'IA expérimentés ont conçu ce cours. L'IA nous a aidés à rédiger le contenu; des personnes ont choisi l'approche pédagogique et les exemples, et ont révisé chaque leçon. Les résultats que vous voyez sont les vrais résultats de l'exécution du code. Comment nous créons les cours
Dans ce cours
Module 1Définir le contrat d'inférence
3 leçons
Rédigez le contrat d'inférence, qui dit exactement ce que le modèle accepte et renvoie. Regroupez ensuite le modèle avec son prétraitement, ses métadonnées et ses versions testées, et chargez-le seulement après qu'une vérification de hachage a prouvé que c'est bien le fichier attendu.
Choisissez comment les prédictions parviennent aux personnes qui les utilisent. Notez un fichier entier selon un horaire, répondez à une requête à la fois dans un délai fixé, ou acceptez une grosse tâche maintenant et renvoyez le résultat plus tard. Prévoyez aussi quoi faire quand chacune de ces options échoue.
Créez le service de prédiction. Chargez le modèle une seule fois au démarrage, répondez aux requêtes validées en indiquant la version du modèle dans chaque réponse, et prouvez avec des tests de parité que le service donne les mêmes scores qu'à l'entraînement.
Choisissez où le modèle s'exécute, puis mesurez-le. Vous comparez le CPU, le GPU et les points de terminaison gérés, vous fixez les limites de CPU, de mémoire et de processus (workers) du conteneur, et vous mesurez la latence à froid et à chaud, le p50, le p95 et le débit.
Module 5Mettre en production, surveiller et rétablir
3 leçons
Publiez une nouvelle version du modèle sans risque. Exécutez-la en mode fantôme (shadow) à côté du modèle en production et décidez à partir de preuves, surveillez les signaux de santé du modèle, et quand une version défectueuse passe, revenez à la dernière version fiable et vérifiez de nouveau le contrat.
Dernier module · choisissez-en au moins uneÉtudes de cas
3 études de cas
Trois études de cas de bout en bout sur des données réelles, sous forme de projets que vous téléchargez et exécutez dans VS Code. Évaluez le risque de défaut de crédit par lots et en ligne, publiez un nouveau modèle de prix des maisons, et évaluez les réadmissions à l'hôpital avec des tâches en file d'attente. Terminez-en au moins une pour obtenir le certificat. Chacune est un projet à ajouter à votre portfolio.
Terminez au moins une étude de cas pour obtenir le certificat. Les autres sont facultatives. Ce que couvre chacune
Des projets réalistes du début à la fin, sur de vraies données, avec chaque résultat expliqué. Chacun devient une pièce de votre portfolio. Terminez-en au moins une pour obtenir le certificat; les autres sont facultatives.
Servir un même artefact de défaut de crédit de deux façons, une tâche mensuelle de prédiction par lots et un point de terminaison en ligne, et prouver qu'ils donnent les mêmes scores.
Mettre en production un modèle de prix des maisons réentraîné derrière l'API du cours sur les API : l'exécuter en mode fantôme, le comparer sur le vrai trafic, le promouvoir, puis revenir en arrière.
Accepter un gros fichier de congés d'hôpital comme tâche en file d'attente, calculer les prédictions en arrière-plan et laisser l'appelant récupérer les résultats plus tard.
Avis
Chargement des avis…
Vous avez suivi ce cours? Connectez-vous pour donner votre avis. Vous pouvez donner un avis après avoir terminé 25 % des leçons.