Aller au contenu
English

Déployer des modèles d'IA pour de vrais utilisateurs

Servez à de vrais utilisateurs le modèle que vous avez entraîné dans le cours sur l'apprentissage automatique. Empaquetez-le avec son contrat, choisissez un service par lots, en ligne ou asynchrone, créez et mesurez le service de prédiction, et publiez une nouvelle version avec un retour en arrière testé.

Lisez toutes les leçons sans compte, ou connectez-vous pour vous inscrire et suivre vos progrès.

Ce que vous apprendrez

À la fin de ce cours, vous pourrez :

  • Empaqueter les artefacts d'entraînement avec des contrats d'inférence.
  • Choisir entre le service par lots et le service en ligne.
  • Mesurer la latence et la capacité des prédictions.
  • Mettre en production et restaurer des versions de modèle en toute sécurité.

À propos de ce cours

Un modèle entraîné est un fichier. Il n’aide personne tant qu’un autre programme ne peut pas lui envoyer un billet, une demande de prêt ou un dossier de patient et recevoir une réponse : assez vite, chaque fois, et la même réponse que le modèle donnait à l’entraînement. Cette dernière étape s’appelle le service du modèle (serving), et c’est là que beaucoup de bons modèles échouent.

Dans ce cours, vous servez le modèle d’escalade des billets que vous avez entraîné dans le cours Apprentissage automatique : du problème à un modèle fiable. D’abord, vous écrivez exactement ce que le modèle accepte et renvoie, et vous l’empaquetez pour que rien ne puisse le modifier en chemin. Ensuite, vous choisissez comment les prédictions doivent parvenir au centre d’assistance : un fichier chaque nuit, une réponse à chaque nouveau billet ou une tâche qui s’exécute en arrière-plan.

Vous créez le service de prédiction avec FastAPI, de la même façon que l’API du cours Créer et déployer votre première API, et vous prouvez qu’il donne les mêmes scores qu’à l’entraînement. Vous le mettez dans un conteneur avec des limites de CPU et de mémoire, et vous mesurez la vitesse de ses réponses et le nombre de requêtes qu’il peut traiter. Ensuite, vous publiez une nouvelle version du modèle. Elle s’exécute d’abord en mode fantôme : elle note de vrais billets, mais personne ne voit ses réponses. Vous décidez alors, à partir de preuves, si elle peut passer en production. Quand une version défectueuse passe quand même, vous revenez en arrière et vous vérifiez que tout fonctionne de nouveau.

Chaque nombre des leçons a été mesuré lors d’une vraie exécution, et chaque leçon montre une erreur courante : ce que vous voyez, pourquoi elle se produit et comment la corriger. Les diagrammes et les graphiques interactifs portent les idées principales : le texte reste donc court.

Avant de commencer

Vous avez suivi les cours Apprentissage automatique : du problème à un modèle fiable, Créer et déployer votre première API et L'essentiel de Docker et du nuage pour les développeurs en IA, ou vous savez déjà entraîner et enregistrer un pipeline scikit-learn, créer un service FastAPI avec des tests, et construire et exécuter une image de conteneur avec Docker Compose. Vous n'avez pas besoin de GPU ni de compte infonuagique. Chaque exercice s'exécute sur votre ordinateur.

Cours à suivre avant : Apprentissage automatique : du problème à un modèle fiable, Créer et déployer votre première API, L'essentiel de Docker et du nuage pour les développeurs en IA.

À qui s'adresse ce cours

Les personnes qui ont entraîné un modèle, comme dans le cours Apprentissage automatique : du problème à un modèle fiable, et qui ont créé une API et l'ont mise dans un conteneur, comme dans les cours Créer et déployer votre première API et L'essentiel de Docker et du nuage pour les développeurs en IA. Un modèle n'aide personne tant qu'un programme ne peut pas lui demander une prédiction, de façon sûre et assez vite. Ce cours comble cet écart.

Comment nous avons créé ce cours

Des spécialistes de l'IA expérimentés ont conçu ce cours. L'IA nous a aidés à rédiger le contenu; des personnes ont choisi l'approche pédagogique et les exemples, et ont révisé chaque leçon. Les résultats que vous voyez sont les vrais résultats de l'exécution du code. Comment nous créons les cours

Dans ce cours

Module 2Choisir un mode de service

3 leçons

Choisissez comment les prédictions parviennent aux personnes qui les utilisent. Notez un fichier entier selon un horaire, répondez à une requête à la fois dans un délai fixé, ou acceptez une grosse tâche maintenant et renvoyez le résultat plus tard. Prévoyez aussi quoi faire quand chacune de ces options échoue.

  1. Inférence par lots40 min
  2. Inférence en ligne35 min
  3. Inférence asynchrone45 min

Module 3Créer le service de prédiction

3 leçons

Créez le service de prédiction. Chargez le modèle une seule fois au démarrage, répondez aux requêtes validées en indiquant la version du modèle dans chaque réponse, et prouvez avec des tests de parité que le service donne les mêmes scores qu'à l'entraînement.

  1. Charger et initialiser40 min
  2. Connecter l'API40 min
  3. Vérifier la parité40 min

Module 5Mettre en production, surveiller et rétablir

3 leçons

Publiez une nouvelle version du modèle sans risque. Exécutez-la en mode fantôme (shadow) à côté du modèle en production et décidez à partir de preuves, surveillez les signaux de santé du modèle, et quand une version défectueuse passe, revenez à la dernière version fiable et vérifiez de nouveau le contrat.

  1. Versions et déploiement progressif45 min
  2. Surveiller la santé du modèle45 min
  3. Retour en arrière et retrait45 min

Dernier module · choisissez-en au moins uneÉtudes de cas

3 études de cas

Trois études de cas de bout en bout sur des données réelles, sous forme de projets que vous téléchargez et exécutez dans VS Code. Évaluez le risque de défaut de crédit par lots et en ligne, publiez un nouveau modèle de prix des maisons, et évaluez les réadmissions à l'hôpital avec des tâches en file d'attente. Terminez-en au moins une pour obtenir le certificat. Chacune est un projet à ajouter à votre portfolio.

Terminez au moins une étude de cas pour obtenir le certificat. Les autres sont facultatives. Ce que couvre chacune

  1. Prédire le défaut de crédit par lots et en ligne180 min
  2. Mettre en production un nouveau modèle de prix des maisons180 min
  3. Prédire les réadmissions à l'hôpital de façon asynchrone180 min

Après les études de casTravail final

Utilisez tous les modules dans un projet pratique. Vous recueillez des preuves, puis vous les comparez aux objectifs du cours.

  1. Travail final120 min

Études de cas

Des projets réalistes du début à la fin, sur de vraies données, avec chaque résultat expliqué. Chacun devient une pièce de votre portfolio. Terminez-en au moins une pour obtenir le certificat; les autres sont facultatives.

  1. Prédire le défaut de crédit par lots et en ligne3 h

    Servir un même artefact de défaut de crédit de deux façons, une tâche mensuelle de prédiction par lots et un point de terminaison en ligne, et prouver qu'ils donnent les mêmes scores.

  2. Mettre en production un nouveau modèle de prix des maisons3 h

    Mettre en production un modèle de prix des maisons réentraîné derrière l'API du cours sur les API : l'exécuter en mode fantôme, le comparer sur le vrai trafic, le promouvoir, puis revenir en arrière.

  3. Prédire les réadmissions à l'hôpital de façon asynchrone3 h

    Accepter un gros fichier de congés d'hôpital comme tâche en file d'attente, calculer les prédictions en arrière-plan et laisser l'appelant récupérer les résultats plus tard.

Avis

Chargement des avis…

    Vous avez suivi ce cours? Connectez-vous pour donner votre avis. Vous pouvez donner un avis après avoir terminé 25 % des leçons.

    Partager ce cours