Aller au contenu
English

Conception de systèmes d'IA et maîtrise des coûts

Concevez un produit d'IA avant de le construire, et sachez ce qu'il coûtera. Vous rédigez, un module à la fois, la proposition de conception et de coûts de Larkfield pour un assistant de documents que plusieurs boutiques partagent, et chaque chiffre y est mesuré, tiré d'un prix publié ou posé comme hypothèse.

Voir le contenu du cours

Lisez toutes les leçons sans compte, ou connectez-vous pour vous inscrire et suivre vos progrès.

Ce que vous apprendrez

À la fin de ce cours, vous pourrez :

  • Traduire les besoins d'affaires en une architecture cohérente.
  • Estimer la capacité et le coût avec des hypothèses explicites.
  • Comparer les options de modèle, de récupération et d'infrastructure.
  • Défendre les choix de conception et leurs limites.

À propos de ce cours

L’assistant du centre d’assistance de Larkfield répond aux questions à partir des documents de la boutique. Maintenant, Bramble Books veut la même chose, et Omar veut une troisième et une quatrième boutique l’an prochain. Avant de construire davantage, Omar pose deux questions à Kwame : « Qu’allons-nous construire exactement ? » et « Combien cela coûtera-t-il par boutique ? »

Dans ce cours, vous rédigez la réponse de Kwame : une proposition de conception et de coûts pour un assistant de documents que plusieurs boutiques partagent. D’abord, vous notez ce dont les utilisateurs ont besoin et vous transformez des souhaits vagues en cibles mesurables. Ensuite, vous dessinez l’architecture et vous suivez les données et l’identité de chaque boutique à travers elle.

Puis vous mettez des chiffres sur la conception. Un petit calculateur transforme la demande en concurrence, en stockage et en jetons, puis en tableau des coûts, en coût par question et en coût par boutique, pour un cas bas, un cas de base et un cas haut. Vous comparez les options moins chères ou plus rapides avec des résultats mesurés, pas des suppositions.

Enfin, vous planifiez les pannes et la croissance, vous consignez vos décisions et vous présentez la proposition à des personnes qui ne sont pas ingénieures. Chaque chiffre porte une étiquette : mesuré (d’une vraie exécution), prix (d’une liste de prix publiée) ou hypothèse (une valeur posée avec une fourchette). Une conception qui expose ses hypothèses peut être vérifiée ; une conception qui les cache ne le peut pas.

Avant de commencer

Vous avez suivi les cours RAG, Bases de données et stockage pour les applications d'IA, Mise à l'échelle des API et des charges de travail d'IA, et Authentification, permissions et applications multilocataires, ou vous avez les mêmes compétences. Vous n'avez besoin ni d'un compte ni d'argent. Le calculateur de coûts est un petit programme Python sans paquet supplémentaire, et chaque mesure d'IA vient de vrais appels enregistrés par l'équipe du cours.

Cours à suivre avant : RAG : créer une IA qui utilise vos données, Bases de données et stockage pour les applications d'IA, Mettre à l'échelle les API et les charges de travail d'IA, Authentification, autorisations et applications multilocataires.

À qui s'adresse ce cours

Les personnes qui ont construit un assistant RAG, une API avec une base de données, une file d'attente et une connexion multilocataire, comme dans les cours RAG, Bases de données et stockage pour les applications d'IA, Mise à l'échelle des API et des charges de travail d'IA, et Authentification, permissions et applications multilocataires, et qui doivent maintenant décider quoi construire ensuite, ce que cela coûte et ce qui peut mal tourner. Les développeurs, ingénieurs en IA et architectes de solutions qui rédigent ou relisent des propositions de conception.

Vous dirigez ou utilisez l'IA, sans la créer?

Vous pouvez étudier les idées de ce cours sans écrire de code. Lisez les modules 1 à 3 et 6 (environ 7–9 h), répondez à leurs vérifications des connaissances, et obtenez un certificat des notions gratuit. Vous pourrez revenir à la pratique plus tard.

Certaines leçons de ces modules ne sont pas encore publiées. Le certificat des notions s'ouvre quand elles le sont.

Les parcours pour les personnes qui dirigent ou utilisent l'IA suivent ce cours de cette façon. Voir les parcours

Comment nous avons créé ce cours

Des spécialistes de l'IA expérimentés ont conçu ce cours. L'IA nous a aidés à rédiger le contenu; des personnes ont choisi l'approche pédagogique et les exemples, et ont révisé chaque leçon. Les résultats que vous voyez sont les vrais résultats de l'exécution du code. Comment nous créons les cours

Dans ce cours

Module 1NotionsCommencer par les besoins

4 leçons · bientôt

Commencez par les besoins des personnes, pas par la technologie. Vous préparez le dossier de conception, vous décrivez les utilisateurs et leurs parcours, vous transformez « rapide » et « pas cher » en cibles mesurables, et vous estimez la demande sous forme de fourchettes.

  1. Préparer le dossier de conception
  2. Utilisateurs et flux de travail
  3. Attributs de qualité
  4. Hypothèses de demande

Module 2NotionsConcevoir l'architecture de bout en bout

3 leçons · bientôt

Dessinez le système. Vous donnez un seul rôle à chaque partie, vous suivez les données et l'identité de chaque locataire dans les requêtes et le travail en arrière-plan, et vous décidez ce qui reste dans une seule application tant qu'une mesure ne dit pas le contraire.

  1. Limites des services
  2. Flux de données et d'identité
  3. Simplicité et évolution

Module 3NotionsEstimer les ressources et le coût

3 leçons · bientôt

Mettez des chiffres sur la conception. Vous transformez le trafic en concurrence, en stockage et en jetons, vous construisez un modèle de coûts par poste à partir de prix publiés et de mesures, et vous trouvez le coût par question, par document et par locataire.

  1. Calculer la charge de travail
  2. Modèle de coûts
  3. Économie unitaire

Module 4Optimiser avec des compromis mesurés

3 leçons · bientôt

Rendez-le moins cher ou plus rapide, avec des preuves. Vous répartissez les questions entre un petit et un grand modèle, vous mettez en cache et regroupez le travail, et vous comparez les services gérés avec ce que vous exploitez vous-même, temps des personnes compris.

  1. Routage entre modèles
  2. Cache et traitement par lots
  3. Construire ou acheter

Module 5Concevoir pour les défaillances et la croissance

3 leçons · bientôt

Préparez les mauvais jours et la croissance. Vous examinez cinq pannes avec leurs responsables et leurs mesures, vous fixez des cibles de reprise et vous testez une restauration, et vous grandissez par étapes déclenchées par des mesures.

  1. Scénarios de défaillance
  2. Objectifs de reprise
  3. Plan de croissance

Module 6NotionsPrésenter la proposition

3 leçons · bientôt

Présentez la proposition. Vous rédigez des décisions d'architecture, vous expliquez les avantages, les hypothèses et les risques à des personnes qui ne sont pas ingénieures, et vous ordonnez le travail dans une feuille de route.

  1. Décisions d'architecture
  2. Présentation aux parties prenantes
  3. Feuille de route de mise en œuvre

Dernier module · choisissez-en au moins uneÉtudes de cas

2 études de cas · bientôt

Deux études de cas de bout en bout sur des données ouvertes. Planifiez les coûts et la capacité à partir d'une vraie série publique de demande, et faites la revue de conception d'un service de questions sur une vraie collection ouverte de documents. Terminez-en au moins une pour obtenir le certificat. Chacune peut entrer dans votre portfolio.

Terminez au moins une étude de cas pour obtenir le certificat. Les autres sont facultatives. Ce que couvre chacune

  1. Plan de coûts et de capacité à partir de données de demande réelles
  2. Revue de conception d'un service ouvert de questions sur des documents

Études de cas

Des projets réalistes du début à la fin, sur de vraies données, avec chaque résultat expliqué. Chacun devient une pièce de votre portfolio. Terminez-en au moins une pour obtenir le certificat; les autres sont facultatives.

  1. Plan de coûts et de capacité à partir de données de demande réellesBientôt

    Transformer une série publique de demande en pointes, en croissance et en fourchette de coûts pour un assistant public de questions-réponses, avec le calculateur du cours.

  2. Revue de conception d'un service ouvert de questions sur des documentsBientôt

    Dimensionner le stockage et l'ingestion d'une vraie collection ouverte de documents, choisir le routage et le cache avec des chiffres mesurés, et rédiger les décisions et le tableau des pannes.

Avis

Chargement des avis…

    Vous avez suivi ce cours? Connectez-vous pour donner votre avis. Vous pouvez donner un avis après avoir terminé 25 % des leçons.

    Partager ce cours