Modèle hébergé ou autohébergé

Ce que vous saurez faire

Décidez où fonctionne le modèle de soutien de Larkfield : sur les serveurs d’un fournisseur, un serveur loué ou sa propre machine. Chaque choix confie à quelqu’un le travail de faire fonctionner le modèle. Ce travail fait partie du prix.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 35 minutes

Ce que vous devez savoir

• Ce qu’est un jeton (token), expliqué dans Du texte aux jetons.
• Ce qu’est l’inférence, utiliser un modèle entraîné pour produire une sortie, expliqué dans Prédire la suite.
• Les 24 billets de test : des billets de soutien synthétiques en anglais et en français, écrits pour ce cours. Chacun a un corrigé. Le module 4 explique le choix des billets. Cette leçon reprend les chiffres dont elle a besoin.

Ce qu’il vous faut

• Un navigateur. L’encadré « À vous d’essayer » est facultatif. Il nécessite Ollama sur un ordinateur ayant au moins 8 Go de mémoire.

Les modèles hébergés changent souvent : vos propres résultats seront différents.

Du café au bureau

Un bureau veut offrir du café à son personnel. Il a trois choix. Il peut acheter chaque tasse au café voisin : aucune machine, un prix par tasse, et le café change ses grains quand il veut. Il peut louer une machine avec un contrat de service : l’entreprise apporte et répare la machine, et le bureau choisit les grains. Ou il peut acheter sa propre machine : aucun prix par tasse, mais quelqu’un doit la nettoyer, la réparer et acheter les grains.

Aucun choix n’est « le meilleur ». Le bon choix dépend du nombre de tasses bues au bureau et de l’importance du goût. Il dépend aussi du temps disponible pour nettoyer une machine.

Le problème : où fonctionne le modèle?

Grace veut un assistant qui lit chaque billet avec la politique de soutien et rédige une réponse. Amira a envoyé les 24 billets de test à huit modèles : cinq hébergés et trois sur l’ordinateur du bureau. (Elle a exécuté un des modèles locaux, Qwen3 4B, deux fois, avec deux limites de sortie.) Deux choses dans son journal (log) surprennent Omar.

D’abord, les modèles hébergés ont répondu en environ 2 à 4 secondes. Gemma 3 4B fonctionnait sur le Mac mini du bureau (Apple M4, 16 Go de mémoire). Un billet habituel prenait environ 4 à 5 secondes, mais le premier a pris plus de temps. Le Mac mini devait d’abord charger le modèle du disque vers la mémoire. Sur un ordinateur peu occupé, cela prenait environ 6,5 secondes avant de commencer le travail sur le billet.

Ensuite, les appels aux modèles hébergés envoyaient chaque billet hors de Larkfield, vers les serveurs d’une autre entreprise. Le Mac mini n’envoyait rien nulle part.

Donc, « quel modèle? » n’est pas une seule question. Le même modèle peut fonctionner à différents endroits, et chaque endroit confie le travail à une équipe différente. Avant de comparer les modèles, Larkfield doit comprendre ces endroits.

L’idée : trois façons d’obtenir un modèle

Les choix pour le café correspondent à trois façons de fournir un modèle :

• Une API hébergée (aussi appelée API gérée) correspond au café. Un fournisseur comme Anthropic, Google ou OpenAI fait fonctionner le modèle sur ses propres serveurs. Votre programme envoie le texte par Internet et reçoit la réponse. (Une API, ou interface de programmation d’applications, est la porte par laquelle un programme demande du travail à un autre.) Vous payez par jeton.
• Les poids ouverts sont les valeurs apprises d’un modèle, ses poids, que vous pouvez télécharger. Vous pouvez les utiliser sur votre propre machine : vous avez acheté la machine à café. Gemma 3, Mistral 7B et Qwen3 sont des modèles à poids ouverts. Ollama est un programme gratuit qui les fait fonctionner.
• Un hébergement géré pour poids ouverts correspond à la machine louée. Une entreprise fait fonctionner le modèle ouvert de votre choix sur ses serveurs. Vous payez à l’heure ou par jeton.

La première question concerne le trajet du billet.

Le trajet du billet. Avec une API hébergée (A) ou un hébergement géré (B), le billet et la politique quittent Larkfield. Avec des poids ouverts sur la propre machine de Larkfield (C), ils restent à l'intérieur.

Description textuelle du diagramme

Deux zones côte à côte.

• Dans une limite bleue en pointillés, « Ordinateurs de Larkfield » : l’application de soutien, qui contient le billet et la politique, et un serveur qui exécute un modèle à poids ouverts.
• À l’extérieur, « À l’extérieur de Larkfield » : une API hébergée sur les serveurs du fournisseur et un hébergement géré qui exécute un modèle à poids ouverts.
• La flèche A va de l’application de soutien à l’API hébergée. La flèche B va de l’application de soutien à l’hébergement géré. Les deux franchissent la limite.
• La flèche C va de l’application de soutien au propre serveur de modèle de Larkfield et reste à l’intérieur de la limite.

L’option B surprend : les poids sont ouverts, mais le billet quitte quand même Larkfield. « Poids ouverts » indique ce que vous pouvez télécharger. Cela n’indique pas où fonctionne le modèle.

Qui est responsable de quoi : la matrice de déploiement

La deuxième question est de savoir qui fait le travail. Grace trace une ligne pour chaque tâche nécessaire au fonctionnement de l’assistant. Elle colore chaque cellule selon le responsable.

La matrice de décision de déploiement et les responsabilités d'exploitation. De gauche à droite, Larkfield gagne du contrôle sur le modèle et les données, et assume davantage de travail.

Description textuelle du diagramme

Une matrice avec trois colonnes et cinq lignes. Chaque cellule indique qui fait le travail. Les cellules bleu foncé relèvent de Larkfield, les cellules en pointillés sont partagées, et les cellules gris pâle relèvent du fournisseur ou de l’hébergeur.

Tâche	API hébergée	Hébergement géré pour poids ouverts	Poids ouverts sur votre propre machine
Serveurs et mise à l’échelle	Les serveurs du fournisseur; il adapte la capacité pour vous (fournisseur)	Les serveurs de l’hébergeur; vous choisissez la taille (partagé)	Votre machine; une charge accrue exige plus de machines (Larkfield)
Version du modèle	Le fournisseur la met à jour et la retire selon son calendrier (fournisseur)	Vous choisissez les poids; ils changent quand vous les changez (Larkfield)	Vous choisissez les poids; ils changent quand vous les changez (Larkfield)
Trajet du billet	Il quitte Larkfield; les conditions du fournisseur s’appliquent (fournisseur)	Il quitte Larkfield; les conditions de l’hébergeur s’appliquent (fournisseur)	Il reste sur la machine de Larkfield (Larkfield)
Sécurité et disponibilité	Le fournisseur fait fonctionner le modèle; vous protégez la clé d’API (partagé)	L’hébergeur gère les serveurs; vous configurez l’accès (partagé)	Vous faites les mises à jour, la surveillance et les redémarrages (Larkfield)
Coût	Un prix par jeton, fixé par le fournisseur (fournisseur)	Un prix par heure ou par jeton, fixé par l’hébergeur (partagé)	Le matériel et le temps du personnel; aucun prix par jeton (Larkfield)

Lisez la matrice une ligne à la fois.

• Serveurs et mise à l’échelle. Si 300 billets arrivent un jour de soldes, le fournisseur d’une API hébergée ajoute de la capacité. Vous ne remarquez rien. Un Mac mini répond à un billet à la fois, donc une file d’attente se forme.
• Version du modèle. Un fournisseur change et retire ses modèles selon son propre calendrier. Vos propres poids changent seulement quand vous les changez. C’est du contrôle, mais aussi du travail : personne ne les met à jour pour vous.
• Trajet du billet. Cette ligne détermine si les conditions d’utilisation des données du fournisseur comptent. La prochaine leçon les examine.
• Sécurité et disponibilité. Avec une API, votre tâche principale est de garder la clé d’API secrète. Cette clé est le mot de passe qui permet à votre programme d’utiliser votre compte. Avec votre propre machine, vous installez les mises à jour, surveillez le disque et redémarrez le serveur après une panne de courant.
• Coût. Une API hébergée ne coûte rien quand personne n’écrit, et coûte plus cher quand beaucoup de gens écrivent. Votre propre machine coûte la même chose chaque mois, plus le temps de la personne qui la fait fonctionner.

Un billet, trois façons

Suivez le billet S01 (« Ma commande L-20431 … a maintenant 7 jours ouvrables de retard ») dans les différentes options. Voici les exécutions.

A : API hébergée, Claude Sonnet 5.5. L’application envoie les instructions, la politique et le billet : 796 jetons d’entrée. Environ 1,8 seconde plus tard, la réponse revient : 146 jetons de sortie pour une réponse habituelle. Les prix d’Anthropic étaient de 2 $ par million de jetons d’entrée et de 10 $ par million de jetons de sortie. Ce billet habituel coûte donc 796 × 2 $ ÷ 1 000 000 + 146 × 10 $ ÷ 1 000 000 = 0,0031 $. Certaines réponses sont plus longues, donc la moyenne des 24 billets est un peu plus élevée : environ 0,0036 $ par billet. (Le module 4 utilise la moyenne.) Larkfield ne possède aucun des serveurs.

C : poids ouverts, Gemma 3 4B sur le Mac mini. Le fichier du modèle occupe 3,3 Go sur le disque. (Les deux autres modèles locaux du cours occupent 2,5 Go pour Qwen3 4B et 4,4 Go pour Mistral 7B.) Ollama le charge en mémoire pour la première requête. Sur un ordinateur peu occupé, ce chargement a pris environ 6,5 secondes. Ensuite, chaque billet a pris environ 4 à 5 secondes. (Les compromis sur les ressources mesure ces durées.) Il n’y a aucun prix par billet, mais Larkfield a acheté le Mac mini, et Amira le maintient en marche.

B : un hébergement géré pour Gemma 3 répondrait depuis les serveurs de l’hébergeur, au prix de l’hébergeur. Le cours n’en a pas utilisé, donc il ne fournit aucun chiffre pour cette option.

L’exemple suivi : six des modèles, deux endroits

Ce graphique montre six des huit modèles d’Amira. Gemini 3.1 Pro et Qwen3 4B, qui réfléchissent longtemps avant de répondre, figurent dans le tableau complet du module 4.

Faites d’abord une prédiction : les modèles hébergés fonctionnent sur de gros ordinateurs de centres de données. Les modèles locaux utilisent un seul petit ordinateur de bureau. À quel point les modèles locaux seront-ils plus lents?

• API hébergée
• En local sur un Mac mini M4

La durée médiane par billet sur les 24 billets de test. Les appels hébergés allaient de Toronto au fournisseur, puis revenaient. Les appels locaux s'exécutaient sur un Mac mini M4 avec 16 Go. Le premier billet de chaque modèle local était plus lent, car le modèle devait d'abord se charger. Un seul billet lent change à peine une médiane.

Description textuelle du graphique

Un graphique à colonnes des secondes médianes par billet sur les 24 billets de test. API hébergées (bleu) : Claude Haiku 5.5 2,2 s, Claude Sonnet 5.5 1,8 s, Claude Opus 5.5 3,9 s, Gemini 3.5 Flash 4,4 s. En local sur un Mac mini M4 avec Ollama (deuxième couleur) : Gemma 3 4B 4,8 s, Mistral 7B 4,2 s. Le premier billet de chaque modèle local a pris plus de temps, car le modèle devait d’abord se charger.

Ce sont les médianes des exécutions enregistrées sur les 24 billets. (Sur un ordinateur peu occupé, avec le modèle déjà chargé, un billet traité par Gemma a pris environ 4,0 secondes.) Les modèles locaux sont plus lents, mais pas beaucoup : 4 à 5 secondes contre 2 à 4. Pour une réponse qu’une personne vérifie avant l’envoi, toutes ces durées sont acceptables.

La différence la plus importante est la qualité. Dans le module 4, une personne lit et note chaque réponse. Claude Sonnet 5.5 a rédigé 22 réponses sur 24 qu’une personne peut envoyer après une vérification rapide. Gemma 3 4B en a rédigé 6, et Mistral 7B, 12 (le tableau complet). Un petit modèle qui tient sur un ordinateur de bureau ne fait pas le même travail qu’un gros modèle hébergé. Rappelez-vous aussi que les modèles changent vite. Ces chiffres représentent une seule journée; la méthode de comparaison reste utile.

« Pourquoi ne pas simplement… »

Tomás : « Pourquoi ne pas tout faire fonctionner sur le Mac mini? C’est gratuit. »

La matrice lui répond. Le Mac mini n’a aucun prix par jeton, mais il n’est pas gratuit. Quelqu’un installe les mises à jour, le redémarre et prévoit le jour où il tombera en panne. Pour cette tâche, les petits modèles qui tiennent dans ses 16 Go ont aussi fait plus d’erreurs. Larkfield reçoit environ 45 billets par jour, soit environ 1 350 par mois. À environ 0,0036 $ chacun, Sonnet coûte environ 4,90 $ par mois pour les traiter. C’est moins qu’une heure du temps d’Amira.

Omar pose la question inverse : « Alors pourquoi ne pas simplement utiliser l’API pour tout? » Parce que le billet quitte Larkfield, selon les conditions du fournisseur. Et le fournisseur décide quand le modèle change. Pour certaines données (notes médicales, dossiers du personnel), une entreprise peut interdire tout envoi à l’extérieur. Il ne reste alors que l’option C.

Quand utiliser chaque option

• API hébergée : vous voulez les modèles les plus performants, peu de travail d’exploitation et un coût qui suit votre volume. Elle ne convient pas si les données doivent rester à l’intérieur ou si vous voulez garder la même version pendant des années.
• Hébergement géré pour poids ouverts : vous voulez choisir et conserver un modèle ouvert fixe, sans gérer de serveurs. Les données quittent quand même l’entreprise, donc les conditions de l’hébergeur comptent.
• Poids ouverts sur votre propre machine : les données doivent rester à l’intérieur. Ou le volume est si élevé qu’un prix par jeton coûte plus cher que le matériel et le personnel. Il vous faut quelqu’un qui peut gérer un serveur et un modèle assez petit pour votre matériel. La dernière leçon de ce module mesure ce que signifie « assez petit ».

À vous d’essayer : exécuter un modèle sur votre propre ordinateur (facultatif)

Faites ceci seulement si Ollama est installé et si vous avez au moins 8 Go libres sur disque et en mémoire. Les commandes ont été testées avec Ollama 0.40.1 sur macOS.

1. Ouvrez un terminal.
2. Téléchargez le modèle (environ 3,3 Go) : ollama pull gemma3:4b
3. Posez une question : ollama run gemma3:4b "Say hello in French."
4. Pendant que le modèle est encore chargé, affichez ce qui est en mémoire : ollama ps

La sortie de l’étape 4 sur l’ordinateur de test :

NAME         ID              SIZE      PROCESSOR    CONTEXT    RUNNER      UNTIL
gemma3:4b    c30276f7dffe    2.9 GB    100% GPU     4096       llamacpp    9 minutes from now

SIZE (taille) indique la mémoire utilisée par le modèle chargé : 2,9 Go. UNTIL (jusqu’à) indique combien de temps Ollama garde le modèle en mémoire après la dernière requête. C’est 5 minutes par défaut, et plus longtemps sur l’ordinateur de test. Ensuite, la prochaine requête charge le modèle de nouveau et est de nouveau lente. Pour supprimer le modèle, exécutez ollama rm gemma3:4b.

Exercice guidé : qui fait le travail?

Grace énumère huit tâches liées à l’assistant. Pour chaque tâche, décidez qui la fait avec une API hébergée et avec des poids ouverts sur le Mac mini.

1. Redémarrer le serveur de modèle après une panne de courant.
2. Garder la clé d’API secrète.
3. Choisir le jour où l’ancienne version du modèle cesse de fonctionner.
4. Traiter trois fois plus de billets pendant des soldes.
5. Installer les mises à jour de sécurité sur l’ordinateur qui exécute le modèle.
6. Décider où les billets sont stockés.
7. Payer pour chaque billet.
8. Tester de nouveau l’assistant quand le modèle change.

Afficher les réponses

Tâche	API hébergée	Poids ouverts sur le Mac mini
1. Redémarrer après une panne de courant	Le fournisseur	Larkfield
2. Garder la clé d’API secrète	Larkfield	Aucune clé d’API à protéger (mais Larkfield protège la machine)
3. Choisir quand l’ancienne version s’arrête	Le fournisseur	Larkfield
4. Gérer un jour de soldes	Le fournisseur	Larkfield (plus de machines ou une file d’attente)
5. Installer les mises à jour de sécurité	Le fournisseur	Larkfield
6. Décider où les billets sont stockés	Le fournisseur, selon ses conditions	Larkfield
7. Payer pour chaque billet	Larkfield paie le fournisseur	Aucun prix par billet
8. Tester de nouveau quand le modèle change	Larkfield, selon le calendrier du fournisseur	Larkfield, selon son propre calendrier

La tâche 8 revient à Larkfield dans les deux colonnes. Peu importe qui fait fonctionner le modèle, seule Larkfield peut vérifier que les réponses respectent encore sa politique.

À vous de jouer : déplacer Gemma vers un hébergeur géré

Le Mac mini est vieux, et Amira est occupée. Larkfield garde Gemma 3 4B, mais le déplace vers un hébergeur géré. Utilisez la matrice. Parmi les huit tâches, lesquelles quittent Larkfield, lesquelles restent, et quelle nouvelle question ce changement soulève-t-il?

Afficher une réponse modèle

Les tâches 1, 4 et 5 passent à l’hébergeur : il redémarre les serveurs, ajoute de la capacité et installe les mises à jour. La tâche 3 reste chez Larkfield, car Larkfield choisit les poids. Le modèle ne change donc pas selon le calendrier de l’hébergeur. La tâche 2 revient : Larkfield doit maintenant protéger une clé d’API ou un compte. La tâche 7 revient aussi : l’hébergeur facture à l’heure ou au jeton. La tâche 8 reste chez Larkfield. La nouvelle question concerne la tâche 6 : les billets quittent maintenant Larkfield. Il faut donc lire les conditions d’utilisation des données de l’hébergeur, comme pour une API hébergée.

Erreur courante

Le fournisseur a changé le modèle, et l'ancienne requête ne fonctionne plus

Symptôme : Amira réutilise une requête qui fonctionnait avec les anciens modèles Claude. Elle demande une valeur de 0 pour temperature (température), le réglage présenté dans Prédire la suite. Ce réglage rend les réponses aussi reproductibles que possible. Avec Claude Sonnet 5.5, l’API refuse la requête :

HTTP 400
{"type":"error","error":{"type":"invalid_request_error","message":"`temperature` is deprecated for this model."}, ...}

Cause : avec une API hébergée, le fournisseur contrôle la version du modèle (la deuxième ligne de la matrice). Les modèles Claude plus récents n’acceptent pas le réglage temperature. La requête n’a pas changé; le modèle derrière elle a changé.

Solution : retirez le réglage et relancez les 24 billets de test avant la mise en service du nouveau modèle. Inscrivez le nom exact du modèle dans chaque enregistrement, par exemple « Claude Sonnet 5.5 le 8 octobre 2026 ». Vous savez alors à quel modèle chaque résultat correspond.

Conséquence pour le travail en IA : avec une API hébergée, vous ne contrôlez pas le calendrier des changements. Prévoyez-les : le module 5 couvre le retrait des modèles et les solutions de rechange. Avec des poids ouverts sur votre propre machine, cette panne ne survient pas par surprise. Rien ne change tant que vous ne le changez pas.

Vérification des connaissances

Vérifiez votre compréhension

Une clinique veut un modèle pour résumer les notes des patients. Les notes doivent rester dans le réseau de la clinique. Lesquelles des trois options restent possibles, et quelles tâches la clinique prend-elle en charge?

Afficher la réponse

Seuls les poids ouverts sur les propres machines de la clinique restent possibles. Une API hébergée et un hébergeur géré envoient tous deux les notes hors du réseau (flèches A et B). Avec ses propres machines, la clinique prend en charge chaque ligne de la matrice. Cela comprend les serveurs et leur capacité, la version du modèle et ses mises à jour, la sécurité et la disponibilité. Elle assume aussi le coût du matériel et du personnel. Elle a également besoin d’un modèle assez petit pour son matériel. Elle doit créer son propre test pour vérifier que le modèle résume bien ses notes.

Vérifiez votre compréhension

Faites une prédiction : les billets de Larkfield passent de 45 par jour à 45 000 par jour. Que devient le coût mensuel de l'API hébergée, et celui de l'option Mac mini?

Afficher la réponse

Le coût de l’API hébergée augmente avec le volume : 1 000 fois plus de billets coûtent environ 1 000 fois plus. Pour Sonnet, cela représente environ 4 900 $ par mois, à environ 0,0036 $ par billet. Le Mac mini n’a pas de prix par billet. Mais à environ 5 secondes par billet, une machine ne peut traiter qu’environ 17 000 billets par jour, même sans pause. Larkfield a besoin de plusieurs machines et de plus de temps de personnel pour les faire fonctionner. À grand volume, la comparaison peut changer. Un coût fixe pour le matériel peut alors être inférieur à un prix par jeton. Larkfield doit calculer les deux avec des chiffres réels.

Récapitulatif

• Un modèle peut vous être fourni de trois façons : une API hébergée (le fournisseur le fait fonctionner), un hébergeur géré pour des poids ouverts (un hébergeur fait fonctionner le modèle que vous choisissez), ou des poids ouverts sur votre propre machine.
• Les poids ouverts sont des poids de modèle téléchargeables. Ouvert ne veut pas dire local : avec un hébergeur géré, le billet quitte quand même votre réseau.
• La matrice de déploiement montre qui prend en charge chaque tâche : serveurs et augmentation de la capacité, version du modèle, destination du billet, sécurité et disponibilité, et coût. Le contrôle et le travail vont ensemble.
• Dans les exécutions enregistrées, les modèles hébergés ont pris un temps médian de 1,8 à 4,4 secondes par billet. Gemma 3 4B et Mistral 7B sur un Mac mini ont pris de 4,2 à 4,8 secondes. Le premier billet a pris plus de temps, pendant le chargement du modèle.
• Avec une API hébergée, le fournisseur change le modèle selon son calendrier. L’erreur 400 liée à temperature en est un exemple réel.

Ensuite, les documents qui déterminent ce que vous pouvez faire : la licence du modèle et les conditions d’utilisation des données du fournisseur.

Leçon suivante : Licences et conditions d'utilisation des données