Une API de reconnaissance hébergée
- Leçon 12
- 25 min
- Module 4 : Reconnaissance de la parole : comparer les familles
Où nous en sommes
Nous avons mesuré les systèmes de reconnaissance locaux sur notre portable. Beaucoup d'équipes envoient plutôt leur audio à un service hébergé. Dans cette leçon, nous examinons les ajouts d'une API de reconnaissance hébergée, son coût et la destination de l'audio des appelants. Pensez d'abord à un bureau qui envoie ses enregistrements à une agence de transcription.
Leçon 12 sur 36 · IA de la parole : transcrire, comprendre et parlerUne API de reconnaissance hébergée
1. Le problème de la parole et son coût
2. Mesurer avant de choisir
3. Trouver la parole : la détection d'activité vocale
4. Reconnaissance de la parole : comparer les familles
5. Qui a parlé et quand : diarisation et temps des mots
6. De la transcription à la décision
7. Construire un petit serveur vocal interactif
8. Du serveur vocal à l'agent vocal
9. L'exploiter en production, en sécurité
Ce que vous saurez faire
Décidez quand Larkfield devrait envoyer l’audio de ses appels à un service de reconnaissance hébergé. Décidez aussi quand elle devrait garder la reconnaissance sur ses propres ordinateurs. Le choix dépend du coût, des fonctions et, surtout, de la destination des voix des appelants.
Avant de commencerCe qu’il faut savoir et avoir sous la main
Ce que vous devez savoir
- Le facteur temps réel et le coût par heure d’audio d’un système de reconnaissance local, vus dans Les tailles de Whisper sur un portable.
- Pourquoi les enregistrements de voix sont des données personnelles, vu dans Ce que Larkfield attend de ses appels.
Ce qu’il vous faut
- Rien à installer. Cette leçon n’exécute aucun code. L’équipe du cours n’a envoyé aucun audio à un service hébergé. Chaque chiffre vient d’une mesure sur notre portable ou d’un prix publié par un fournisseur.
- Seulement pour le mode en direct facultatif à la fin : votre compte auprès d’un service de reconnaissance et votre clé. Ce mode coûte de l’argent. Passez cette partie si vous n’en avez pas.
Un bureau qui envoie ses bandes à une agence
Section intitulée « Un bureau qui envoie ses bandes à une agence »Avant que les ordinateurs puissent reconnaître la parole, beaucoup de bureaux enregistraient leurs réunions sur bande. Ils envoyaient ensuite les bandes par la poste à une agence de dactylographie. L’agence avait beaucoup de dactylographes, donc une grosse pile de bandes revenait rapidement. Elle facturait à la minute d’audio. Le bureau n’avait pas besoin de ses propres dactylographes, bureaux ou formations.
Mais le bureau devait aussi poser des questions. Qui écoute nos bandes à l’agence? Est-ce qu’on en garde une copie? Où se trouve l’agence, et quel pays y impose ses lois? Et si l’agence change de dactylographes et que la qualité baisse?
Une API de reconnaissance hébergée, c’est cette agence sous forme de service web. Une API (application programming interface, ou interface de programmation d’applications) permet à un programme d’en appeler un autre. Votre programme envoie l’audio par Internet aux serveurs du fournisseur. Le système de reconnaissance du fournisseur écrit le texte et le renvoie. Vous payez pour chaque heure d’audio.
Le problème : Larkfield ne veut pas gérer de serveurs
Section intitulée « Le problème : Larkfield ne veut pas gérer de serveurs »Dans la dernière leçon, Whisper small fonctionnait sur le CPU d’un portable. Les 4 000 appels mensuels de Larkfield représentent environ 49 heures d’audio (4 000 × 43,9 secondes). Quelqu’un doit faire tourner ce système de reconnaissance chaque jour, le mettre à jour, le surveiller et le réparer quand il s’arrête. Omar, le gestionnaire de produit, demande : « On ne peut pas simplement payer une entreprise pour le faire? »
Oui, c’est possible. Et pour certaines équipes, c’est le bon choix. Mais un service hébergé change trois choses : ce que vous obtenez, ce que vous payez et la destination de l’audio. Examinons chacune.
Ce qu’ajoute un service hébergé
Section intitulée « Ce qu’ajoute un service hébergé »Les grands services de reconnaissance offrent plus qu’une transcription. Voici les fonctions que les fournisseurs mentionnent le plus souvent. Chaque fournisseur offre son propre ensemble. Consultez donc la documentation de celui que vous envisagez :
- Une grande capacité sans serveurs. Envoyez mille heures à la fois, et le fournisseur les traite en parallèle.
- Temps des mots et confiance. Chaque mot a un temps de début, un temps de fin et un score de confiance du modèle. Whisper local peut aussi fournir les temps des mots : le module 5 les utilise.
- Étiquettes de locuteur (diarisation). « Speaker 1 » (locuteur 1) et « Speaker 2 » (locuteur 2) dans un enregistrement mono. Le module 5 construit cette fonction localement.
- Un vocabulaire personnalisé. Une liste d’expressions, comme des noms de produits, que le service devrait privilégier. La prochaine leçon fait cela avec la requête de Whisper.
- Détection de la langue et nombreuses langues.
- Caviardage. Certains services peuvent retirer les numéros de carte ou les noms du texte. Le module 9 construit cette fonction pour le texte et l’audio.
- Diffusion en continu (streaming) en temps réel. Le texte arrive pendant que l’appelant parle. Une ligne téléphonique qui répond aux appelants en a besoin.
- Une entente de service. Le fournisseur promet un niveau de disponibilité, et vous avez quelqu’un à appeler.
Rien de tout cela n’est magique. Vous pouvez aussi réaliser chaque fonction sur vos ordinateurs, avec du travail. La question est de savoir si ce travail vaut plus que le prix.
Ce que cela coûte
Section intitulée « Ce que cela coûte »Les fournisseurs publient un prix par heure ou par minute d’audio. Ce sont des affirmations des fournisseurs : des prix catalogue pour le paiement à l’utilisation, dans une région, sans rabais ni contrat. Nous les avons lus dans les sources tarifaires des fournisseurs. Les prix changent : consultez la page actuelle avant de décider.
| Service | Fonctionnement | Prix publié par heure d’audio |
|---|---|---|
| Azure AI Speech, transcription par lots | envoyer des fichiers, recevoir le texte plus tard | 0,18 $ US |
| Azure AI Speech, transcription rapide | envoyer un fichier, recevoir le texte en quelques secondes | 0,36 $ US |
| Azure AI Speech, temps réel | recevoir le texte pendant que la personne parle | 1,00 $ US |
| Amazon Transcribe, par lots | envoyer des fichiers, recevoir le texte plus tard | 0,36 $ US (0,006 $ US la minute) |
| Amazon Transcribe, diffusion en continu | recevoir le texte pendant que la personne parle | 0,60 $ US (0,01 $ US la minute) |
Les prix Azure concernent la région East US. Ils viennent de la page des prix Azure AI Speech et de la liste tarifaire de Microsoft qu’elle utilise. Les prix Amazon concernent US East et viennent des exemples de la page des prix Amazon Transcribe. D’autres fournisseurs, comme Google Cloud et OpenAI, vendent aussi la reconnaissance de la parole. Cette leçon ne cite pas leurs prix : consultez leurs pages.
Un petit exemple détaillé : un mois d’appels de Larkfield
Section intitulée « Un petit exemple détaillé : un mois d’appels de Larkfield »La reconnaissance locale a aussi un coût par heure d’audio. Dans Les tailles de Whisper sur un portable, Whisper small avait un facteur temps réel de 0,075. Le cours suppose qu’un serveur CPU (4 cœurs, 16 Go) coûte 0,17 $ US l’heure. C’est une hypothèse de prix courant dans le nuage. Une heure d’audio coûte donc 0,075 × 0,17 $ US, soit environ 0,013 $ US de calcul.
Pour les 49 heures mensuelles de Larkfield :
| Mode d’exécution | Calcul du coût | Coût mensuel |
|---|---|---|
| Whisper small, serveur démarré seulement pour le travail | 49 h × 0,075 = 3,7 h de calcul × 0,17 $ US | environ 0,62 $ US |
| Whisper small, serveur toujours allumé | 730 heures par mois × 0,17 $ US | environ 124 $ US |
| Transcription Azure par lots (prix du fournisseur) | 49 h × 0,18 $ US | environ 8,78 $ US |
| Azure en temps réel (prix du fournisseur) | 49 h × 1,00 $ US | environ 48,78 $ US |
Regardez la deuxième ligne. Le coût par heure d’audio est bas seulement si vous payez le serveur uniquement pendant son travail. Un serveur qui attend tout le mois pour 49 heures d’audio coûte plus que le service hébergé par lots. Au volume de Larkfield, chaque option coûte moins qu’une journée de travail d’une personne. Le coût de l’ordinateur ne détermine pas le choix ici. Les erreurs et la vie privée déterminent le choix.
- Whisper local
- hébergé (prix du fournisseur)
Description textuelle du graphique
Cinq colonnes, en cents US pour une heure d’audio. Deux tailles locales de Whisper : tiny à 0,3 cent et small à 1,3 cent. La taille medium, non illustrée, coûte 3,3 cents. Ces valeurs sont si petites qu’elles disparaissent presque à côté des prix hébergés. Azure par lots coûte 18 cents, Amazon par lots 36 cents et Azure en temps réel 100 cents (un dollar). Amazon en diffusion continue, à 60 cents, figure dans le tableau ci-dessus. Les valeurs locales comptent seulement le temps de calcul, pas un serveur inactif, le temps de votre équipe ou les mises à jour.
Où va l’audio
Section intitulée « Où va l’audio »C’est la partie la plus importante. Un enregistrement d’appel contient la voix d’une personne. Il contient souvent un nom, une adresse, une commande et parfois un numéro de carte dit à voix haute. Quand vous utilisez un service hébergé, cet enregistrement quitte Larkfield.
Description textuelle du diagramme
L’enregistrement d’appel commence dans le système téléphonique de Larkfield. Sur le chemin local, le serveur de Larkfield exécute Whisper, puis la transcription entre dans la base de données de Larkfield. L’audio ne quitte jamais Larkfield. Sur le chemin hébergé, l’enregistrement passe par Internet, chiffré, avec votre clé. Il arrive dans la région du fournisseur. Le service de reconnaissance y produit la transcription et la renvoie à la base de données de Larkfield. Une ligne pointillée relie le service de reconnaissance au stockage et aux journaux du fournisseur. Cette ligne porte deux questions : combien de temps conserve-t-on l’audio, et qui peut le lire?
Avant que Larkfield envoie un seul appel, quelqu’un doit répondre par écrit à ces questions, à partir des conditions du fournisseur :
- Le fournisseur conserve-t-il l’audio ou le texte, et pendant combien de temps? Certains services les suppriment après le traitement. D’autres les gardent un certain temps, par exemple pour vérifier les abus.
- Le fournisseur utilise-t-il les données pour améliorer ses modèles? Beaucoup de services aux entreprises disent non, mais lisez les conditions de votre forfait.
- Dans quelle région l’audio est-il traité et stocké? Des lois comme le RGPD européen encadrent la destination des données personnelles.
- Les appelants ont-ils donné leur accord? L’avis d’enregistrement de Larkfield dit que l’appel est enregistré « pour la qualité et la formation ». Couvre-t-il l’envoi de l’enregistrement à une autre entreprise?
- Et les numéros de carte? Un numéro de carte dit à voix haute doit aller uniquement aux endroits nécessaires. Le module 9 le retire du texte et de l’audio.
Le cours Sécurité de l’IA, vie privée et conception responsable enseigne comment évaluer ces questions. Pour ce cours, retenez cette règle : le chemin local garde l’audio dans Larkfield; le chemin hébergé en fait aussi l’affaire de quelqu’un d’autre.
Quand utiliser un service hébergé, et quand l’éviter
Section intitulée « Quand utiliser un service hébergé, et quand l’éviter »| Utilisez un service hébergé quand | Gardez la reconnaissance locale quand |
|---|---|
| Vous avez besoin de nombreuses langues ou de fonctions que vous ne pouvez pas construire rapidement | L’audio contient des données personnelles que vous ne pouvez pas envoyer ailleurs, ou vos appelants n’ont pas donné leur accord |
| Votre volume varie beaucoup, et des serveurs inactifs coûteraient plus cher | Votre volume est stable, donc un serveur travaille la plupart du temps |
| Vous n’avez personne pour exécuter et mettre à jour un modèle | Vous avez besoin du même modèle pendant des mois pour que vos mesures restent valides |
| Vous avez mesuré le service sur vos propres appels | Vous ne l’avez pas encore mesuré |
Cette dernière ligne compte. Le fournisseur mesure son affirmation d’exactitude sur son audio de test, pas sur la ligne téléphonique de Larkfield. Et un modèle hébergé peut changer sans nouveau numéro de version de votre côté. Si Larkfield choisit un service hébergé, elle doit le mesurer avant de décider. Elle doit utiliser les mêmes appels de test et le même guide de normalisation. Ensuite, elle le mesure à nouveau de temps en temps.
Facultatif : le mode en direct avec votre clé
Section intitulée « Facultatif : le mode en direct avec votre clé »Le cours n’exécute pas de système de reconnaissance hébergé. Vous pouvez le faire si vous avez votre compte. Cela coûte de l’argent, et l’équipe du cours n’a pas testé ces étapes. Faites-le seulement avec les appels synthétiques de Larkfield, jamais avec des enregistrements de personnes réelles.
Les 60 appels de test représentent 2 834 secondes d’audio, soit environ 0,79 heure. Au prix publié d’Azure pour le traitement par lots, cela coûte environ 0,14 $ US. Vérifiez d’abord le prix sur la page du fournisseur.
-
Créez une ressource de reconnaissance dans la console de votre fournisseur. Choisissez une région et lisez les conditions de votre forfait concernant les données.
-
Placez la clé dans une variable d’environnement, par exemple
SPEECH_KEY. N’écrivez jamais la clé dans votre code ou dans un carnet Jupyter que vous partagez. -
Suivez le guide de démarrage du fournisseur pour transcrire un fichier. Commencez par
data/calls/wideband/C-0225.flacou le fichier téléphoniquedata/calls/phone/C-0225.wav. Certains services exigent un fichier WAV à 16 000 échantillons par seconde. Vous devrez peut-être convertir le fichier FLAC d’abord. -
Transcrivez les 60 appels de test. Écrivez une ligne par appel dans
data/recordings/asr/hosted-mine.jsonl, au même format que les enregistrements du cours :{"call_id": "C-0009", "kind": "phone", "text": "...", "seconds": 0}. Placez le temps d’attente dansseconds(secondes), si vous l’avez. -
Évaluez le résultat avec la même commande que les autres systèmes de reconnaissance :
speech score --method hosted-mine --by language. Votre ligne se compare maintenant équitablement au tableau du cours. -
Supprimez la ressource quand vous avez terminé pour éviter d’autres coûts. Vérifiez dans la console du fournisseur ce qu’il a stocké.
Erreur courante
Comparer le chiffre du fournisseur au vôtre
Symptôme : Tomás lit une page de fournisseur qui annonce un « taux d’erreur sur les mots inférieur à 5 % ». Notre Whisper small atteint 8,6 % sur les appels téléphoniques de test. « Le service hébergé est clairement meilleur », dit-il.
Cause : les deux chiffres ne viennent pas du même audio, des mêmes mots ni des mêmes règles de normalisation. Les 5 % du fournisseur viennent peut-être de parole lue, claire, à 16 000 échantillons par seconde. Notre mesure vient d’une ligne téléphonique à 8 000 échantillons par seconde, en anglais et en français, avec un guide écrit. Dans Normaliser avant de comparer, la normalisation seule a fait passer Whisper small de 18,1 % à 8,6 %, sur les mêmes transcriptions.
Correction : un chiffre compte seulement sur vos appels de test, avec votre guide. Utilisez le mode en direct ci-dessus, puis speech score.
Conséquence dans le travail en IA : une équipe qui achète selon le chiffre d’un fournisseur découvre l’écart en production, après la signature du contrat.
Vérifiez votre compréhension
Larkfield envoie environ 49 heures d'appels par mois. Avec les prix de cette leçon, combien coûte un mois de transcription Azure par lots? Et avec Whisper small sur un serveur qui fonctionne seulement pour le travail? Pourquoi le prix n'est-il pas le facteur décisif?
Afficher la réponse
Azure par lots : 49 × 0,18 $ US = environ 8,80 $ US (prix du fournisseur; vérifiez la page actuelle). Whisper small : 49 × 0,075 = environ 3,7 heures de calcul × 0,17 $ US = environ 0,62 $ US. C’est le facteur temps réel mesuré multiplié par un prix de serveur supposé. Les deux coûts sont minuscules comparés aux coûts des appels de Larkfield, comme 4,00 $ US par appel traité par une personne. Le choix repose donc sur les erreurs dans les appels de Larkfield et sur les endroits où l’audio peut aller.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Nommez trois questions auxquelles Larkfield doit répondre à partir des conditions du fournisseur avant d'envoyer un enregistrement d'appel à un service de reconnaissance hébergé.
Afficher la réponse
Trois questions parmi celles-ci. Le fournisseur conserve-t-il l’audio ou le texte, et pendant combien de temps? Les utilise-t-il pour entraîner ses modèles? Dans quelle région l’audio est-il traité et stocké? Les appelants de Larkfield acceptent-ils que leur enregistrement aille à une autre entreprise? Comment empêche-t-on l’envoi des numéros de carte dits à voix haute? Répondez par écrit à partir des conditions du forfait que Larkfield achètera.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
La page d'un fournisseur annonce un WER de 4 %. Comment savoir quel serait le WER pour Larkfield?
Afficher la réponse
Transcrivez les mêmes 60 appels de test avec le service. Enregistrez les transcriptions au format du cours et évaluez-les avec speech score. Les deux chiffres reposent alors sur les mêmes appels, mots et guide de normalisation. Évaluez aussi par tranche (langue, ligne), car un bon résultat global peut cacher une mauvaise tranche. Utilisez seulement des appels synthétiques pour ce test.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Récapitulatif
- Une API de reconnaissance hébergée est un système de reconnaissance sur les serveurs d’un fournisseur. Vous envoyez l’audio, recevez du texte et payez par heure d’audio.
- Elle ajoute de la capacité, les temps des mots, les étiquettes de locuteur, un vocabulaire personnalisé et la détection de la langue. Elle ajoute aussi le caviardage, la diffusion en continu et une entente de service.
- Les prix publiés sont des affirmations des fournisseurs qui changent. Ici, Azure par lots coûte 0,18 $ US, Amazon par lots 0,36 $ US et Azure en temps réel 1,00 $ US l’heure. Whisper small local coûte environ 0,013 $ US de calcul par heure d’audio, mais seulement si aucun serveur n’attend sans travailler.
- Au volume de Larkfield, l’ordinateur coûte peu dans les deux cas. Les erreurs et la vie privée déterminent le choix.
- Le chemin hébergé envoie les voix des appelants à une autre entreprise. Vérifiez d’abord la conservation, l’utilisation pour l’entraînement, la région, le consentement et les numéros de carte.
- Ne comparez jamais le WER d’un fournisseur au vôtre. Mesurez le service sur vos appels de test.
Vous savez maintenant ce qu’ajoute un service hébergé et ce qu’il vous demande. Mais Whisper et les services hébergés se trompent tous les deux sur les noms de produits et les numéros de commande de Larkfield. Ensuite, vous donnez au modèle les mots de Larkfield et vous corrigez les numéros de commande avec des règles.
Leçon suivante : Aider le modèle avec vos mots