Vérifier les fournisseurs et les modèles
- Leçon 13
- 35 min
- Module 4 : Des politiques que l'on peut suivre
Où nous en sommes
Dans la dernière leçon, l'examen d'une fonctionnalité d'IA achetée a mené à une vérification du fournisseur. Une vérification exige des questions. Les réponses d'un fournisseur peuvent sembler complètes tout en omettant l'essentiel. Dans cette leçon, nous posons dix questions, lisons les réponses de deux fournisseurs et repérons les lacunes. C'est comme avant de donner la clé de votre maison à une entreprise de nettoyage.
Leçon 13 sur 19 · Gouvernance de l'IA : politiques, risques et responsabilitéVérifier les fournisseurs et les modèles
1. À quoi sert la gouvernance
2. Les lois et les normes en termes simples
3. Inventaire, niveaux de risque et évaluation d'impact
4. Des politiques que l'on peut suivre
5. Contrôles, documentation et preuves
6. Faire vivre la gouvernance
Ce que vous saurez faire
Avant que Larkfield active une fonctionnalité d’IA achetée, posez dix questions au fournisseur. Marquez chaque réponse manquante, vague, défavorable à Larkfield ou absente du contrat. Puis décidez : activer, activer avec des conditions ou garder désactivée.
Avant de commencerCe qu’il faut savoir et avoir sous la main
Ce que vous devez savoir
- L’examen d’une fonctionnalité d’IA achetée, présenté dans Développer et acheter de l’IA.
- Les questions qu’un dirigeant pose à un fournisseur, dans Choisir des fournisseurs et des modèles en tant que leader, du cours Diriger des produits et des équipes d’IA. Cette leçon les transforme en questionnaire de dix lignes et examine des réponses réelles à l’aide de ce questionnaire.
Ce qu’il vous faut
- Le questionnaire destiné aux fournisseurs et les réponses des deux fournisseurs, copiés dans votre outil de rédaction.
- Les fiches système S6 et S7.
La clé de votre maison
Section intitulée « La clé de votre maison »Vous engagez une entreprise de nettoyage et lui donnez la clé de votre maison. Avant de la remettre, vous posez quelques questions. Utiliserez-vous ma maison pour autre chose que le nettoyage? Y amènerez-vous du nouveau personnel pour le former? Garderez-vous une copie de ma clé, et pendant combien de temps? Qui d’autre entrera? Où gardez-vous la clé? Quelles preuves pouvez-vous fournir de l’honnêteté de votre personnel? Me préviendrez-vous immédiatement si la clé est perdue? Et quand j’arrête le service, est-ce que je récupère la clé et est-ce que les copies sont détruites?
Une bonne entreprise répond avec des faits : « Seulement Ana et Lee, tous deux vérifiés; la clé reste dans une boîte verrouillée; nous vous appelons dans l’heure si elle est perdue. » Une entreprise qui répond à chaque question par « nous suivons les normes les plus élevées » n’a rien répondu. Et si les bonnes réponses sont données seulement au téléphone, elles disparaissent quand vous en avez besoin.
Le problème : dix réponses qui en disent peu
Section intitulée « Le problème : dix réponses qui en disent peu »TicketHarbor (inventé pour ce cours) vend le module complémentaire du service de soutien de Larkfield, avec une fonctionnalité d’IA qui suggère des réponses. La demande R-04 demandait au comité d’activer cette fonctionnalité. Le comité l’a renvoyée parce qu’aucune réponse du fournisseur n’était disponible. Maintenant, TicketHarbor a répondu aux dix questions (réponses construites). Chaque ligne est remplie. Un lecteur pressé pourrait écrire « questionnaire rempli » et renvoyer R-04 au comité.
Lisez maintenant la ligne 2, sur l’entraînement : « Oui, par défaut (désactivation par courriel). » Si la fonctionnalité est activée, chaque message client peut servir à entraîner les modèles du fournisseur. Il faut qu’une personne chez Larkfield envoie un courriel pour l’empêcher. Ces clients ont écrit pour obtenir de l’aide avec une commande. Et envoyer les données à un fournisseur ne transfère pas la responsabilité. La loi fédérale canadienne sur la protection des renseignements personnels dans les entreprises précise ceci. Une organisation reste responsable des renseignements personnels qu’elle envoie à une autre entreprise pour traitement (LPRPDE, annexe 1, principe 4.1.3, source officielle, vérifiée le 22 octobre 2026). Un questionnaire rempli n’est pas un questionnaire vérifié.
L’idée : lire un questionnaire fournisseur pour repérer les lacunes
Section intitulée « L’idée : lire un questionnaire fournisseur pour repérer les lacunes »Un questionnaire fournisseur est une liste fixe de questions auxquelles chaque fournisseur d’une fonctionnalité d’IA répond avant son activation par Larkfield. La version du cours en compte dix. Une bonne réponse est précise : un nombre, un nom ou une clause du contrat.
Les dix questions suivent les données, du moment où Larkfield les envoie jusqu’à son départ.
Description textuelle du diagramme
Le diagramme suit un message client. Larkfield l’envoie au fournisseur. Là, la question 1 demande s’il sert à autre chose que le service. La question 2 demande si quelqu’un entraîne des modèles avec ce message, et si c’est activé ou désactivé par défaut. La question 3 demande combien de jours le message, la requête et la sortie sont conservés. Le message peut ensuite passer à d’autres entreprises. La question 4 demande lesquelles, y compris le fournisseur du modèle, et si Larkfield est avertie avant tout ajout. La question 8 demande quel modèle est utilisé, quelles sont ses faiblesses et si le fournisseur prévient avant tout changement. Où que soient les données, la question 5 demande dans quels pays elles se trouvent. La question 6 demande quelles preuves indépendantes de sécurité existent. Si un problème survient, la question 7 demande combien d’heures passent avant que Larkfield soit avertie. La sortie revient au personnel de Larkfield : la question 9 demande ce que le produit permet de voir et de corriger. Quand Larkfield quitte le service, la question 10 demande après combien de jours les données sont supprimées et ce qui peut être exporté.
La question 8 est la vérification du modèle. Le fournisseur choisit le modèle et peut le changer sans rien modifier de ce que Larkfield voit. Une requête modifiée dans le service de triage a échoué à 0 des 6 lignes de sa barrière de mise en production (résultat calculé par ce cours à partir des résultats enregistrés). Changer le modèle dans un outil acheté est le même type de changement, effectué par quelqu’un d’autre. Larkfield demande donc quel modèle est utilisé, quelles sont ses faiblesses connues et un avis avant tout changement. La personne responsable peut alors refaire les tests, comme le montre le cours Évaluer et tester les systèmes d’IA.
Pour lire les réponses, attribuez à chacune l’une des cinq marques suivantes :
- Précise : un nombre, un nom ou une clause. Elle répond à la question.
- Vague : des mots sans nombre ni nom : « sans retard injustifié », « modèles de pointe », « norme du secteur ».
- Manquante : aucune réponse, une réponse à une autre question ou « consultez notre site Web ».
- Défavorable : claire, mais inacceptable pour Larkfield. Par exemple, l’entraînement activé par défaut.
- Absente du contrat : une bonne promesse qui existe seulement dans une feuille de réponses ou un courriel.
Un petit exemple : trois lignes de TicketHarbor
Section intitulée « Un petit exemple : trois lignes de TicketHarbor »Farida marque d’abord trois lignes. Pour chacune, elle écrit la réponse, ce que serait une bonne réponse, sa marque et ce qu’il faut demander.
| Ligne | Réponse de TicketHarbor | Bonne réponse | Marque | À demander |
|---|---|---|---|---|
| 2 Entraînement | « Oui, par défaut (désactivation par courriel). » | « Non » ou « désactivé par défaut », dans le contrat | défavorable et absente du contrat | L’entraînement désactivé pour les données de Larkfield, comme clause du contrat |
| 3 Conservation | « Tant que le compte est actif. » | Un nombre de jours pour chaque type de données | vague | Le nombre de jours pour les messages, les requêtes et les sorties |
| 7 Avis d’incident | « Nous avisons les clients sans retard injustifié. » | Un nombre d’heures, dans le contrat | vague | Un nombre d’heures, dans le contrat |
Les résultats intermédiaires comptent. La ligne 2 donne une réponse claire, mais claire ne veut pas dire bonne : elle est défavorable à Larkfield. Les lignes 3 et 7 semblent répondre, mais ne donnent aucun nombre. Farida marque ensuite les sept autres lignes de la même façon.
Description textuelle du diagramme
Voici les dix réponses de TicketHarbor, chacune avec sa marque. La ligne 1, usage des données, dit que le fournisseur utilise le contenu client pour améliorer ses fonctionnalités d’IA : défavorable. La ligne 2, entraînement, dit oui par défaut, avec désactivation par courriel : défavorable et absente du contrat. La ligne 3, conservation, dit tant que le compte est actif : vague, sans nombre de jours. La ligne 4, sous-traitants, dit qu’ils figurent sur le site Web du fournisseur : manquante. Le fournisseur du modèle n’est pas nommé et aucun avis n’est prévu avant les ajouts. La ligne 5, emplacement, indique les États-Unis et l’Union européenne : précise; demander si cela peut changer. La ligne 6, sécurité, propose un rapport d’audit indépendant sous entente de confidentialité : précise; signer l’entente et lire le rapport. La ligne 7, avis d’incident, dit sans retard injustifié : vague, sans nombre d’heures. La ligne 8, renseignements sur le modèle, dit modèles d’IA de pointe : vague, sans nom ni avis de changement. La ligne 9, supervision humaine, dit que les agents révisent toujours les suggestions : manquante. Cela décrit le personnel de Larkfield, pas le produit. La ligne 10, sortie, propose l’exportation des billets de soutien pendant 30 jours, sans les paramètres d’IA : manquante. Elle ne dit rien sur la suppression. Le total : 2 précises, 3 vagues, 3 manquantes et 2 défavorables à Larkfield.
Dix lignes ont été remplies, et deux répondent bien à la question. La ligne 9 est le piège le plus courant : « les agents révisent toujours » ressemble à un contrôle. Mais c’est une promesse concernant le personnel de Larkfield. La question demandait ce que le produit permet au personnel de voir et de corriger.
Discussion : TicketHarbor, oui ou non?
Section intitulée « Discussion : TicketHarbor, oui ou non? »Farida apporte les réponses marquées à l’équipe.
- Omar : « Les agents adorent les suggestions. Activons-les aujourd’hui et réglons le contrat plus tard. »
- Tomás : « TicketHarbor est une grande entreprise. Si quelque chose tourne mal, c’est leur problème. »
- Mei : « Chaque message client entraînerait leurs modèles, sauf si quelqu’un envoie un courriel. Et les données peuvent rester aux États-Unis. »
- Grace : « Je promets aux clients qu’une personne leur répond. Est-ce que ça change cette promesse? »
Avant de poursuivre, répondez à ces questions :
- Activer, activer avec des conditions ou garder désactivée?
- Quelles lacunes faut-il combler avant l’activation, et lesquelles peuvent attendre?
- Qui vérifie les conditions?
La réponse du cours. Garder la fonctionnalité désactivée jusqu’à la modification du contrat; puis l’activer avec des conditions. Il faut d’abord combler quatre lacunes, car elles ne peuvent plus être corrigées une fois les données envoyées. Le contrat doit désactiver l’entraînement sur les données de Larkfield, et non un courriel. Le fournisseur doit nommer ses sous-traitants, y compris le fournisseur du modèle, et prévenir des changements. Le contrat doit aussi fixer une durée de conservation en jours et un délai d’avis d’incident en heures. Grace est responsable des conditions, avec le responsable des finances pour le contrat.
Le « réglons ça plus tard » d’Omar échoue à la ligne 2 : on ne peut pas retirer des données ayant entraîné un modèle. Tomás a tort, comme l’indique le principe de protection des renseignements personnels ci-dessus : Larkfield reste responsable. Le deuxième point de Mei est une question pour le juriste, pas pour ce cours. Les lois applicables permettent-elles de stocker aux États-Unis les messages de clients canadiens et de l’Union européenne? La promesse de Grace tient si l’agent lit et envoie chaque réponse. C’est ce que dit maintenant la ligne 4 de la politique d’usage acceptable. Farida l’ajoute à la formation des agents.
Ce qui changerait la réponse : si TicketHarbor refuse de modifier le contrat, chercher un autre fournisseur ou garder la fonctionnalité désactivée. Un meilleur produit ne corrige pas une clause du contrat.
Quand l’utiliser, et ce que cela coûte
Section intitulée « Quand l’utiliser, et ce que cela coûte »Envoyez le questionnaire avant que Larkfield achète un outil avec une fonctionnalité d’IA, avant son activation et lors d’un changement majeur annoncé. Réutilisez les réponses à chaque examen : demandez seulement ce qui a changé.
Le coût est surtout du temps de lecture : une heure pour marquer dix réponses, davantage si le contrat doit changer. Le fournisseur rédige les réponses. Le questionnaire ne remplace ni le contrat ni le juriste qui le lit. Il indique quelles clauses demander.
Ne l’envoyez pas pour un outil sans IA et sans accès aux données personnelles : les vérifications d’achat habituelles suffisent.
Erreur courante
Les réponses sont classées, pas lues
Symptôme : l’inventaire indique « vérification du fournisseur : questionnaire rempli ». Un an plus tard, le fournisseur commence à entraîner ses modèles sur les données clients. C’était permis depuis le début.
Cause : les réponses ont été reçues et classées. Personne ne les a marquées, ni transformé les bonnes réponses en clauses du contrat.
Correctif : une vérification du fournisseur est terminée seulement quand chaque ligne a une marque et chaque lacune une décision. Cette décision est une clause du contrat, une condition avec une personne responsable ou une raison d’accepter la lacune. Consignez-la dans le dossier de décision.
Exercice guidé : commencer avec MinuteMoss
Section intitulée « Exercice guidé : commencer avec MinuteMoss »-
Ouvrez les réponses des fournisseurs. Trouvez MinuteMoss (inventé pour ce cours), l’outil de notes de réunion de la fiche S7.
-
Copiez ses dix réponses dans un tableau avec les colonnes : ligne, réponse, bonne réponse, marque, à demander.
-
Marquez la ligne 2, entraînement : « Non. Nous n’entraînons pas de modèles sur le contenu client. »
Vérification : précise. Demandez que ce soit aussi inscrit dans le contrat.
-
Marquez la ligne 4, sous-traitants.
Vérification : un fournisseur de services infonuagiques au Canada et « un grand fournisseur de modèles », non nommé. Marquez la réponse manquante pour le fournisseur du modèle : Larkfield ne peut pas lire les conditions de cette entreprise.
À vous de jouer : marquer les deux fournisseurs et décider
Section intitulée « À vous de jouer : marquer les deux fournisseurs et décider »Marquez les huit autres lignes de MinuteMoss. Décidez ensuite pour TicketHarbor et MinuteMoss : activer, activer avec des conditions (lesquelles, et qui les vérifie) ou garder désactivée. Donnez vos raisons pour chaque décision. Enfin, dites ce que Larkfield devrait faire pour LedgerFern (inventé pour ce cours), dont le lecteur de factures n’a aucune réponse.
Afficher une réponse possible
Les marques de MinuteMoss. Précises : lignes 1, 2, 3, 5 et 10 (seulement pour le service; aucun entraînement; enregistrements supprimés après 30 jours; Canada; suppression sous 30 jours et exportation à tout moment). La ligne 7 aussi (72 heures, mais demander quand le délai commence : « après confirmation » peut être tard). Vagues : ligne 6 (le chiffrement et l’authentification unique sont des fonctionnalités du produit, pas des preuves indépendantes comme un rapport d’audit). Et ligne 8 (un grand modèle de langage qui « peut contenir des erreurs », sans nom ni avis de changement). Manquantes : ligne 4 (le fournisseur du modèle n’est pas nommé) et ligne 9 (« non précisé »). Aucune réponse n’indique quelles promesses figurent dans le contrat.
MinuteMoss : approuver pour les réunions internes, avec des conditions pour les appels avec des personnes externes à Larkfield. Ses réponses sont surtout précises. Conditions : le fournisseur nomme son fournisseur de modèle; une phrase standard est prononcée au début des appels externes. L’outil est utilisé seulement avec l’accord de l’autre partie. La personne responsable de la réunion vérifie les notes avant que quelqu’un agisse en fonction de celles-ci. Une lacune relève de Larkfield, pas du fournisseur : que faut-il dire aux personnes externes avant d’enregistrer un appel? Demandez au juriste. Le comité a approuvé les appels clients au premier trimestre (R-01), sans conditions, avant que quiconque lise ces réponses. Renvoyez la demande avec les conditions. Omar en est responsable, à titre de responsable désigné.
TicketHarbor : comme dans la discussion. Garder la fonctionnalité désactivée jusqu’à l’ajout des quatre clauses du contrat; puis l’activer avec des conditions. Grace en est responsable, avec le responsable des finances.
LedgerFern : aucune décision n’est possible sans réponses. Envoyez le questionnaire maintenant. Le lecteur de factures est de niveau moyen (7 points) et déjà activé, donc la vérification est en retard. Le responsable des finances décide s’il reste activé entre-temps; un commis vérifie chaque facture.
Vérification des connaissances
Section intitulée « Vérification des connaissances »Vérifiez votre compréhension
Un fournisseur répond à la question 7 : « Nous avisons les clients selon les meilleures pratiques du secteur. » Classez cette réponse et écrivez ce que vous demandez.
Afficher la réponse
Vague : aucun délai en heures n’est indiqué. Les « meilleures pratiques du secteur » ne désignent rien que l’on puisse vérifier. Demandez un délai en heures, inscrit au contrat. Ce délai commence dès que le fournisseur apprend qu’un incident touche les données de Larkfield. La personne responsable pourra alors vérifier le respect du délai après un incident réel.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Faites une prédiction : TicketHarbor accepte les quatre clauses contractuelles, mais précise que son fournisseur de modèle « peut changer à l'occasion ». La décision change-t-elle?
Afficher la réponse
La décision reste « activer sous conditions », mais il faut ajouter une condition. Un nouveau fournisseur de modèle constitue un nouveau sous-traitant (ligne 4) et un changement de modèle (ligne 8). Le contrat doit donc prévoir un avis avant le changement. La personne responsable traite ensuite ce changement comme un changement majeur. Elle teste de nouveau l’outil de suggestion avant que les agents utilisent le nouveau modèle. Elle inscrit aussi le nouveau fournisseur dans l’inventaire.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Vérification de fin de module : donnez votre politique d'usage acceptable réécrite à une personne qui ne l'a jamais vue. Peut-elle répondre aux trois questions « Puis-je…? » à partir de cette seule page? Écrivez les réponses attendues, avec les numéros de ligne.
Afficher la réponse
Avec la politique de la première leçon de ce module : (1) une plainte de client dans un agent conversationnel gratuit : non. Une plainte contenant un nom et un numéro de commande constitue des données client. Un agent conversationnel gratuit ne figure pas sur la liste (lignes 1 à 3). (2) L’outil de prise de notes de réunion pendant un appel avec un fournisseur : pas encore. Il est approuvé uniquement pour les réunions internes. Faites donc une demande au responsable des risques avec le formulaire (lignes 1 et 5). (3) Laisser l’outil de suggestion envoyer une réponse sans la lire quand la file d’attente est longue : non. La personne qui l’envoie la lit en entier (ligne 4). Si une réponse exigeait de « demander à quelqu’un » sans pouvoir citer une ligne, la politique échouait à cette question. Corrigez alors la ligne : définissez un mot, ajoutez un exemple ou ajoutez une entrée à la liste.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Récapitulatif
- Un questionnaire fournisseur pose dix questions qui suivent les données : utilisation, entraînement, conservation, sous-traitants, emplacement, sécurité, avis d’incident, modèle, supervision humaine et sortie.
- Une bonne réponse est précise : un nombre, un nom ou une clause contractuelle. Classez les autres réponses : vague, manquante, défavorable pour nous ou absente du contrat.
- La vérification du modèle demande quel modèle est utilisé, ce qu’il fait mal et un avis avant tout changement. Un changement de modèle est un changement du système.
- Décidez d’activer, d’activer sous conditions ou de garder désactivé. Avant l’activation, corrigez les lacunes aux conséquences irréversibles et attribuez chaque condition à une personne responsable.
Dans ce module, vous avez rédigé des règles pour le personnel, des barrières pour les nouveaux projets d’IA et une vérification des fournisseurs. Larkfield dispose maintenant de politiques que les gens peuvent lire. Mais une ligne de politique ne bloque rien à elle seule. Ensuite, vous transformerez chaque ligne en contrôle, avec une personne responsable et une preuve.
Leçon suivante : De la politique au contrôle