Aller au contenu
English

Confidentialité et appariement

  • Leçon 29
  • 40 min
  • Module 8 : L'appariement en production

Où nous en sommes

Notre apparieur lit des noms, des courriels et des dates de naissance. Ce sont des données personnelles. Dans cette leçon, nous utilisons moins de champs et essayons l'appariement sur des valeurs hachées et encodées. Nous examinons leurs faiblesses et traitons une demande de suppression sur un enregistrement fusionné.

Ce que vous saurez faire

Voyez combien de données personnelles l’apparieur lit et ce que chaque champ apporte. Appariez des valeurs hachées et des encodages par filtre de Bloom. Mesurez ce que chacun conserve et perd. Voyez ensuite pourquoi l’encodage ne garantit pas la confidentialité. Traitez une demande de suppression visant un enregistrement d’un client fusionné.

Carnet JupyterHacher, encoder et attaquer dans un carnetColab · Kaggle · GitHub · en anglais

Le carnet (notebook) Jupyter hache les courriels et applique la règle des courriels aux hachages. Il construit des filtres de Bloom pour les noms et les compare avec le coefficient de Dice. Vous lancez ensuite une attaque par fréquence sur les noms de famille encodés, sans la clé. Ses cellules de préparation téléchargent les données. Il ne nécessite donc aucune configuration locale.

Le carnet est en anglais. Colab et Kaggle ouvrent votre propre copie. Il faut un compte Google ou Kaggle gratuit. Vous êtes bloqué ? Consultez le carnet de solution.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 40 minutes

Ce que vous devez savoir

Ce qu’il vous faut sur votre ordinateur

  • Le projet après la semaine de La révision humaine, avec son environnement virtuel actif. Vous pouvez aussi utiliser seulement le carnet.

Cette leçon présente des méthodes et leurs limites mesurées. Elle ne constitue pas un avis juridique. Les lois sur la confidentialité varient selon les pays. Un vrai projet doit faire appel à ses équipes juridiques et de protection des données.

Deux cliniques d’une ville veulent savoir quels patients elles ont en commun. Elles pourront ainsi éviter les rendez-vous en double. Mais aucune clinique ne peut envoyer sa liste de patients à l’autre.

Elles conviennent donc d’une méthode. Chaque clinique écrit le nom de chaque patient dans un code secret que les deux cliniques connaissent. Elles comparent seulement les codes. Quand deux codes sont égaux, le patient figure dans les deux listes. Personne n’a vu de nom.

Cela semble sûr. Mais une clinique remarque qu’un code apparaît 40 fois dans l’autre liste. Dans cette ville, le nom de famille le plus courant est Tremblay. Ce code représente donc probablement « Tremblay ». Le code secret cachait le nom. Il ne cachait pas sa fréquence.

TermeLarkfieldUne boutique en ligne canadienne inventée, qui vend des articles pour la maison et le jardin. Ce n’est pas une vraie entreprise. Tous les cours Nextia utilisent son service d’assistance et ses données comme exemple.En savoir plus Découvrez Larkfield doit faire le même choix. Son apparieur lit des noms, des courriels, des numéros de téléphone, des adresses et des dates de naissance. Un partenaire ou une deuxième équipe pourrait vouloir apparier sans les voir.

Ce que l’apparieur lit et ce que chaque champ apporte

Section intitulée « Ce que l’apparieur lit et ce que chaque champ apporte »

Chaque champ du vecteur de comparaison contient des données personnelles : des renseignements sur une personne qu’on peut identifier. La première règle de confidentialité consiste à utiliser moins de champs. C’est la minimisation des données. Mais chaque champ aide aussi l’apparieur. Dans quelle mesure?

Nous avons réentraîné LightGBM en retirant un groupe de champs à la fois. Les étiquettes, les paires candidates et la méthode de seuil sont restées les mêmes :

LightGBM sur les 3 000 paires étiquetées, avec un groupe de champs retiré, mesuré sur le jeu de test des enregistrements synthétiques. L'axe commence à 0,7.
Description textuelle du graphique

Un diagramme à colonnes du F1, sur un axe de 0,7 à 0,92. Tous les champs : 0,902. Sans date de naissance : 0,864. Sans téléphone : 0,87. Sans courriel : 0,818. Sans nom : 0,74. Sans adresse : 0,752.

Chaque groupe aide, mais certains aident beaucoup plus que d’autres :

  • Le nom et l’adresse contribuent le plus à l’appariement. Sans eux, le F1 tombe à 0,74 et 0,752.
  • Retirer la date de naissance coûte 0,038 de F1. C’est l’un des champs les plus sensibles. Ce gain en vaut-il la peine? C’est une décision d’affaires et de confidentialité. Vous avez maintenant un chiffre pour la prendre.

Utilisez seulement les champs qui changent assez le résultat. Notez pourquoi vous conservez chacun. Le cours sur la sécurité de l’IA montre comment choisir quoi conserver et pour combien de temps dans Réduire et conserver de façon réfléchie.

Un hachage transforme une valeur en code court. La même valeur donne toujours le même code. Une valeur différente, même d’une seule lettre, donne un code complètement différent. Vous ne pouvez pas reconvertir le code en valeur.

Les hachages simples ont une faiblesse : n’importe qui peut hacher une liste de noms courants et comparer. Le projet utilise donc un hachage avec clé (HMAC) : un hachage qui intègre une clé secrète. Sans la clé, personne ne peut produire les mêmes codes. La clé du projet de cours est une clé d’exercice, écrite dans privacy.py. Une vraie clé est un secret partagé seulement par les propriétaires des données.

L’exécution hashed-rules du projet applique les quatre règles du module 2 aux valeurs hachées seulement. Le résultat est exactement le même qu’avec les valeurs brutes : précision 0,723, rappel 0,87, F1 0,79. Des valeurs égales donnent des hachages égaux. Les règles demandent seulement « égal ou non ».

Mais le classificateur a besoin de plus que « égal ». Il doit savoir « à quel point c’est similaire ». Un hachage ne peut pas le dire.

Les noms de famille theriault et theriaul de trois façons. Valeurs brutes : une lettre diffère, et Jaro–Winkler voit presque le même nom; appariement approximatif oui, confidentialité non. Hachés avec une clé : d722583656fc88c4 et 90f9e003d393865f, des codes complètement différents, seulement égal ou non égal; appariement approximatif non, appariement exact oui. Filtre de Bloom de 1 000 bits : des bits tirés des paires de lettres; le Dice des deux filtres est 0,844; appariement approximatif oui, et la valeur brute n'est pas partagée.
Les deux mêmes noms de famille sous forme de valeurs brutes, de hachages avec clé et de filtres de Bloom. Les codes et la valeur de Dice proviennent de la clé d'exercice du projet.
Description textuelle du diagramme

Trois colonnes. La première, les valeurs brutes : theriault et theriaul. Une lettre diffère, et Jaro–Winkler reconnaît presque le même nom. L’appariement approximatif fonctionne, mais rien n’est confidentiel. La deuxième, les valeurs hachées avec une clé : d722583656fc88c4 et 90f9e003d393865f. Les codes sont complètement différents. Ils indiquent seulement « égal » ou « non égal ». L’appariement exact fonctionne; l’appariement approximatif ne fonctionne pas. La troisième, un filtre de Bloom de 1000 bits : les bits sont activés à partir des paires de lettres _t, th, he, er, et ainsi de suite. Le coefficient de Dice des deux filtres est 0,844. L’appariement approximatif fonctionne, et la valeur brute n’est pas partagée.

Filtres de Bloom : des bits pour chaque paire de lettres

Section intitulée « Filtres de Bloom : des bits pour chaque paire de lettres »

Un filtre de Bloom est une rangée de bits, tous à 0 au départ. Pour encoder une valeur, nous la découpons en paires de lettres, appelées bigrammes. « ana » devient _a, an, na et a_. Le caractère _ marque le début et la fin. Chaque bigramme est haché avec la clé quelques fois. Chaque hachage désigne une position dans la rangée, et ce bit passe à 1.

Des valeurs similaires partagent la plupart de leurs bigrammes. Elles activent donc la plupart des mêmes bits. Pour comparer deux filtres, nous utilisons le coefficient de Dice : 2 × les bits partagés ÷ (les bits du premier + les bits du second). Des filtres égaux donnent 1. Des filtres sans rien en commun donnent 0.

Le projet utilise 1 000 bits et 20 hachages par bigramme. Pour voir chaque bit, voici une taille inventée : 24 bits et 2 hachages. Les positions des bits sont réelles : elles proviennent de l’encodage du projet avec sa clé d’exercice.

Un tout petit filtre de Bloom de 24 bits et 2 hachages par paire de lettres. anna a les bigrammes _a, a_, an, na, nn. Ses bits sont 0, 5, 13, 14, 15, 16, 17, 18, 21. ana a les bigrammes _a, a_, an, na, et les bits 0, 5, 15, 16, 17, 18, 21. Ils partagent 7 bits. Dice = 2 × 7 ÷ (9 + 7) = 0,875.
Deux noms dans un tout petit filtre de Bloom de 24 bits. Les bits partagés sont en vert.
Description textuelle du diagramme

Deux rangées de 24 encadrés, numérotés à partir de 0. Une rangée représente « anna », l’autre « ana ». Pour « anna », les bigrammes et leurs bits : _a active 0 et 17; a_ active 0 et 21; an active 15 et 18; na active 5 et 16; nn active 13 et 14. Les bits 0, 5, 13, 14, 15, 16, 17, 18, 21 sont donc à 1. Pour « ana » : _a active 0 et 17; a_ active 0 et 21; an active 15 et 18; na active 5 et 16. Les bits 0, 5, 15, 16, 17, 18, 21 sont donc à 1. Les bits à 1 dans les deux rangées sont verts : il y en a 7. L’encadré du bas : Dice = 2 × 7 ÷ (9 + 7) = 0,875.

« anna » a un bigramme de plus, nn, donc deux bits de plus. Tout le reste est partagé, et Dice vaut 0,875. Deux bigrammes peuvent aussi activer le même bit, comme _a et a_ au bit 0. Avec plus de bits, cela arrive moins souvent.

Avec la taille réelle du projet, le coefficient de Dice se comporte comme une similarité de chaînes :

Deux valeursHachages égaux?Dice des filtres de Bloom
theriault / theriaulnon0,844
theriault / terriaultnon0,825
theriault / smithnon0,279
marie claude / marienon0,652

L’exécution bloom-lgbm du projet encode chaque enregistrement. Le prénom, le nom de famille et la rue deviennent des filtres de Bloom. Le courriel, le téléphone, le code postal et la date de naissance deviennent des hachages avec clé. Elle ne conserve aucune valeur brute. LightGBM apprend ensuite à partir des valeurs de Dice et des égalités de hachages des 3 000 paires étiquetées.

Fenêtre de terminal
match privacy
'theriault' / 'theriault': hashes d722583656fc88c4 / d722583656fc88c4 (equal)
Bloom filters: 180 and 180 bits set of 1000; Dice 1.000
rules precision 0.723, recall 0.870, F1 0.790
hashed-rules precision 0.723, recall 0.870, F1 0.790
lgbm precision 0.918, recall 0.886, F1 0.902
bloom-lgbm precision 0.913, recall 0.812, F1 0.859
Frequency attack on the encoded surnames of the shop and garden-centre records:
1. 1665 records -> guess 'smith' (right)
2. 1429 records -> guess 'tremblay' (right)
3. 1122 records -> guess 'brown' (right)
4. 998 records -> guess 'gagnon' (right)
5. 899 records -> guess 'taylor' (wrong)
6. 877 records -> guess 'wilson' (wrong)
7. 855 records -> guess 'johnson' (right)
8. 817 records -> guess 'martin' (wrong)
9. 785 records -> guess 'roy' (wrong)
10. 751 records -> guess 'williams' (wrong)
5 of 10 guessed right, without the key

La première ligne utilise l’exemple par défaut de la commande, Thériault et Theriault. Le nettoyage en fait la même valeur, donc leurs codes sont égaux. Essayez maintenant deux graphies qui diffèrent d’une lettre. La commande affiche de nouveau le même tableau après ces lignes :

Fenêtre de terminal
match privacy --example Thériault Theriaul
'theriault' / 'theriaul': hashes d722583656fc88c4 / 90f9e003d393865f (different)
Bloom filters: 180 and 159 bits set of 1000; Dice 0.844
Appariement sur des valeurs brutes, hachées et encodées, mesuré sur le jeu de test des enregistrements synthétiques. L'axe commence à 0,7.
Description textuelle du graphique

Un diagramme à colonnes du F1, sur un axe de 0,7 à 0,92. rules (valeurs brutes) : 0,79. hashed-rules : 0,79, le même résultat. lgbm (valeurs brutes) : 0,902. bloom-lgbm (valeurs encodées seulement) : 0,859.

Sur les valeurs encodées seulement, LightGBM atteint un F1 de 0,859, contre 0,902 sur les valeurs brutes. La précision reste presque la même (0,913 contre 0,918). Le rappel passe de 0,886 à 0,812. Le vecteur encodé compte 7 champs plutôt que 16 : aucun code phonétique, aucune ville, aucune date inversée. Il dépasse tout de même les règles (0,79) et Splink (0,797) sur les valeurs brutes.

La faiblesse : des valeurs égales donnent des rangées égales

Section intitulée « La faiblesse : des valeurs égales donnent des rangées égales »

Regardez de nouveau la fin de la sortie. L’attaquant possède les noms de famille encodés des enregistrements du magasin et de la jardinerie, mais aucune clé. Il compte les rangées. La rangée la plus fréquente apparaît 1 665 fois. Il suppose qu’elle représente le nom de famille le plus courant d’une liste publique. Ici, le cours utilise les noms de famille des membres du programme de fidélité comme liste.

C’est une attaque par fréquence. Elle exige seulement de compter. Sur les enregistrements synthétiques de Larkfield, elle a deviné correctement 4 des 5 noms de famille les plus courants. Elle en a deviné 5 parmi les 10 premiers. Les suppositions erronées concernent des noms de fréquence presque égale, comme Taylor et Wilson. Avec une meilleure liste publique, l’attaquant ferait mieux.

Des méthodes connues permettent de compliquer l’attaque. Nous les nommons ici, mais nous ne les avons pas mesurées :

  • Regrouper plusieurs champs dans un seul filtre par enregistrement, pour qu’une rangée ne représente pas un seul nom de famille.
  • Ajouter une valeur aléatoire par paire de propriétaires de données et changer souvent la clé.
  • Confier la comparaison à un tiers qui ne voit aucune des deux listes brutes.

Aucune de ces méthodes ne rend les enregistrements encodés anonymes. Considérez les filtres de Bloom comme un moyen de partager moins, pas de rendre les données non personnelles.

Erreur courante

« Le hachage garantit la confidentialité »

Symptôme : TermeTomásL’ingénieur en IA de Larkfield. Il propose souvent un raccourci rapide, et la leçon montre pourquoi il échoue. envoie à un partenaire les courriels hachés et les noms encodés par filtre de Bloom de tous les clients de Larkfield. « Ils ne peuvent rien lire », dit-il. Le partenaire compte les noms de famille encodés et devine 4 des 5 plus courants, sans aucune clé. Avec un nom de famille deviné, le partenaire peut tester d’autres suppositions : prénoms souvent associés, villes, années de naissance.

Cause : le hachage et l’encodage par filtre de Bloom gardent égales les valeurs égales. C’est pourquoi l’appariement fonctionne encore. C’est aussi pourquoi les fréquences et les valeurs rares ou faciles à deviner restent exposées.

Solution : partagez le moins de champs possible. Ne donnez pas la clé à la partie qui compare. Préférez un filtre par enregistrement à un filtre par champ. Rédigez une révision de confidentialité qui nomme l’attaque et le risque restant. Traitez les données encodées comme des données personnelles.

Conséquence dans le travail en IA : la même erreur survient avec les plongements (embeddings) et les journaux (logs) « anonymisés ». Un vecteur ou un code n’est pas anonyme quand des entrées égales donnent des sorties égales. Il ne l’est pas non plus quand des entrées similaires restent proches.

Valérie Tremblay demande à Larkfield de supprimer son compte de magasin, S-009232. Ses enregistrements du programme de fidélité et de la jardinerie restent. Mais S-009232 fait partie de l’entité LK-G-000001, et sa fiche de référence en tire le nom.

Les sorties ci-dessous proviennent d’une exécution sans l’annulation d’exercice de Annuler une fusion. Si vous avez fait cette annulation, S-009232 est déjà seul dans LK-S-009232. Alors, match forget indique « Removed S-009232 from LK-S-009232; 0 record(s) left in it » (S-009232 supprimé de LK-S-009232; aucun enregistrement restant). La fiche de référence de LK-G-000001 est la même que ci-dessous.

Fenêtre de terminal
match forget S-009232
Removed S-009232 from LK-G-000001; 2 record(s) left in it; its golden record now uses only them.
Kept: the record ID in outputs/forgotten.csv and the event in the history, with no personal data.
Not done here: deleting the record from the course data files and from backups (a real system must).
Fenêtre de terminal
match golden --show LK-G-000001
LK-G-000001: 2 records from garden,loyalty
name valerie tremblay from L-010072
email tremblay.valerie88@example.net from L-010072
phone 5145558296 from L-010072
address 6760 rue des herons, st eloi du lac QC from G-000001
postcode H6P3H7 from G-000001
dob 1975-01-31 from L-010072
G-000001 TREMBLAY, VAL | tremblay.valerie88@example.net | 5145558296 | 6760, r. des Hérons, Saint-Éloi-du-Lac QC H6P3H7
L-010072 Valérie Tremblay | tremblay.valerie88@example.net | 5145558296 | H6P 3H7

Avant la demande, la fiche de référence tirait son nom de S-009232. Maintenant, elle le tire de L-010072. L’entité conserve son identifiant, donc les autres systèmes la trouvent encore. L’historique conserve seulement l’identifiant de l’enregistrement et l’événement.

La prochaine exécution nocturne ne doit pas ramener l’enregistrement. match golden lit outputs/forgotten.csv et exclut ces enregistrements :

Fenêtre de terminal
match golden
38,908 entities from 60,107 records (16,513 with more than one record); 0 with two dates of birth
Left out 1 record(s) of outputs/forgotten.csv
Saved outputs/entities.csv and outputs/golden.csv

60 107 enregistrements : les enregistrements du cours sans S-009232. match golden --show LK-G-000001 affiche encore deux enregistrements. Comme chaque exécution de match golden, elle construit les entités à partir des liens du modèle sur les enregistrements du cours seulement. Les enregistrements quotidiens de la semaine n’y figurent donc pas, comme l’explique De nouveaux enregistrements chaque jour.

Une suppression sur une entité fusionnée exige plus que de supprimer une ligne :

  • Chaque copie. L’enregistrement source, les enregistrements préparés, les paires candidates, les étiquettes de révision, les données d’entraînement du modèle, les sauvegardes. Dans ce projet, match forget modifie les entités et conserve l’identifiant dans outputs/forgotten.csv. Les exécutions suivantes excluent donc l’enregistrement. Les fichiers de données du cours contiennent encore S-009232. Un vrai système supprime aussi la source et vérifie que les exécutions suivantes ne la restaurent pas.
  • La fiche de référence. Il faut la reconstruire à partir des enregistrements restants, comme ici.
  • Les autres personnes. Si l’enregistrement supprimé était le seul lien entre deux autres, il peut être nécessaire de scinder leur entité.

Le cours sur la sécurité de l’IA explique comment trouver et supprimer les données personnelles dans un vrai système. Consultez Trouver et masquer les données personnelles avant qu’elles atteignent un modèle. Le cours sur le RAG traite les suppressions dans un index de recherche dans Mises à jour et suppressions.

Quand utiliser l’appariement encodé et ce qu’il coûte

Section intitulée « Quand utiliser l’appariement encodé et ce qu’il coûte »
  • Utilisez des valeurs hachées quand deux parties ont seulement besoin de correspondances exactes sur des champs difficiles à deviner, comme un courriel. Avec les règles de Larkfield, rien n’a été perdu.
  • Utilisez des filtres de Bloom pour l’appariement approximatif sans partager les valeurs brutes. Ici, le coût était de 0,043 de F1, surtout en rappel.
  • Ne dites jamais que les données sont anonymes. Une attaque par fréquence a deviné 4 des 5 noms de famille les plus courants en comptant.
  • Utilisez d’abord moins de champs. C’est la protection la moins coûteuse. Mesurez ce que chaque champ ajoute, comme ci-dessus.
  • Planifiez les suppressions avant la première fusion. Conservez seulement les identifiants dans l’historique et connaissez chaque endroit où va un enregistrement.

Vérifiez votre compréhension

Les règles sur les valeurs hachées atteignent exactement le même F1 que celles sur les valeurs brutes (0,790). Pourquoi le hachage n'aide-t-il pas LightGBM de la même façon?

Afficher la réponse

Les règles demandent seulement si deux valeurs sont égales. Des valeurs égales donnent des hachages égaux. LightGBM utilise des similarités : Jaro–Winkler des noms, codes phonétiques, mots en commun. Un hachage détruit la similarité : « theriault » et « theriaul » reçoivent des codes complètement différents. Un modèle sur les hachages voit donc seulement « égal » ou « non égal ». Les filtres de Bloom conservent une similarité (Dice), et LightGBM a atteint un F1 de 0,859 avec eux.

Vérifiez votre compréhension

Deux filtres de Bloom ont 18 et 20 bits activés, dont 16 en commun. Quel est leur coefficient de Dice?

Afficher la réponse

Dice = 2 × 16 ÷ (18 + 20) = 32 ÷ 38 ≈ 0,842. C’est proche du Dice de « theriault » et « theriaul » avec les filtres du projet (0,844) : des valeurs très similaires.

Vérifiez votre compréhension

Une cliente demande à Larkfield de supprimer un de ses trois enregistrements. Nommez trois endroits, autres que la liste d'entités, où cet enregistrement doit aussi disparaître.

Afficher la réponse

Par exemple : le fichier source d’où il provient. Ici, ce sont les données du cours, pour que match golden ne le ramène pas. Les enregistrements préparés et les paires candidates enregistrées dans outputs/. Les étiquettes de révision et toutes les données d’entraînement qui le contiennent. Les sauvegardes. Vérifiez aussi la fiche de référence : il faut la reconstruire à partir des autres enregistrements. Si l’enregistrement était le seul lien entre deux autres, il peut être nécessaire de scinder l’entité.

Récapitulatif

  • Chaque champ que l’apparieur lit contient des données personnelles. Utilisez moins de champs : sans la date de naissance, le F1 est passé seulement de 0,902 à 0,864.
  • Les hachages avec clé préservent l’appariement exact : les règles sur les valeurs hachées égalent celles sur les valeurs brutes (F1 0,79). Ils détruisent la similarité.
  • Les filtres de Bloom conservent une similarité approximative (Dice). LightGBM sur les valeurs encodées seulement a atteint un F1 de 0,859, contre 0,902 sur les valeurs brutes.
  • Des valeurs égales donnent des codes égaux. Une attaque par fréquence a deviné 4 des 5 noms de famille les plus courants sans la clé. Les données encodées restent des données personnelles.
  • Une demande de suppression sur une entité fusionnée touche chaque copie de l’enregistrement. Elle reconstruit la fiche de référence et conserve seulement les identifiants dans l’historique.

Le module 8 est terminé, ainsi que les modules d’enseignement. Les études de cas du module 9 appliquent tout le cours à de vraies données ouvertes. Choisissez-en une : au moins une est nécessaire pour le certificat.

Leçon suivante : Apparier des produits entre deux boutiques