Aller au contenu
English

Les cotes z, et pourquoi la moyenne se fait tromper

  • Leçon 5
  • 30 min
  • Module 2 : Des références de base simples et difficiles à battre

Où nous en sommes

Nous avons les données de Larkfield et un tableau comparatif vide. Avant tout modèle, posons la question la plus simple : à quelle distance ce paiement se trouve-t-il du paiement habituel? Dans cette leçon, nous mesurons cette distance avec une cote z (*z-score*). Nous voyons aussi comment un paiement énorme déplace la moyenne et masque le prochain paiement étrange.

Lue depuis YouTube. Rien ne se charge depuis YouTube avant que vous appuyiez sur lecture. Confidentialité
Leçon 5 sur 38 · Détection d'anomalies : trouver ce qui est inhabituelLes cotes z, et pourquoi la moyenne se fait tromper
Aperçu du cours

Ce que vous saurez faire

Transformez « ce paiement est loin du montant habituel » en un nombre, la cote z. Voyez ensuite son point faible : une valeur énorme déplace la moyenne et l’écart-type. Le prochain paiement étrange se cache derrière eux.

Carnet JupyterFaites cette leçon dans un carnet JupyterColab · Kaggle · GitHub · en anglais

Le carnet (notebook) Jupyter contient toutes les cellules de code, les tâches et les vérifications de cette leçon. Ses cellules de préparation installent pandas, NumPy, SciPy, scikit-learn et matplotlib, puis téléchargent les paiements (environ 7 Mo). Environ 25 minutes.

Le carnet est en anglais. Colab et Kaggle ouvrent votre propre copie. Il faut un compte Google ou Kaggle gratuit. Vous êtes bloqué ? Consultez le carnet de solution.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 30 minutes

Ce que vous devez savoir

Ce qu’il vous faut sur votre ordinateur

La même chose que dans Découvrir les données de Larkfield : Colab ou Kaggle dans un navigateur, ou Python 3.12 avec un environnement virtuel et le noyau du carnet. La première cellule du carnet installe le reste.

Testé avec Python 3.12.13 dans Jupyter sur macOS, avec pandas 3.1.1 et NumPy 2.5.4. Colab, Kaggle et Windows n’ont pas été testés.

La propriétaire du café qui connaît la facture habituelle

Section intitulée « La propriétaire du café qui connaît la facture habituelle »

Une propriétaire de café a un client régulier. Chaque matin, il achète un café et un croissant, pour environ 14 dollars. Un matin, la facture est de 60 dollars. La propriétaire le remarque aussitôt. Elle n’a pas besoin d’une règle. Elle connaît la facture habituelle et sa variation habituelle : un dollar ou deux.

Deux choses attirent son attention. La première est la valeur habituelle : environ 14 dollars. La seconde est la variation habituelle : un ou deux dollars. Une facture de 60 dollars dépasse d’environ 46 dollars le montant habituel. Comparé à une variation d’un ou deux dollars, c’est énorme.

Larkfield traite environ 1 875 paiements par jour. Personne ne peut connaître chaque client comme le fait la propriétaire du café. Il faut donc transformer ses deux idées en nombres qu’un ordinateur peut calculer pour chaque paiement.

La moyenne se calcule ainsi : additionnez les valeurs, puis divisez par leur nombre. L’écart-type est la taille habituelle des différences par rapport à la moyenne. Un petit écart-type signifie que les valeurs restent proches les unes des autres.

La cote z d’une nouvelle valeur combine les deux :

z = (valeur − moyenne) ÷ écart-type

Elle indique à combien d’écarts-types la valeur se trouve de la moyenne. Une cote z de 0 correspond exactement à la moyenne. Une cote z de 2 se trouve deux pas habituels au-dessus. Une cote z négative se trouve sous la moyenne. Beaucoup d’équipes appellent une valeur dont la cote z dépasse 3, ou est inférieure à −3, une valeur aberrante : une valeur loin des autres. La taille de z, sans son signe, s’écrit |z|.

Les livres de statistiques représentent la distribution normale standard par la lettre Z, d’où le nom de cette cote. L’idée reste le jugement de la propriétaire du café, écrit sous forme de division.

Voici les sept derniers paiements du client du café, en dollars. Le tableau montre aussi chaque étape du calcul de l’écart-type.

Paiement Montant Différence par rapport à la moyenne (14,14) Différence au carré
1 12,00 −2,14 4,59
2 15,00 0,86 0,73
3 14,00 −0,14 0,02
4 13,00 −1,14 1,31
5 16,00 1,86 3,45
6 15,00 0,86 0,73
7 14,00 −0,14 0,02
Moyenne 14,14 Somme 10,86

Divisez la somme des carrés par 6 (un de moins que les 7 paiements) : 10,86 ÷ 6 = 1,81. La racine carrée de 1,81 est 1,35. L’écart-type est donc de 1,35 dollar.

Passons au nouveau paiement de 60 dollars : (60 − 14,14) ÷ 1,35 = 34,0. Avec les valeurs non arrondies, le carnet affiche 34,1. Le nouveau paiement se trouve 34 écarts-types au-dessus de la moyenne. Comme la propriétaire du café, la cote z dit : très loin du montant habituel.

  1. Ouvrez le carnet depuis l’encadré Faites cette leçon dans un carnet Jupyter en haut de cette page.
  2. Exécutez les trois cellules de préparation. La deuxième se termine par Ready: payments.csv.gz (6.9 MB), sealed-key.txt (0.0 MB) (prêt : les fichiers sont disponibles).
  3. Exécutez la première cellule de la section 1.
  4. Comparez sa sortie avec celle ci-dessous.
usual = [12.0, 15.0, 14.0, 13.0, 16.0, 15.0, 14.0] # one customer's last seven payments, in dollars
new_payment = 60.0
mean = np.mean(usual)
std = np.std(usual, ddof=1)
z = (new_payment - mean) / std
print(f"mean {mean:.2f}, standard deviation {std:.2f}, z-score of {new_payment:.0f} dollars: {z:.1f}")
mean 14.14, standard deviation 1.35, z-score of 60 dollars: 34.1

ddof=1 indique à NumPy de diviser par 6, et non par 7, comme dans le tableau. C’est le choix habituel quand les valeurs forment un échantillon des habitudes d’un client.

Changeons maintenant une seule chose. Avant le paiement de 60 dollars, un paiement énorme de 900 dollars entre dans l’historique du client. C’est peut-être un cadeau de mariage. C’est peut-être un voleur qui utilise la carte du client. Puis le même paiement de 60 dollars arrive.

Avant d’exécuter la cellule suivante, faites une prédiction : la cote z du paiement de 60 dollars dépasse-t-elle encore 3?

with_huge = usual + [900.0] # one huge payment joins the history
mean2 = np.mean(with_huge)
std2 = np.std(with_huge, ddof=1)
z2 = (new_payment - mean2) / std2
print(f"mean {mean2:.2f}, standard deviation {std2:.2f}, z-score of {new_payment:.0f} dollars: {z2:.2f}")
mean 124.88, standard deviation 313.20, z-score of 60 dollars: -0.21

La cote z est maintenant de −0,21. Le paiement de 60 dollars semble tout à fait normal, même un peu inférieur au paiement habituel. Rien n’a changé dans le paiement de 60 dollars. Seul l’historique a changé :

Deux droites numériques. En haut, de 0 à 70 dollars : sept points gris entre 12 et 16, la moyenne à 14,14, une étroite bande ombrée de 10,09 à 18,19 (moyenne plus ou moins 3 écarts-types), et un point bleu à 60, loin hors de la bande : z = 34,1. En bas, de 0 à 1 000 dollars, après un paiement de 900 dollars : les points gris sont serrés près de 14, un point gris se trouve à 900, la moyenne est à 124,88, et la bande ombrée de moins 814,72 à 1 064,48 couvre toute la droite. Le point bleu à 60 est à l'intérieur : z = moins 0,21, il semble normal.
Le même paiement de 60 dollars, avant et après l'ajout d'un paiement de 900 dollars à l'historique (un exemple construit). La moyenne passe de 14,14 à 124,88, l'écart-type de 1,35 à 313,20, et la bande des valeurs habituelles englobe le paiement de 60 dollars.
Description textuelle du diagramme

Le diagramme comporte deux droites numériques. Celle du haut va de 0 à 70 dollars. Elle montre les sept paiements habituels par des points gris entre 12 et 16 dollars, et la moyenne à 14,14. Une étroite bande ombrée montre la moyenne plus ou moins trois écarts-types : de 10,09 à 18,19 dollars. Le nouveau paiement de 60 dollars est un point bleu loin à droite de la bande. Sa cote z est de 34,1. La droite numérique du bas va de 0 à 1 000 dollars, car l’historique contient maintenant un paiement de 900 dollars. Les sept paiements habituels sont serrés près de 14. La moyenne se trouve à 124,88. La bande ombrée va maintenant de −814,72 à 1 064,48 dollars et couvre toute la droite. Le point bleu à 60 est dans la bande. Sa cote z est de −0,21.

Une valeur a déplacé la moyenne de presque 111 dollars et multiplié l’écart-type par 232. Les deux utilisent la taille de chaque valeur, donc une valeur extrême les déplace beaucoup. Les statisticiens disent que la moyenne et l’écart-type ne sont pas robustes. C’est le point faible de la cote z, que la prochaine leçon corrige.

Pourquoi est-ce important pour la fraude? Un voleur effectue souvent un gros paiement en premier. Si ce paiement entre dans l’historique du client, les paiements suivants semblent normaux. La première fraude masque la deuxième.

Appliquons maintenant la même idée aux données réelles. Le détecteur apprend une moyenne et un écart-type à partir des mois de référence, de juin à août 2025. Il attribue ensuite un score à chaque paiement des mois d’évaluation, de septembre à novembre. Chaque jour, l’équipe de Sofia révise les 50 paiements ayant les |z| les plus élevés.

import compare
payments = pd.read_csv("data/payments.csv.gz", parse_dates=["ts"])
reference, evaluation = compare.split(payments)
mean, std = reference.amount.mean(), reference.amount.std()
print(f"reference months: {len(reference):,} payments, mean {mean:.2f}, standard deviation {std:.2f}")
print(f"evaluation months: {len(evaluation):,} payments")
reference months: 173,271 payments, mean 119.36, standard deviation 223.07
evaluation months: 169,803 payments

La cellule suivante attribue à chaque paiement d’évaluation son |z| et ajoute une ligne au tableau comparatif :

z_global = ((evaluation.amount - mean) / std).abs()
table = compare.Table()
table.add(compare.score_payments(evaluation, z_global, "z-score", "|z| of the amount, one baseline for all",
explain_minutes=1))
table.show()
detector setting alerts per day precision at budget recall cost per week ($) explain one alert (min)
z-score |z| of the amount, one baseline for all 50.0 0.003 0.005 10264 1

Une précision au budget de 0,003 signifie que moins d’une des 50 alertes quotidiennes est une fraude insérée. La colonne explain one alert (expliquer une alerte) est une hypothèse : un réviseur prend environ une minute pour lire « ce montant dépasse largement la moyenne du magasin ».

Pourquoi un si mauvais résultat? Chaque paiement est comparé ici à une seule référence de base pour tout le magasin. Les |z| les plus élevés correspondent aux plus gros montants. Pendant les mois d’évaluation, les 4 550 alertes révisées étaient des paiements de clients d’affaires d’au moins 478,28 dollars. Ce sont les mêmes 50 paiements par jour que ceux du détecteur des « plus gros montants » de Découvrir les données de Larkfield. Même 50 paiements choisis au hasard par jour ont trouvé plus de fraudes (0,019).

Le graphique compare les montants des paiements honnêtes et insérés pendant les mois d’évaluation. Chaque courbe montre la part de son propre groupe dans chaque plage de montants.

  • Paiements honnêtes
  • Fraudes insérées
  • z = 3 : 789 dollars
Montants pendant les mois d'évaluation. La plupart des fraudes insérées sont petites : leur médiane est de 14,31 dollars, contre 42,20 pour les paiements honnêtes. Seuls 10 des 2 817 paiements insérés dépassent 789 dollars, où commence z = 3.
Description textuelle du graphique

Le graphique comporte deux courbes sur une échelle logarithmique des montants, de 1 à 10 000 dollars. Chaque point représente la part de son groupe dans une plage de montants. La courbe des paiements honnêtes atteint un sommet d’environ 21 % entre 25 et 40 dollars. Elle descend ensuite lentement, jusqu’à presque rien au-dessus d’environ 2 500 dollars. La courbe des paiements insérés est déjà élevée entre 1 et 6 dollars, là où se trouvent les tests de cartes, avec jusqu’à 11 %. Elle reste entre 6 % et 15 % jusqu’à environ 60 dollars, puis descend sous 2 %. Une ligne verticale en tirets à 789 dollars montre où commence z = 3. Presque aucun paiement inséré ne se trouve à sa droite : 10 sur 2 817. Pendant les mois d’évaluation, 87,4 % des paiements insérés sont inférieurs à 50 dollars.

L’image explique la ligne du tableau. La plupart des fraudes sont de petits paiements : tests de cartes de quelques dollars et cartes volées utilisées pour des paniers d’apparence ordinaire. Un gros montant est inhabituel pour le magasin, mais une fraude est inhabituelle pour son client. La cliente C-01234 de la première leçon est un bon exemple. Ses huit paiements au Portugal ont un |z| global d’au plus 0,47.

Donnez donc à chaque client sa propre moyenne et son propre écart-type, appris à partir de ses paiements de référence. Un client ayant moins de 5 paiements de référence conserve la référence de base du magasin : les données sont insuffisantes.

Avant d’exécuter la cellule, prédisez la précision au budget de la cote z par client.

stats = reference.groupby("customer_id").amount.agg(["count", "mean", "std"])
known = evaluation.customer_id.map(stats["count"]).fillna(0) >= 5 # at least 5 payments to learn from
c_mean = evaluation.customer_id.map(stats["mean"]).where(known, mean)
c_std = evaluation.customer_id.map(stats["std"]).where(known, std)
z_customer = ((evaluation.amount - c_mean) / c_std).abs()
row = table.add(compare.score_payments(evaluation, z_customer, "z-score per customer",
"|z| against the customer's own mean (5+ payments)", explain_minutes=1))
table.show()
print("customers with 5 or more reference payments:", int((stats["count"] >= 5).sum()))
detector setting alerts per day precision at budget recall cost per week ($) explain one alert (min)
z-score |z| of the amount, one baseline for all 50.0 0.003 0.005 10264 1
z-score per customer |z| against the customer's own mean (5+ payments) 50.0 0.045 0.072 9047 1
customers with 5 or more reference payments: 12276

La précision passe de 0,003 à 0,045 : 15 fois mieux. Environ 2 des 50 alertes quotidiennes sont maintenant des fraudes insérées, et le coût baisse d’environ 1 200 dollars par semaine. La question est passée de « gros pour le magasin » à « gros pour ce client ». Ce changement compte plus que la formule.

Le résultat reste faible, pour deux raisons. Premièrement, un paiement énorme dans le passé trompe aussi la moyenne du client, comme dans le petit exemple. Deuxièmement, beaucoup de fraudes n’ont rien à voir avec le montant. Une carte volée utilisée pour des paniers de 20 dollars présente un montant ordinaire. Les deux prochaines leçons corrigent chacune une de ces raisons.

Changez une chose : une limite fixe au lieu du budget

Section intitulée « Changez une chose : une limite fixe au lieu du budget »

L’habitude « alerter quand |z| > 3 » est courante. Que se passe-t-il si le détecteur envoie chaque paiement dont le |z| global dépasse 3, plutôt que les 50 premiers?

flags = (z_global > 3).astype(int)
row3 = compare.score_payments(evaluation, flags, "z-score above 3", "every payment with |z| > 3", threshold=1,
explain_minutes=1)
print(f"alerts per day with |z| > 3: {row3['alerts per day']}, precision of the 50 reviewed: {row3['precision at budget']}")
alerts per day with |z| > 3: 33.9, precision of the 50 reviewed: 0.003

La limite envoie 33,9 alertes par jour, moins que ce que l’équipe peut réviser. La précision ne change pas : les alertes correspondent toujours aux plus gros montants. Une limite décide combien d’alertes vous recevez, pas quelles fraudes vous trouvez. Et 3 est une habitude, pas une loi : avec ces données, z = 3 correspond à 789 dollars, bien au-dessus de la plupart des fraudes. Le paiement qui ne cadrait pas expliquait pourquoi le cours révise les 50 premiers paiements par jour. Le module 7 fixe volontairement le seuil à partir du budget.

La section 6 du carnet contient trois tâches. Chacune a une cellule de vérification qui affiche « Check passed » (vérification réussie) ou « Not yet » (pas encore).

  1. Écrivez la cote z du paiement de 60 dollars après le paiement énorme, dans z_after.
  2. Comptez combien de paiements d’évaluation par jour ont un |z| global supérieur à 4. Écrivez le résultat dans alerts_per_day_above_4.
  3. Utilisez seulement le côté supérieur de la cote z par client : gardez le signe et remplacez chaque valeur négative par 0. Conservez la ligne dans up_row. Est-ce mieux que |z|?
Afficher les réponses
  1. z_after = -0.21, la valeur de la deuxième cellule.
  2. round(float((z_global > 4).sum() / evaluation.ts.dt.floor("D").nunique()), 1) donne 18,0 alertes par jour. À z = 4, la limite est de 1 011,65 dollars.
  3. up_only = ((evaluation.amount - c_mean) / c_std).clip(lower=0), puis compare.score_payments(evaluation, up_only, ...). Sa précision au budget est de 0,024, pire que |z| (0,045). Beaucoup de fraudes sont de petits paiements, sous le montant habituel du client. Le côté supérieur seul ne les repère donc pas.

Erreur courante

Un client qui paie toujours le même montant

Symptôme : quelques paiements obtiennent une cote z de inf (infini), et NumPy affiche RuntimeWarning: divide by zero (avertissement à l’exécution : division par zéro). Dans une colonne pandas, les valeurs inf se classent en premier. Elles prennent des places parmi les 50 alertes quotidiennes et sont rarement des fraudes.

Cause : un client qui a toujours payé 20 dollars a un écart-type de 0. La cote z divise par 0. Le carnet le montre dans la section 5 :

same = [20.0, 20.0, 20.0, 20.0, 20.0] # a customer who always pays the same amount
z_bad = (25.0 - np.mean(same)) / np.std(same, ddof=1)
print("z-score of 25 dollars:", z_bad)
z-score of 25 dollars: inf

Solution : donnez à la dispersion un minimum, par exemple 1 dollar :

z_fixed = (25.0 - np.mean(same)) / max(np.std(same, ddof=1), 1.0) # a floor of 1 dollar for the spread
print("z-score of 25 dollars, with a floor:", z_fixed)
z-score of 25 dollars, with a floor: 5.0

Conséquence pour le travail en IA : un score qui divise par une dispersion a besoin d’un minimum pour cette dispersion. Sinon, quelques clients aux habitudes parfaitement régulières remplissent le budget de révision d’alertes qui ne signifient rien.

Utilisez-la quand les valeurs ont un centre clair et aucune valeur extrême dans l’historique. Les mesures de capteurs et les comptes quotidiens pendant une période stable sont de bons exemples.
Ne l’utilisez pas quand l’historique peut contenir des valeurs extrêmes, ou quand une référence de base couvre des groupes différents, comme les particuliers et les clients d’affaires.
Ce qu’elle coûte presque rien à calculer et une minute à expliquer. Son prix réside dans ce qu’elle manque.

Le tableau comparatif jusqu’ici :

Détecteur Réglage Précision au budget Rappel Coût par semaine ($)
aucun détecteur rien n’est révisé 0,0 0,0 10 367
cote z |z| du montant, une référence de base pour tous 0,003 0,005 10 264
cote z par client |z| par rapport à la moyenne du client 0,045 0,072 9 047

Vérifiez votre compréhension

Les paiements d'un client ont une moyenne de 40 dollars et un écart-type de 5 dollars. Quelle est la cote z d'un paiement de 60 dollars? Et de 30 dollars? Lequel est une valeur aberrante selon l'habitude « |z| supérieur à 3 »?

Afficher la réponse

60 dollars : (60 − 40) ÷ 5 = 4,0. 30 dollars : (30 − 40) ÷ 5 = −2,0. Seul le paiement de 60 dollars dépasse la limite habituelle de 3. Le paiement de 30 dollars se situe à 2 écarts-types sous la moyenne. Cette habitude le considère donc comme normal.

Vérifiez votre compréhension

Prédisez et expliquez : un énorme paiement s'ajoute à l'historique d'un client. Que deviennent la moyenne, l'écart-type et la cote z du prochain paiement inhabituel? Utilisez les nombres du petit exemple.

Afficher la réponse

La moyenne se rapproche de l’énorme valeur : elle passe de 14,14 à 124,88 dollars. L’écart-type augmente beaucoup : il passe de 1,35 à 313,20. La cote z du prochain paiement de 60 dollars passe de 34,1 à −0,21. Ce paiement semble donc normal. La moyenne et l’écart-type tiennent compte de la grandeur de chaque valeur. Une seule valeur extrême les déplace donc beaucoup. Ils ne sont pas robustes.

Vérifiez votre compréhension

En pratique : la cote z globale donne une précision au budget de 0,003 pendant les mois d'évaluation de Larkfield. La cote z par client donne 0,045. Expliquez cette différence et donnez une raison pour laquelle 0,045 reste faible.

Afficher la réponse

Avec une seule référence de base pour toute la boutique, les plus grands |z| correspondent aux montants les plus élevés. Ce sont des commandes d’entreprises, qui sont honnêtes. Avec une référence de base par client, le score demande : « Est-ce inhabituel pour ce client? » Cela correspond mieux à la façon dont la fraude se présente. La précision reste faible parce que beaucoup de fraudes portent sur de petits montants ordinaires (cartes volées, tests de cartes). Un score fondé uniquement sur le montant ne peut donc pas les repérer. Et un énorme paiement passé peut encore tromper la moyenne du client.

Récapitulatif

  • Une cote z (z-score) mesure la distance à la moyenne en écarts-types : (valeur − moyenne) ÷ écart-type.
  • La moyenne et l’écart-type ne sont pas robustes. Un paiement de 900 dollars a fait passer la cote z d’un paiement de 60 dollars de 34,1 à −0,21.
  • Une seule référence de base pour toute la boutique n’a presque rien trouvé (0,003) : les montants les plus élevés sont des commandes d’entreprises. Une référence de base par client a donné un meilleur résultat (0,045).
  • « |z| > 3 » est une habitude. Une limite fixe change le nombre d’alertes reçues, pas les fraudes trouvées.
  • Une mesure de dispersion peut valoir 0. Donnez-lui une valeur minimale.

Vous pouvez maintenant attribuer un score à un paiement en le comparant au montant habituel de son client. Mais une seule valeur extrême dans l’historique trompe encore la moyenne. Ensuite, vous la remplacerez par un centre et une dispersion qu’une seule valeur ne peut pas déplacer : la médiane et la MAD.

Leçon suivante : Médiane, MAD et IQR