SVM à une classe et boîte à outils PyOD
- Leçon 18
- 35 min
- Module 4 : Distance, densité et isolement
Où nous en sommes
Nous avons trois détecteurs avec trois interfaces différentes. Une équipe veut en essayer plusieurs et les combiner. Dans cette leçon, nous apprenons une frontière autour des données normales avec un SVM à une classe. Nous exécutons plusieurs détecteurs avec une interface PyOD unique et voyons pourquoi un score combiné est souvent plus stable.
Leçon 18 sur 38 · Détection d'anomalies : trouver ce qui est inhabituelSVM à une classe et boîte à outils PyOD
1. Ce que « inhabituel » veut dire
2. Des références de base simples et difficiles à battre
3. Maîtrise statistique des procédés et dérive de distribution
- Cartes de contrôle : cette variation est-elle normale?
- Règles pour les motifs, et le prix de chaque règle
- Cartes pour les taux et les dénombrements
- Petits décalages durables : CUSUM et EWMA
- La distribution a-t-elle changé?
- Dérive dans de nombreuses variables, et quoi faire
- Loi de Benford et autres vérifications d'affaires
4. Distance, densité et isolement
5. Les anomalies dans le temps
6. Méthodes profondes et plongements
7. Évaluer avec peu d'étiquettes
8. Apprendre des réviseurs
9. Exploiter un détecteur en production
Ce que vous saurez faire
Exécutez plusieurs détecteurs avec une seule interface pour essayer une nouvelle méthode avec une seule ligne de code. Ensuite, combinez leurs scores de façon sûre. Une combinaison vous protège contre le choix du mauvais détecteur, mais un mauvais membre peut la ruiner.
Carnet JupyterFaites cette leçon dans un carnet Jupyter
Le carnet (notebook) Jupyter contient toutes les cellules de code, tâches et vérifications de cette leçon, avec les consignes. Ses cellules de préparation installent pandas, NumPy, SciPy, scikit-learn, matplotlib et PyOD, et téléchargent les paiements (environ 7 Mo). Le carnet complet s’exécute en environ une minute.
Le carnet est en anglais. Colab et Kaggle ouvrent votre propre copie. Il faut un compte Google ou Kaggle gratuit. Vous êtes bloqué ? Consultez le carnet de solution.
Avant de commencerCe qu’il faut savoir et avoir sous la main
Ce que vous devez savoir
- La distance aux k plus proches voisins (kNN), le LOF (facteur local d’aberrance) et Isolation Forest (forêt d’isolement). Ils viennent des trois premières leçons de ce module : Loin des voisins : la distance kNN, Densité locale : LOF et Isolation Forest.
- Le contexte semi-supervisé (apprendre à partir de données que vous jugez normales), présenté dans Les étiquettes sont rares, et cela change tout.
Ce qu’il vous faut sur votre ordinateur
Un navigateur et un compte Google gratuit (Colab) ou un compte Kaggle. Rien à installer. La cellule de préparation installe PyOD 3.6.7. Cette installation ajoute aussi numba, un outil qui accélère une partie de son code.
Testé avec Python 3.12.13 dans Jupyter sur macOS, avec PyOD 3.6.7 et scikit-learn 1.9.1. Colab, Kaggle et Windows n’ont pas été testés.
Une clôture autour du champ
Section intitulée « Une clôture autour du champ »Un fermier garde des moutons dans un grand champ sans clôture. Pendant l’été, il observe où les moutons broutent habituellement. Ensuite, il construit une clôture autour de cette zone. Elle ne forme pas un carré, mais une ligne lisse qui suit la forme de leurs déplacements. Maintenant, un mouton à l’extérieur de la clôture mérite son attention.
Remarquez deux choses. D’abord, le fermier n’a jamais eu besoin de voir un mouton perdu pour construire la clôture. Il a seulement observé le comportement normal. Ensuite, il a choisi à quel point la clôture serait serrée. Une clôture large contient tous les moutons qui se sont déjà un peu éloignés. Une clôture serrée laisse quelques moutons normaux dehors, mais elle repère plus vite un mouton perdu.
Le problème : trois détecteurs, trois interfaces, un choix
Section intitulée « Le problème : trois détecteurs, trois interfaces, un choix »Après trois leçons, Priya a trois détecteurs. Chacun a son propre code :
- La distance aux k plus proches voisins utilisait
NearestNeighborsetkneighbors, et prenait la dernière colonne. - LOF utilisait
LocalOutlierFactoravecnovelty=Trueet inversait le signe descore_samples. - Isolation Forest utilisait
IsolationForestet inversait aussi le signe descore_samples.
Chaque nouvelle méthode demande du nouveau code et crée de nouvelles occasions de se tromper sur le signe d’un score. Et Priya doit choisir un détecteur avant de savoir lequel convient le mieux aux fraudes du mois prochain. Tomás demande : « Pourquoi ne pas tous les exécuter et les combiner? Quatre détecteurs doivent bien en trouver plus qu’un seul. »
Cette leçon répond aux deux problèmes : une interface unique pour tous les détecteurs, et un test honnête de leur combinaison.
L’idée : une frontière autour des données normales
Section intitulée « L’idée : une frontière autour des données normales »Un SVM à une classe (One-Class SVM) est la clôture du fermier. Il apprend uniquement à partir de données normales et trace une frontière lisse autour d’elles. Un nouveau point à l’intérieur de la frontière est normal; un point à l’extérieur est inhabituel. « Une classe », parce qu’il apprend un seul type de données : les données normales. SVM signifie support vector machine, ou machine à vecteurs de support, une méthode classique qui trace des frontières. La frontière repose sur quelques points d’entraînement à son bord, les vecteurs de support.
C’est le contexte semi-supervisé du module 1. Vous entraînez le modèle sur des données que vous jugez surtout normales, ici les mois de référence.
La clôture peut suivre la forme des données grâce à un noyau. Le noyau habituel est RBF (fonction de base radiale). Il mesure la ressemblance de deux points selon leur distance. Les points proches se ressemblent beaucoup, contrairement aux points éloignés. Vous n’avez pas besoin de sa formule. Vous devez connaître ses deux paramètres :
- nu (la lettre grecque, prononcée « nu ») est la part des points d’entraînement qui peuvent rester à l’extérieur de la clôture. nu = 0,1 signifie « laisser environ 10 % des points d’entraînement à l’extérieur ».
- gamma détermine jusqu’où s’étend l’influence d’un point d’entraînement. Un grand gamma donne une frontière sinueuse qui suit chaque point de près. Un petit gamma donne une frontière lisse.
Un petit exemple : 60 moutons et 2 égarés
Section intitulée « Un petit exemple : 60 moutons et 2 égarés »Prenez 60 points normaux autour du centre (5, 5) et 2 points étranges, loin du centre. Le SVM à une classe apprend uniquement à partir des 60 points normaux. Voici sa frontière avec deux valeurs de nu :
Description textuelle du diagramme
L’image contient deux panneaux. Chacun montre 60 points gris en nuage autour du centre d’un carré. Deux points bleus se trouvent près des coins supérieurs gauche et droit. Dans le panneau de gauche, nu vaut 0,1. Une frontière large et lisse entoure la plupart des points gris. Le texte indique que 7 des 60 points normaux et les deux points bleus sont à l’extérieur. Dans le panneau de droite, nu vaut 0,3. La frontière est plus serrée et entoure seulement le milieu du nuage. Le texte indique que 17 des 60 points normaux et les deux points bleus sont à l’extérieur.
| nu | Points normaux à l’extérieur (sur 60) | Points étranges à l’extérieur (sur 2) |
|---|---|---|
| 0,02 | 5 | 2 |
| 0,1 | 7 | 2 |
| 0,3 | 17 | 2 |
Avec nu = 0,3, 17 des 60 points normaux (28 %) sont à l’extérieur, près des 30 % permis par nu. Les deux points étranges sont à l’extérieur dans tous les cas. Dans les données réelles, les points étranges sont moins évidents, et une clôture serrée entraîne davantage de fausses alertes. Le cours utilise un petit nu (0,02) et classe les points par score. C’est donc le budget d’alertes, et non nu, qui détermine le nombre d’alertes.
Une interface unique : PyOD
Section intitulée « Une interface unique : PyOD »PyOD (Python Outlier Detection) est une bibliothèque à code source ouvert qui offre plus de 40 détecteurs. Tous utilisent les deux mêmes appels :
fit(X): apprendre à reconnaître les données normales.decision_function(X): attribuer un score aux nouveaux points. Un score plus élevé signifie toujours un point plus inhabituel, pour tous les détecteurs.
Plus besoin d’inverser les signes ni d’écrire du code particulier pour chaque méthode. Priya met les quatre détecteurs de ce module dans une seule boucle :
detectors = { "kNN distance": (KNN(n_neighbors=10, method="largest"), X_ref[sample]), "LOF": (LOF(n_neighbors=35, novelty=True), X_ref[sample]), "Isolation Forest": (IForest(n_estimators=200, random_state=0, n_jobs=-1), X_ref), "One-Class SVM": (OCSVM(kernel="rbf", nu=0.02, gamma="auto"), X_ref[sample[:10_000]]),}for name, (model, train) in detectors.items(): model.fit(train) # the same two calls for every detector scores[name] = model.decision_function(X_ev) # higher = more unusual, for every PyOD detector table.add(compare.score_payments(evaluation, scores[name], name, "behaviour features", explain_minutes=3))Chaque détecteur apprend à partir des données qui lui conviennent. Isolation Forest prend les 173 271 paiements de référence. kNN et LOF prennent l’échantillon de 20 000. Le SVM à une classe en prend 10 000, car son temps d’entraînement augmente vite avec le nombre de lignes. gamma="auto" fixe gamma à 1 divisé par le nombre de variables : 1/8 ici.
- Ouvrez le carnet à partir de l’encadré en haut de cette page. Exécutez les trois cellules de préparation. Vérifiez que la première affiche
pyod 3.6.7. - Exécutez la section 1, le petit exemple. Vérifiez : 7 points normaux à l’extérieur avec nu = 0,1, et 17 avec nu = 0,3.
- Exécutez la cellule qui charge les paiements. Elle affiche
(173271, 8) (169803, 8). - Exécutez la boucle des quatre détecteurs. Cela prend environ 20 secondes. Vérifiez les quatre lignes ci-dessous.
detector setting alerts per day precision at budget recall cost per week ($) explain one alert (min) kNN distance behaviour features 50.0 0.505 0.816 2739 3 LOF behaviour features 50.0 0.082 0.132 9248 3Isolation Forest behaviour features 50.0 0.500 0.808 3218 3 One-Class SVM behaviour features 50.0 0.480 0.776 3145 3Les trois premières lignes donnent les mêmes nombres que dans les leçons précédentes : PyOD exécute les mêmes méthodes. La nouvelle ligne, le SVM à une classe, atteint 0,480, près de la distance aux k plus proches voisins et d’Isolation Forest. Avec les variables brutes, il atteint 0,195 (mesuré).
Combiner les scores
Section intitulée « Combiner les scores »L’idée de Tomás est courante, et elle porte un nom : un ensemble, un groupe de détecteurs dont on combine les scores. Il est souvent plus stable qu’un seul détecteur. Chaque détecteur fait des erreurs différentes, et une moyenne peut en annuler certaines.
Il y a d’abord un problème pratique. Les quatre scores ont des échelles différentes : une distance, un rapport près de 1, un score près de 0,5, une valeur de SVM. Vous ne pouvez pas faire la moyenne d’une distance de 4,9 et d’un rapport de 1,2. Chaque score devient donc d’abord son rang : 0 pour le paiement le plus habituel, 1 pour le plus inhabituel. Ensuite, on fait la moyenne des rangs.
Description textuelle du diagramme
Le diagramme montre un flux de gauche à droite. À gauche, les mêmes variables mises à l’échelle des mois de référence. Des flèches mènent à quatre détecteurs : distance aux k plus proches voisins, LOF, Isolation Forest et SVM à une classe. Chaque détecteur est entraîné, puis attribue des scores aux nouveaux paiements avec decision_function. Les quatre scores entrent dans une boîte : classer chaque score, de 0 pour le plus habituel à 1 pour le plus inhabituel. La boîte suivante calcule la moyenne des rangs pour obtenir un score combiné. La dernière boîte envoie les 50 premiers par jour au tableau comparatif.
Prédisez avant de poursuivre. Trois des quatre détecteurs atteignent environ 0,5; LOF atteint 0,082. Quelle valeur la moyenne des quatre atteindra-t-elle?
Description textuelle du graphique
Un diagramme avec six colonnes. Distance aux k plus proches voisins : 0,505. LOF : 0,082. Isolation Forest : 0,500. SVM à une classe : 0,480. La moyenne des quatre : 0,211. La moyenne des trois, sans LOF : 0,504.
La moyenne des quatre tombe à 0,211, un résultat inférieur à celui de tous les détecteurs sauf LOF. Un mauvais membre a ruiné le groupe. Rappelez-vous la leçon sur LOF : il attribue aux tests de cartes un score normal. Dans la moyenne, le rang faible de LOF fait baisser le rang de chaque test de cartes. La combinaison trouve donc 26,5 % des paiements de test de cartes, contre 68,5 à 72 % pour les trois bons détecteurs.
Retirez LOF, et la moyenne des trois atteint 0,504. Elle égale le meilleur détecteur individuel, la distance aux k plus proches voisins (0,505).
La combinaison est-elle plus stable?
Section intitulée « La combinaison est-elle plus stable? »« Plus stable » devrait signifier moins de mauvaises journées. Priya le vérifie. Pour chacun des 91 jours d’évaluation, elle calcule la précision des 50 alertes de la journée :
| Détecteur | Moyenne des jours | Dispersion (écart-type) | Jours sous 0,3 |
|---|---|---|---|
| Distance aux k plus proches voisins | 0,505 | 0,315 | 32 |
| Isolation Forest | 0,500 | 0,321 | 32 |
| SVM à une classe | 0,480 | 0,304 | 32 |
| Moyenne des 3 | 0,504 | 0,317 | 31 |
| Moyenne des 4 | 0,211 | 0,196 | 71 |
Ici, la moyenne des trois n’est pas sensiblement plus stable que ses membres : 31 mauvaises journées contre 32. Chaque détecteur et chaque combinaison ont au moins une journée où aucune alerte ne porte sur un paiement inséré, par exemple le 19 septembre 2025. Certains jours, très peu de paiements sont insérés. Les détecteurs s’accordent tellement qu’il y a peu d’erreurs à annuler.
Qu’apporte donc la combinaison? Regardez le rappel par type (mesuré) :
| Type | kNN | Forêt | SVM | Moyenne des 3 |
|---|---|---|---|---|
| Carte volée | 0,896 | 0,905 | 0,850 | 0,902 |
| Test de cartes | 0,720 | 0,718 | 0,685 | 0,707 |
| Prise de contrôle de compte | 0,603 | 0,443 | 0,589 | 0,589 |
Aucun détecteur n’est le meilleur pour tous les types, et le meilleur peut changer le mois prochain. La moyenne des trois n’est jamais loin du meilleur, quel que soit le type. C’est sa vraie valeur : vous n’avez pas à deviner le gagnant à l’avance. Son prix : un mauvais membre peut faire baisser son résultat, comme LOF l’a fait.
Quand les utiliser, et ce qu’ils coûtent
Section intitulée « Quand les utiliser, et ce qu’ils coûtent »SVM à une classe. Utilisez-le si vous avez des données normales propres et un nombre modéré de lignes. Il donne une frontière lisse et fonctionne bien avec quelques variables numériques. Son coût : le temps d’entraînement augmente rapidement avec le nombre de lignes; il apprend donc ici à partir de 10 000 paiements. Il exige une mise à l’échelle, et ses paramètres (nu, gamma) sont difficiles à choisir sans étiquettes.
PyOD. Utilisez-le chaque fois que vous comparez des détecteurs. Une interface unique permet une comparaison équitable : mêmes données, même mise à l’échelle, même calcul des scores. Son coût : une bibliothèque de plus, avec numba comme outil d’accélération. Et une interface commune cache les différences : PyOD exécutera sans problème LOF sur des données où LOF échoue. Vous devez quand même mesurer les résultats.
Une combinaison. Utilisez-la quand plusieurs détecteurs sont bons et que vous ignorez lequel sera le meilleur le mois prochain. Vérifiez d’abord chaque membre et retirez celui qui échoue. Une combinaison demande aussi un peu plus de temps pour expliquer une alerte. Le cours suppose 4 minutes au lieu de 3, parce qu’un réviseur lit plusieurs scores.
Erreur courante
L'ensemble moins bon que ses membres
Symptôme : Tomás combine quatre détecteurs par la moyenne de leurs rangs. La précision au budget tombe d’environ 0,5 à 0,211. Les tests de cartes que les détecteurs individuels repéraient passent maintenant sans alerte.
Cause : un membre, LOF, attribue aux tests de cartes un score normal (son rappel des tests de cartes est de 0,060). Dans une moyenne simple, un rang très faible fait baisser le rang combiné précisément pour les fraudes que LOF manque.
Diagnostic : mesurez les résultats de chaque membre seul dans le tableau comparatif avant de les combiner. Comparez le rappel par type de la combinaison à celui de chaque membre : son rappel des tests de cartes est de 0,265.
Correction : retirez le membre qui échoue : la moyenne des trois donne 0,504. Ensuite, mesurez à nouveau la combinaison dans le même tableau.
Conséquence pour le travail en IA : « plus de modèles » ne signifie pas « plus de sécurité ». La qualité d’un ensemble dépend des membres que vous y admettez. Un membre faible peut se cacher dans un groupe dont la moyenne semble raisonnable.
À vous de jouer
Section intitulée « À vous de jouer »Dans le carnet, la section 5 contient trois tâches :
- Dans le petit exemple, écrivez le nombre de points normaux à l’extérieur avec nu = 0,3 dans
outside_03. - Calculez la moyenne des rangs de la distance aux k plus proches voisins, d’Isolation Forest et du SVM à une classe seulement, avec
average_rank(). Mettez la précision au budget dansprecision_3. - Écrivez le nom du détecteur que vous avez retiré dans
left_out, et expliquez en une phrase pourquoi cela a aidé.
Afficher les résultats attendus
outside_03 = 17.precision_3 = 0.504.left_out = "LOF". LOF attribue aux tests de cartes un score normal, ce qui fait baisser leur rang dans la moyenne. Sans lui, les trois bons détecteurs s’accordent, et la combinaison égale le meilleur.
Vérification des connaissances
Section intitulée « Vérification des connaissances »Vérifiez votre compréhension
Qu'apprend un SVM à une classe, et que contrôle le paramètre nu? Utilisez le petit exemple.
Afficher la réponse
Il apprend une frontière lisse autour des données normales, à partir de données normales seulement (le contexte semi-supervisé). Un point hors de la frontière est inhabituel. nu est la proportion des points d’entraînement qui peuvent rester à l’extérieur. Avec nu = 0,1, 7 des 60 points normaux étaient à l’extérieur. Avec nu = 0,3, 17 sur 60 étaient à l’extérieur. Un nu plus grand donne une frontière plus serrée. Il détecte les points étranges plus tôt, mais envoie plus de fausses alertes.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Pourquoi faut-il convertir le score de chaque détecteur en rang avant de calculer la moyenne des scores de plusieurs détecteurs?
Afficher la réponse
Les scores utilisent des échelles différentes. Une distance aux k plus proches voisins (kNN) peut être de 4,9, et un rapport LOF est près de 1. Un score d’Isolation Forest (forêt d’isolement) est près de 0,5, et une valeur de SVM a sa propre échelle. Le score aux nombres les plus élevés dominerait une simple moyenne. Un rang (0 pour le plus habituel, 1 pour le plus inhabituel) place tous les détecteurs sur la même échelle. Chacun compte donc autant.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Tomás dit : « Quatre détecteurs trouvent toujours plus de cas qu'un seul. » Répondez-lui avec le tableau comparatif.
Afficher la réponse
Pas toujours. La moyenne des quatre détecteurs a atteint 0,211, un résultat inférieur à trois de ses membres (0,480 à 0,505). LOF attribue aux tests de cartes des scores normaux et fait baisser leur moyenne. Sans LOF, la moyenne des trois a atteint 0,504 : aussi bonne que le meilleur détecteur seul, mais pas meilleure. Une combinaison vous évite de choisir le mauvais détecteur parmi les bons, mais seulement si vous excluez ceux qui échouent.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Récapitulatif
- Un SVM à une classe apprend une frontière lisse autour des données normales seulement. nu fixe combien de points d’entraînement peuvent rester à l’extérieur. Sur les paiements : 0,480 avec les variables comportementales.
- PyOD exécute plus de 40 détecteurs avec les mêmes méthodes
fit(ajuster) etdecision_function(fonction de décision). Un score plus élevé signifie toujours un cas plus inhabituel. - Pour combiner les scores, convertissez chacun en rang, puis calculez la moyenne des rangs.
- La qualité d’une combinaison dépend de ses membres : avec LOF, 0,211; sans LOF, 0,504, aussi bonne que le meilleur détecteur seul.
- Ici, elle n’est pas sensiblement plus stable d’un jour à l’autre. Son avantage : vous n’avez pas à deviner le meilleur détecteur à l’avance.
Vous pouvez maintenant exécuter et combiner n’importe quel détecteur dans un seul tableau. Mais regardez de nouveau les nombres de ce module. Les bons détecteurs obtiennent environ 0,2 avec les variables brutes. Avec les variables comportementales, ils obtiennent environ 0,5. Ensuite, vous construirez ces variables une par une. Vous mesurerez ce qui a le plus aidé : le meilleur algorithme ou les meilleures variables.
Leçon suivante : Les variables comptent plus que l'algorithme