Aller au contenu
English

La prévision comme régression

  • Leçon 14
  • 40 min
  • Module 5 : Méthodes par apprentissage automatique

Où nous en sommes

Les méthodes statistiques ajustent un modèle par série et ne voient que le passé de cette série. Larkfield a des centaines de séries, ainsi que des promotions et des prix dont un modèle pourrait apprendre. Dans cette leçon, nous transformons la prévision en régression, avec des variables décalées, de calendrier, de prix et de promotion. Pensez d'abord à la façon dont une propriétaire de café estime ses ventes de croissants de demain.

Ce que vous saurez faire

Transformez une prévision en problème de régression. Chaque jour devient une ligne, les ventes du jour sont la cible et les variables sont connues avant ce jour. Un seul modèle peut alors apprendre de tous les produits à la fois. Il peut aussi apprendre des promotions et des prix que Larkfield planifie à l’avance.

Carnet JupyterFaites cette leçon dans un carnetColab · Kaggle · GitHub · en anglais

Le carnet (notebook) Jupyter contient toutes les cellules de code, les tâches et les vérifications de cette leçon. Il construit la table des variables du parasol. Il entraîne une régression linéaire pour les 50 produits et une par produit. Il ajoute ensuite les deux au tableau du test rétrospectif et montre une variable qui laisse fuir le futur. Ses cellules de préparation installent les paquets et téléchargent les données de Larkfield. Aucune configuration locale n’est donc nécessaire. Environ 40 minutes.

Le carnet est en anglais. Colab et Kaggle ouvrent votre propre copie. Il faut un compte Google ou Kaggle gratuit. Vous êtes bloqué ? Consultez le carnet de solution.

Avant de commencerCe qu’il faut savoir et avoir sous la mainEnviron 40 minutes

Ce que vous devez savoir

Ce qu’il vous faut sur votre ordinateur

Rien : le carnet s’exécute dans Colab ou Kaggle. Sa première cellule installe aussi mlforecast 1.1.0 et LightGBM 4.7.0.

Testé avec Python 3.12, pandas 2.3.3, mlforecast 1.1.0 et scikit-learn 1.9.1, dans Jupyter sur macOS.

Une propriétaire de café prépare des croissants chaque matin. Avant de rentrer chez elle, elle estime combien elle en vendra demain. Elle tient un carnet avec une ligne par jour. Chaque ligne contient quelques colonnes :

  • ses ventes du même jour de la semaine précédente,
  • la moyenne des sept derniers jours,
  • le jour de la semaine,
  • si demain est un jour férié,
  • si les croissants seront en promotion demain (elle décide elle-même des promotions, une semaine à l’avance).

Après quelques mois, elle voit des régularités. Les lundis sont calmes. Une promotion double les ventes. Un jour férié vide la rue. Chaque colonne est un indice, et la ligne est une liste d’indices pour une journée.

Deux choses rendent cela possible. D’abord, chaque indice est connu la veille au soir. Elle ne peut pas inscrire les ventes réelles de demain dans la ligne de demain. Ensuite, les promotions et les jours fériés figurent dans le carnet à l’avance, parce qu’elle les prévoit.

Larkfield planifie ses promotions des semaines à l’avance. Kenji sait dès le lundi qu’un produit sera en promotion le jeudi suivant. Mais ETS, présenté dans Lissage exponentiel, ne le sait pas. ETS lit seulement les valeurs passées d’une série. Il n’a pas de colonne « en promotion demain ».

Le test rétrospectif du cours montre le coût de cette limite. Ses 50 produits comptent 154 jours de promotion dans les 13 fenêtres de test. Ces jours-là, ils se sont vendus à 1 927 unités. ETS n’en prévoyait que 1 089.

Le test rétrospectif du cours (50 produits, 13 origines, 14 jours) : le biais sur les 154 jours de promotion et les 8 946 autres jours. Les deux méthodes prévoient beaucoup trop peu pendant les promotions, et à peu près juste les autres jours.
Description textuelle du graphique

Deux panneaux sur un axe allant de −50 % à +10 %. Sur les 154 jours de promotion, la prévision naïve saisonnière a un biais de -42,2 % et ETS de -43,5 %. Sur les autres jours, la prévision naïve saisonnière a un biais de 0,8 % et ETS de +1,4 %.

Un jour de promotion, ETS manque 43,5 % des unités, toujours par sous-estimation. Chacune de ces unités représente une vente perdue pour Kenji. Les autres jours, ETS ne surestime que de 1,4 %. La méthode n’est pas mauvaise. Elle ne voit pas une cause que Larkfield connaît à l’avance.

Il y a une deuxième limite. ETS ajuste un modèle par série : 50 produits donnent 50 modèles distincts. Chaque modèle apprend seulement de son propre produit. Un produit comptait une médiane de 14 jours de promotion en deux ans. Un modèle par produit a donc très peu de promotions dont il peut apprendre.

Faites comme la propriétaire du café. Transformez la série en table :

  • Une ligne par produit et par jour.
  • La cible est ce que vous voulez prédire : les unités vendues ce jour-là.
  • Les variables sont les indices, les colonnes de la table. Chacune doit être connue avant ce jour.

Tout modèle de régression peut ensuite apprendre à prédire la cible à partir des variables. C’est ce qu’on appelle la prévision comme régression. La prévision devient un problème de régression ordinaire du cours Apprentissage automatique : du problème à un modèle fiable.

Les méthodes de prévision utilisent quatre types de variables :

Variable Ce que c’est Colonne de la propriétaire du café
Décalage la valeur k jours avant; lag7 correspond aux ventes de 7 jours avant même jour de la semaine précédente
Moyenne mobile la moyenne de plusieurs valeurs précédentes, par exemple celles des 7 jours avant moyenne des sept derniers jours
Calendrier le jour de la semaine, le mois, le jour de l’année, un indicateur de jour férié jour de la semaine, jour férié
Entrée future connue une valeur que l’entreprise planifie : le prix, l’indicateur de promotion la promotion qu’elle a décidée

Un décalage reprend l’idée « hier prédit aujourd’hui » du module 2, sous forme de colonne. Une entrée future connue est ce qu’ETS ne pouvait pas utiliser.

Un petit exemple détaillé : le parasol le lundi 9 juin

Section intitulée « Un petit exemple détaillé : le parasol le lundi 9 juin »

Prenez un produit, le parasol, et un jour, le lundi 9 juin 2025. L’image montre d’où vient chaque variable de la ligne de ce jour.

Les unités de parasols vendues sur 22 jours, du 19 mai au 9 juin 2025, un carré par jour. Des flèches partent du lundi 26 mai (17 unités), des sept jours du 27 mai au 2 juin (moyenne de 14,6) et du lundi 2 juin (13 unités). Elles mènent aux cases décalage 14, moyenne mobile et décalage 7. Quatre cases contiennent les valeurs de calendrier et les valeurs planifiées : jour de semaine 0, mois 6, promotion 0, prix 79,99. La case cible contient 1, soit les unités vendues le lundi 9 juin.
Une ligne de la table des variables, construite à partir de la série du parasol. Chaque entrée provient de jours précédant le 9 juin, ou du calendrier et des plans de Larkfield. La cible correspond aux ventes réelles du jour.
Description textuelle du diagramme

L’image montre 22 carrés, un par jour du lundi 19 mai au lundi 9 juin 2025, avec les parasols vendus. Le dernier carré, le 9 juin, est orange : la cible, 1 parasol. Trois flèches bleues mènent aux variables. Le décalage 14 correspond au lundi 26 mai (17 parasols). La moyenne mobile est celle des sept jours du 27 mai au 2 juin (14,6). Le décalage 7 correspond au lundi 2 juin (13 parasols). Quatre autres cases sont connues à l’avance : jour de semaine 0 (lundi), mois 6 (juin), promotion 0 (aucune promotion) et prix de 79,99 $ US.

Le carnet construit ces colonnes avec pandas. shift(7) décale la série de 7 jours vers le bas. Chaque ligne reçoit donc la valeur de 7 jours avant :

parasol = load_sales(["P025"]).set_index("ds")
t = pd.DataFrame({"y": parasol["y"]})
t["lag7"] = t["y"].shift(7)
t["lag14"] = t["y"].shift(14)
t["mean_of_lag7_7days"] = t["y"].shift(7).rolling(7).mean()
t["weekday"] = t.index.dayofweek
t["on_promotion"] = parasol["on_promotion"]
print(t.loc["2025-06-02":"2025-06-09"].to_string())

La sortie :

y lag7 lag14 mean_of_lag7_7days weekday on_promotion
ds
2025-06-02 13.0 17.0 13.0 16.571 0 0.0
2025-06-03 8.0 13.0 16.0 16.143 1 0.0
2025-06-04 9.0 9.0 25.0 13.857 2 0.0
2025-06-05 8.0 12.0 11.0 14.000 3 0.0
2025-06-06 8.0 16.0 16.0 14.000 4 0.0
2025-06-07 8.0 24.0 22.0 14.286 5 0.0
2025-06-08 5.0 15.0 9.0 15.143 6 0.0
2025-06-09 1.0 13.0 17.0 14.571 0 0.0

Lisez la dernière ligne. Le 9 juin, lag7 vaut 13 : la valeur du lundi 2 juin, dans la première ligne. weekday (jour de la semaine) vaut 0, car pandas numérote le lundi à partir de 0. Le parasol n’était pas en promotion. Le modèle apprendra comment y dépend de ces colonnes, à partir de chaque ligne de chaque produit.

Un modèle de régression ne sait pas que les lignes suivent l’ordre chronologique. Il ne voit que les colonnes. Les colonnes doivent donc porter tout ce que le modèle doit savoir sur le temps : niveau récent, régularité hebdomadaire et saison.

Tester comme dans le futur a montré que l’horizon impose un écart. Kenji commande le lundi pour 14 jours. Pour le deuxième lundi de la commande, lag7 correspond au premier lundi de la commande : un jour encore à venir.

Il existe deux façons valides de résoudre ce problème. Vous pouvez utiliser seulement des décalages de 14 jours ou plus, connus pour chaque jour de la commande. Ou vous pouvez prévoir étape par étape : prévoir le jour 1, puis utiliser cette prévision comme décalage pour le jour 2. La deuxième façon s’appelle une prévision récursive. La bibliothèque utilisée dans cette leçon le fait par défaut. La prochaine leçon compare les deux.

Larkfield : un modèle pour tous les produits, ou un par produit

Section intitulée « Larkfield : un modèle pour tous les produits, ou un par produit »

Priya construit maintenant la table des 50 produits du test rétrospectif du cours. Elle a deux choix.

  • Un modèle global : un seul modèle apprend des lignes des 50 produits ensemble. Il voit 50 fois plus de lignes et les 812 jours de promotion de l’historique. Il apprend les régularités communes aux produits, comme le jour de la semaine ou une promotion.
  • Un modèle local : un modèle par produit, comme ETS. Chaque modèle s’ajuste étroitement à son produit, mais apprend seulement des lignes de ce produit.

La bibliothèque mlforecast construit les colonnes décalées, mobiles et de calendrier pour plusieurs séries à la fois. Elle entraîne aussi n’importe quel modèle scikit-learn. Elle garde également l’écart : elle calcule chaque moyenne mobile à partir d’un décalage, jamais du jour lui-même.

from mlforecast import MLForecast
from mlforecast.lag_transforms import RollingMean
from sklearn.linear_model import LinearRegression
sales = load_sales(BACKTEST_PRODUCTS)
EXOG = ["price", "on_promotion"]
def make_model(models):
return MLForecast(models=models, freq="D", lags=[7, 14, 28],
lag_transforms={7: [RollingMean(7), RollingMean(28)]},
date_features=["dayofweek", "month", "dayofyear"])
m = make_model({"lr": LinearRegression()})
features = m.preprocess(sales[sales["ds"] <= ORIGINS[-1]][["unique_id", "ds", "y"] + EXOG], static_features=[])
print(features.shape[0], "rows,", features.shape[1] - 3, "features:", [c for c in features.columns if c not in ("unique_id", "ds", "y")])

EXOG nomme les entrées futures connues. lag_transforms={7: [RollingMean(7)]} signifie « la moyenne de 7 valeurs, à partir du décalage 7 ». La sortie :

34000 rows, 10 features: ['price', 'on_promotion', 'lag7', 'lag14', 'lag28', 'rolling_mean_lag7_window_size7', 'rolling_mean_lag7_window_size28', 'dayofweek', 'month', 'dayofyear']

Une table de 34 000 lignes : 50 produits, 680 jours chacun, jusqu’à la dernière origine. Les 34 premiers jours de chaque produit sont retirés. La moyenne sur 28 jours du décalage 7 exige 34 jours précédents, et ces jours n’existent pas.

Le carnet transforme le modèle en méthode de prévision pour backtest.py et l’ajuste aux 13 origines. Il fait ensuite la même chose avec 50 petits modèles, un par produit :

method horizon MASE WAPE % bias % pinball fit s cost $
linear regression, one model per product 14 0.849 42.2 -1.6 10.18 16007
linear regression, one global model 14 0.865 42.6 -0.7 0.29 17212

Le tableau du test rétrospectif du cours contient les deux mêmes modèles avec trois entrées connues supplémentaires. Ce sont des indicateurs de jours fériés de calendar.csv : jours fériés, fin de semaine du Black Friday et période précédant Noël. Le graphique les compare à ETS.

  • Méthode statistique
  • Régression
Le tableau du test rétrospectif du cours : ETS, une régression linéaire pour tous les produits et une par produit. La régression locale a le coût le plus bas des trois; la globale a le plus élevé. Les coûts reposent sur les hypothèses du cours.
Description textuelle du graphique

Deux panneaux. WAPE : ETS 41,3 %, une régression linéaire globale 42,6 %, une régression linéaire par produit 41,7 %. Coût de la commande de 14 jours : ETS 16 578 dollars, régression globale 17 264, régression par produit 15 137.

Trois choses ressortent :

  • Un modèle linéaire avec de bonnes variables est une véritable méthode de prévision. Sa WAPE est proche de celle d’ETS (41,3 %). Le modèle par produit a même un coût plus bas : 15 137 dollars contre 16 578.
  • Ici, les 50 modèles locaux battent le modèle global sur toutes les mesures. Chaque produit a deux ans d’historique : assez pour son propre petit modèle.
  • Les modèles locaux sont plus lents. Ils prennent de 11 à 13 secondes pour les 13 origines, contre 0,3 seconde pour le modèle global.

La promotion était la raison d’ajouter des variables. Priya vérifie donc de nouveau les 154 jours de promotion, cette fois avec les régressions.

  • Référence de base
  • Méthode statistique
  • Régression
Le test rétrospectif du cours, biais sur les 154 jours de promotion seulement. Les deux méthodes qui ne voient pas l'indicateur de promotion prévoient beaucoup trop peu. La régression globale, qui a appris des 812 jours de promotion de l'historique, prévoit un peu trop.
Description textuelle du graphique

Biais sur les 154 jours de promotion : naïve saisonnière -42,2 %, ETS -43,5 %, une régression linéaire par produit -12,7 %, une régression linéaire globale +5,9 %.

Le modèle global est maintenant proche : +5,9 % au lieu de −43,5 %. Les modèles par produit sont entre les deux, à -12,7 %. Chacun n’a vu qu’environ 14 jours de promotion de son propre produit. Le modèle global a vu les 812. C’est la principale raison d’utiliser un modèle global : les produits partagent des régularités, et un modèle commun apprend chaque régularité à partir de beaucoup plus d’exemples.

Pourquoi le modèle global prévoit-il un peu trop? Un modèle linéaire ajoute un nombre fixe d’unités pour « en promotion », identique pour tous les produits. Mais une promotion multiplie les ventes : un produit peu vendu gagne quelques unités, un produit très vendu en gagne beaucoup. Un nombre fixe ne peut pas convenir aux deux. Le modèle de la prochaine leçon peut apprendre cela.

Quand l’utiliser, quand l’éviter et ce qu’elle coûte

Section intitulée « Quand l’utiliser, quand l’éviter et ce qu’elle coûte »

Utilisez la prévision comme régression quand :

  • vous avez des entrées futures connues (promotions, prix, jours fériés, événements planifiés) qui font varier la série;
  • vous avez plusieurs séries liées, afin qu’un modèle global puisse partager ce qu’il apprend;
  • vous voulez exécuter un modèle plutôt que des centaines.

Gardez une méthode statistique si vous avez quelques longues séries sans entrées connues. ETS n’exige aucune conception de variables et présente moins de risques d’erreur.

La régression a des coûts :

  • Le travail sur les variables. Vous choisissez les décalages, les fenêtres et les colonnes de calendrier. Un mauvais choix donne un modèle faible, et rien ne vous avertit.
  • L’écart. Chaque variable doit être connue au moment de la prévision, pour chaque jour de l’horizon. Il est facile de violer cette règle par accident; le cas d’échec ci-dessous montre comment.
  • Pas d’intervalle sans travail supplémentaire. ETS donne un intervalle autour de sa prévision. Une régression donne un nombre par jour. Le module 7 montre comment obtenir un intervalle.
  • Un modèle global peut masquer un produit. Le total est bon, mais un produit atypique peut avoir de mauvais résultats. Vérifiez les scores produit par produit, comme dans Lissage exponentiel.

Erreur courante

Une variable venue du futur

Symptôme : Tomás ajoute une variable : la moyenne des 7 derniers jours, y compris le jour lui-même. À la dernière origine, la WAPE passe de 48,4 % à 31,6 %. Il veut mettre le modèle en production.

Cause : pour chaque jour du test, la variable contient les ventes réelles de ce jour. Le dimanche précédant la commande, personne ne les connaît. Le modèle lit la réponse dans son entrée. C’est une fuite de données : le futur atteint le modèle par une variable.

Correction : calculez chaque variable uniquement à partir des données précédant l’origine. Décalez d’abord, puis calculez la moyenne mobile : shift(14).rolling(7). Ou laissez mlforecast construire les moyennes mobiles à partir de ses décalages. Relancez ensuite le test rétrospectif.

Conséquence pour le travail en IA : un modèle avec une fuite semble excellent au test rétrospectif et échoue dès le premier vrai lundi. Un gain soudain et important dû à une nouvelle variable est un signal d’alarme. Vérifiez comment la variable est calculée avant de vous y fier.

  1. Ouvrez le carnet dans l’encadré Faites cette leçon dans un carnet en haut de cette page.
  2. Exécutez les cellules de préparation et la cellule utilitaire. La cellule de données se termine par la ligne Ready: (prêt).
  3. Dans la section 1, prédisez quel jour de ventes lag7 contient pour le 9 juin. Exécutez ensuite la cellule. Vous voyez 8 lignes, avec lag7 à 13,0 le 9 juin 2025.
  4. Dans la section 2, exécutez la cellule. Vous voyez 34000 rows, 10 features (34 000 lignes, 10 variables).
  5. Dans la section 3, prédisez lequel sera meilleur : un modèle global ou 50 modèles locaux. Exécutez ensuite la cellule (environ 2 minutes).
  6. Lisez les deux lignes. Les modèles par produit ont une WAPE de 42,2; le modèle global, de 42,6.
  7. Dans la section 5, exécutez le cas d’échec. Vous voyez 31,6 avec la fuite et 48,4 sans elle.

Avant d’exécuter quoi que ce soit, prédisez : le modèle global prévoit-il trop ou trop peu les jours de promotion? Dans la section 4 du carnet, gardez les lignes de fc_global où le produit était en promotion. Calculez leur biais en % et placez-le dans promo_bias.

Afficher la réponse
p = fc_global.merge(sales[["unique_id", "ds", "on_promotion"]], on=["unique_id", "ds"])
p = p[p["on_promotion"] == 1]
promo_bias = round(float(100 * (p["yhat"].sum() - p["y"].sum()) / p["y"].sum()), 1)
print(promo_bias, "% on", len(p), "promotion days")
6.8 % on 154 promotion days

Le modèle global du carnet surestime de 6,8 % les jours de promotion. La version de la table du cours, avec les trois indicateurs de jours fériés, surestime de 5,9 %. Les deux font beaucoup mieux qu’ETS à −43,5 %, parce que le modèle voit l’indicateur de promotion. Les deux surestiment parce qu’un modèle linéaire ajoute le même nombre d’unités à chaque produit en promotion.

Vérifiez votre compréhension

Avec les chiffres de Larkfield, expliquez pourquoi ETS se trompe les jours de promotion et ce qu'une régression avec variables change.

Afficher la réponse

ETS lit seulement les valeurs passées d’une série. Il ne peut pas voir que Larkfield a prévu une promotion. Sur les 154 jours de promotion du test rétrospectif (backtest), il prévoyait 1 089 unités pour 1 927 vendues : 43,5 % trop bas. Les autres jours, ses prévisions étaient seulement 1,4 % trop élevées. Une régression reçoit l’indicateur de promotion comme entrée future connue, dans une colonne de sa table de variables. Une seule régression linéaire globale donnait +5,9 % pour les mêmes jours. Elle a appris l’effet d’une promotion à partir des 812 jours de promotion des 50 produits.

Vérifiez votre compréhension

Kenji commande le lundi pour les 14 prochains jours. Quelles variables un modèle peut-il utiliser pour le dernier jour couvert par la commande, sans prévision récursive : décalage de 1, 7 ou 14 jours, jour de la semaine, prix prévu, moyenne des 7 jours jusqu'à ce jour inclus?

Afficher la réponse

Le décalage (lag) de 14 jours, le jour de la semaine et le prix prévu. Pour le dernier jour, le décalage de 14 jours correspond au dimanche avant la commande, que Kenji connaît. Le calendrier indique le jour de la semaine, et Larkfield prévoit le prix à l’avance. Les décalages de 1 et 7 jours tombent dans les 14 jours couverts par la commande. Ils ne sont donc pas encore connus. Une prévision récursive les remplacerait par ses propres prévisions. La moyenne qui inclut le jour lui-même contient les ventes réelles de ce jour : c’est une fuite de données.

Vérifiez votre compréhension

Donnez une raison de choisir un modèle global et une raison de choisir un modèle par produit. Lequel a gagné au test rétrospectif de Larkfield?

Afficher la réponse

Un modèle global apprend des régularités communes, comme une promotion, à partir de beaucoup plus de lignes. Il utilise les 812 jours de promotion plutôt qu’environ 14 par produit. Il est aussi plus rapide (0,3 seconde contre 11 à 13 pour les 13 origines). Il n’y a qu’un seul modèle à exécuter. Un modèle par produit peut mieux s’ajuster au niveau et à la saison de chaque produit, si l’historique suffit. Chez Larkfield, avec deux ans par produit, les 50 régressions linéaires locales ont gagné. Leur WAPE était de 41,7 % contre 42,6 %, et leur coût de 15 137 $ US contre 17 264. Mais leurs prévisions étaient trop basses les jours de promotion (−12,7 % contre +5,9 %).

Récapitulatif

  • La prévision comme régression : une ligne par produit et par jour; la cible correspond aux ventes du jour; les variables sont connues avant ce jour.
  • Quatre types de variables : décalages, moyennes mobiles, colonnes de calendrier et entrées futures connues (prix, promotion).
  • ETS ne peut pas voir une promotion : −43,5 % sur les 154 jours de promotion. Une régression linéaire globale avec l’indicateur de promotion : +5,9 %.
  • Un modèle global apprend de tous les produits à la fois; un modèle local s’ajuste à chaque produit séparément. Chez Larkfield, les modèles linéaires locaux ont gagné pour la WAPE (41,7 %) et le coût (15 137 $ US).
  • Gardez l’écart : utilisez des décalages de 14 jours ou plus, ou faites une prévision récursive. Une variable qui contient le jour lui-même est une fuite de données.

Vous pouvez maintenant transformer n’importe quel ensemble de séries en table de régression. Mais un modèle linéaire ajoute un nombre fixe d’unités pour une promotion, alors que les promotions multiplient les ventes. Ensuite, vous entraînez un modèle qui apprend ces effets : l’amplification de gradient (gradient boosting) avec LightGBM.

Leçon suivante : Amplification de gradient avec LightGBM