Charge électrique de nombreux clients
- Étude de cas 2
- 150 min
- Facultative · 1 étude de cas requise pour le certificat
Où nous en sommes
En huit modules, nous avons prévu les séries de Larkfield et leurs intervalles. Dans cette étude de cas, nous utilisons des données ouvertes réelles : la charge électrique de nombreux clients. Nous comparons des modèles globaux et par série avec des prévisions quantiles, et chiffrons les achats d'électricité insuffisants ou excessifs.
Étude de cas 2 sur 3 · Prévision et séries chronologiques : prévoir la suiteCharge électrique de nombreux clients
1. Les prévisions servent des décisions
2. Lire une série chronologique
3. Références de base et tests honnêtes
4. Méthodes statistiques
5. Méthodes par apprentissage automatique
6. Séries difficiles et séries nombreuses
7. L'incertitude et la décision
8. Exploiter une prévision en production
Ce que vous saurez faire
Passez des données de compteur de 80 clients réels à un achat d’énergie pour le lendemain, avec son coût. Vous corrigerez les heures de changement d’heure. Vous comparerez un modèle par client (MSTL), un modèle global pour tous les clients (LightGBM) et un modèle préentraîné (Chronos-Bolt). Vous utiliserez le test rétrospectif (backtest) du cours et évaluerez leurs quantiles à 90 %. Ensuite, vous achèterez pour tous les clients ensemble, testerez le choix une seule fois en décembre et préciserez ses échecs.
Le carnet (notebook) Jupyter exécute chaque étape de cette page, avec le même code et les mêmes résultats. Il ajoute trois tâches avec des vérifications. Ses cellules de préparation installent les paquets et téléchargent les données (3,7 Mo) ainsi que le fichier backtest.py du cours. Chronos-Bolt télécharge son modèle une seule fois (environ 190 Mo). Après les installations, le carnet s’exécute en environ 4 minutes.
Avant de commencerCe qu’il faut savoir et avoir sous la main
Ce que vous devez savoir
Cette étude de cas utilise tout le cours. Voici les leçons les plus importantes :
- Le test rétrospectif à origine glissante et
backtest.py, dans Tester comme dans le futur : le test rétrospectif, ainsi que MASE, WAPE et le biais, dans Mesurer l’erreur qui compte. - MSTL avec une saison quotidienne et une saison hebdomadaire, dans Plusieurs saisons et longues séries.
- Un modèle pour plusieurs séries, dans La prévision comme régression et Amplification de gradient avec LightGBM.
- Chronos-Bolt, dans Modèles profonds et modèles de fondation.
- Les quantiles, le ratio critique, la perte pinball (perte quantile) et la couverture, dans Une prévision est un intervalle, Noter l’intervalle et De la prévision à la commande et à l’horaire.
Ce qu’il vous faut sur votre ordinateur
Rien : le carnet s’exécute dans Colab ou Kaggle. Pour l’exécuter localement, utilisez un environnement virtuel avec Python 3.12, pandas 2.3.3, statsforecast 2.1.1, mlforecast 1.1.0, LightGBM 4.7.0, scikit-learn 1.9.1, chronos-forecasting 2.3.2 et PyTorch 2.15.0 (CPU). Aucun GPU. La cellule de préparation crée un dossier electricity-forecasting. Pour recommencer, supprimez ce dossier.
Testé sur macOS avec Python 3.12, dans Jupyter après un démarrage à neuf. Colab, Kaggle, Windows et Linux n’ont pas été testés.
La situation
Section intitulée « La situation »Un petit fournisseur d’électricité au Portugal vend de l’électricité à 80 clients. Les données ne précisent pas quels clients sont des entreprises ou des ménages. Le fournisseur ne produit pas d’électricité. Il l’achète sur le marché de gros, où les fournisseurs achètent en grandes quantités, puis la revend à ses clients.
Le fournisseur achète la majeure partie de l’énergie la veille. Chaque matin, avant la fermeture du marché à midi, il indique la quantité voulue pour chaque heure du lendemain. Le lendemain, les clients utilisent ce dont ils ont besoin, et le fournisseur doit régler la différence :
- Un kWh manquant : les clients ont utilisé plus que ce que le fournisseur a acheté. Il doit acheter l’énergie manquante à la dernière minute, à un prix beaucoup plus élevé.
- Un kWh en trop : le fournisseur a acheté de l’énergie que personne n’a utilisée. Il la revend à un prix inférieur à son prix d’achat.
Inês planifie l’achat. Rui, un analyste de données, construit les prévisions. Nous avons inventé ces deux personnes et le fournisseur pour cette étude de cas. Les clients et leur consommation d’électricité sont réels.
Inês demande à Rui : « Combien d’énergie dois-je acheter pour chaque heure de demain? Et combien nous coûte une mauvaise prévision? »
Ce que vous allez construire
Section intitulée « Ce que vous allez construire »Vous construirez des prévisions pour le lendemain, pour 80 clients, chaque heure, avec un quantile à 90 %. Elles serviront à un achat d’énergie pour chaque heure du lendemain, avec son coût. Vous le testerez une seule fois sur six jours de décembre qu’aucune étape n’a vus.
Les données
Section intitulée « Les données »Les données proviennent du jeu ElectricityLoadDiagrams20112014 de l’UCI Machine Learning Repository. Il contient la consommation d’électricité de 370 clients au Portugal, toutes les 15 minutes, de 2011 à 2014.
Le fichier d’origine fait 678 Mo, trop pour un carnet. Le cours conserve donc un sous-ensemble fixe à côté du carnet (3,7 Mo). Il retient les clients ayant très peu d’heures à zéro (292 sur 370), puis en tire 80 au hasard. Une ligne représente une heure. Chaque colonne client, de MT_001 à MT_368, contient sa consommation pendant cette heure, en kWh (kilowattheures). Un appareil de chauffage de 1 000 watts qui fonctionne pendant une heure consomme 1 kWh.
Nous avons aussi examiné deux autres jeux de données. Le jeu « Electricity Hourly » de Monash est une copie de ces données faite par un tiers. Les données de compteurs intelligents de Londres concernent des logements individuels et présentent beaucoup de bruit.
Premières vérifications
Section intitulée « Premières vérifications »wide = pd.read_csv("electricity_hourly_80.csv.gz", index_col="hour", parse_dates=True)size = wide.mean() # each customer's mean kWh per hourprint(wide.shape, wide.index.min(), "to", wide.index.max())print(f"zero hours: {(wide == 0).sum().sum():,} of {wide.size:,}")print("mean kWh per hour: smallest", round(size.min(), 1), "| median", round(size.median(), 1), "| largest", round(size.max(), 1))(17520, 80) 2013-01-01 00:00:00 to 2014-12-31 23:00:00zero hours: 51 of 1,401,600mean kWh per hour: smallest 5.2 | median 130.6 | largest 6311.4Ce que cela nous apprend. Nous avons deux années de données horaires, presque sans lacunes. Les clients ont des consommations très différentes. Le plus gros consomme environ 1 200 fois plus que le plus petit. Les 5 plus gros clients consomment 45,7 % de toute l’énergie. Un modèle commun à tous les clients doit gérer cela. Un WAPE calculé sur tous les clients mesure surtout les plus gros.
Les changements d’heure
Section intitulée « Les changements d’heure »Le Portugal avance ses horloges d’une heure le dernier dimanche de mars et les recule le dernier dimanche d’octobre. La source conserve une journée de 24 heures et explique l’effet sur les données. Voici le total des 80 clients à 0 h, 1 h et 2 h ces jours-là :
2013-03-31 [14005, 4880, 15556]2013-10-27 [22321, 26885, 14715]2014-03-30 [12933, 3757, 14072]2014-10-26 [22677, 28047, 15483]Ce que cela nous apprend. En mars, l’heure de 1 h vaut surtout zéro : cette heure n’a pas existé. En octobre, elle contient deux heures de consommation. Ce sont des erreurs d’horloge, pas des clients. Rui les corrige de la façon la plus simple : en mars, la moyenne de 0 h et 2 h; en octobre, la moitié de la valeur. Après correction, le 26 octobre 2014 donne 22 677, 14 024 et 15 483. Le cas d’échec vers la fin de la page montre ce qui arrive sans cette correction.
Deux saisons, dont une faible
Section intitulée « Deux saisons, dont une faible »Imaginez une rue la nuit : la plupart des lumières sont éteintes, aux mêmes heures chaque jour. La consommation d’électricité suit ce rythme. Elle a une saison quotidienne : faible la nuit, élevée le matin et le soir. Les bureaux ajoutent une saison hebdomadaire : ils consomment moins la fin de semaine.
L’autocorrélation indique à quel point la charge d’une heure ressemble à celle d’heures précédentes (1 signifie exactement semblable). Pour le total, elle vaut 0,954 pour l’heure précédente, 0,982 pour 24 heures avant et 0,97 pour 168 heures avant (une semaine). La même heure hier et la même heure la semaine passée renseignent donc beaucoup sur l’heure suivante.
- Les 80 clients
- MT_368 : semaine 2,61 × la fin de semaine
- MT_083 : semaine 1,00 × la fin de semaine
Description textuelle du graphique
Le graphique montre une semaine de mai 2014, heure par heure. Chaque courbe est divisée par sa propre moyenne : 1 représente donc une heure moyenne. Le total des 80 clients passe d’environ 0,55 la nuit à environ 1,3 le jour, chaque jour. La fin de semaine ressemble presque aux jours de semaine. Le client MT_368 passe d’environ 0,3 la nuit à environ 2,6 les après-midi de semaine. Le samedi et le dimanche, il reste sous environ 0,75. Le client MT_083 passe d’environ 0,6 à 1,6 chaque jour, et sa fin de semaine ressemble aux jours de semaine.
Ce que cela nous apprend. La saison quotidienne est forte partout. La saison hebdomadaire est forte seulement pour certains clients. Seulement 8 des 80 consomment plus de 1,2 fois autant en semaine que la fin de semaine. Dans le total, l’heure de semaine vaut 26 891 kWh et celle de fin de semaine, 26 545. Un modèle qui apprend de tous les clients ensemble verra donc de nombreuses formes hebdomadaires différentes.
Cadrer la prévision
Section intitulée « Cadrer la prévision »Définir le cadre de prévision pose quelques questions avant tout modèle. Voici les réponses de Rui :
- Quoi : les kWh consommés par client et par heure, après la correction de l’heure.
- Unité de temps : une heure.
- Niveau : par client d’abord, car les contrats et les factures du fournisseur sont par client. Ensuite, le total.
- Décision et coûts (hypothèses) : un kWh manquant coûte 0,09 € de plus, et un kWh en trop fait perdre 0,01 €. Ce sont nos chiffres, pas les prix du marché.
- Horizon : les 24 heures de demain, prévues à 11 h aujourd’hui.
La prévision précède la fermeture du marché
Section intitulée « La prévision précède la fermeture du marché »Une prévision pour le lendemain ne couvre pas « les 24 prochaines heures ». Le fournisseur achète à midi, donc Rui produit sa prévision à 11 h. La première heure de demain, 0 h, arrive 13 heures après la prévision. La dernière heure de demain, 23 h, arrive 36 heures après.
Description textuelle du diagramme
Une ligne du temps d’aujourd’hui à 0 h jusqu’à demain à 23 h 59. Une case bleue indique aujourd’hui à 11 h, l’heure de la prévision. Une case orange indique aujourd’hui à 12 h, quand le marché ferme et que l’énergie de demain est achetée. Une bande verte couvre demain de 0 h à 23 h, les étapes 13 à 36 de la prévision. Cela représente 13 à 36 heures à l’avance. Une note en dessous précise que chaque entrée doit être connue à 11 h aujourd’hui. La même heure deux jours avant (décalage de 48 heures) et la semaine passée (décalage de 168 heures) sont connues. La même heure hier (décalage de 24 heures) n’est pas connue pour demain soir.
Cela change le modèle, pas seulement son résultat. Un modèle utilisant « la même heure hier » (décalage de 24) utiliserait une valeur encore inexistante pour demain soir. Le LightGBM de Rui utilise donc uniquement des décalages de 48 heures ou plus. Il suit la règle contre la fuite de données de La prévision comme régression.
Combien acheter
Section intitulée « Combien acheter »Un kWh manquant coûte neuf fois plus qu’un kWh en trop. Inês devrait donc acheter plus que la consommation attendue. Le modèle du vendeur de journaux (newsvendor) de De la prévision à la commande et à l’horaire donne le niveau. Achetez le quantile au ratio critique, 0,09 ÷ (0,09 + 0,01) = 0,9. C’est le quantile à 90 %, q90. La consommation reste sous ce quantile pendant 90 % des heures.
La prévision qui compte est donc q90. Deux mesures de Noter l’intervalle indiquent sa qualité :
- La perte pinball à 0,9 : chaque kWh de consommation réelle au-dessus de q90 coûte 0,9. Chaque kWh de q90 au-dessus de la consommation réelle coûte 0,1. C’est la règle de coût de l’achat, divisée par dix. Nous divisons cette perte par la charge moyenne pour pouvoir comparer.
- La couverture : la proportion d’heures sous q90. Elle devrait être de 0,9. Au-dessus, q90 est trop élevé et le fournisseur achète trop. En dessous, q90 est trop faible.
Référence de base et autres méthodes dans un même test rétrospectif
Section intitulée « Référence de base et autres méthodes dans un même test rétrospectif »Le test rétrospectif
Section intitulée « Le test rétrospectif »Rui utilise le fichier backtest.py du cours, avec des heures. Il y a 12 origines, espacées de 26 jours, du 10 février au 23 novembre 2014, à 11 h. Avec 26 jours, le jour de semaine de « demain » change d’une origine à l’autre. Chaque prévision couvre 36 heures, à partir de 12 h aujourd’hui. Seules les 24 heures de demain sont évaluées. Décembre reste à part pour le test final.
Quatre méthodes, chacune avec sa raison :
- Même heure la semaine passée : la référence de base. Son intervalle vient de ses propres erreurs.
- MSTL avec une saison quotidienne (24) et une saison hebdomadaire (168), comme dans Plusieurs saisons et longues séries. C’est une méthode par série : 80 modèles distincts. Elle est ajustée sur les 4 dernières semaines pour garder le carnet rapide.
- LightGBM, global : un modèle pour les 80 clients, plus deux modèles quantiles pour q10 et q90. Chaque client est d’abord mis à l’échelle selon sa propre moyenne et sa dispersion. Les petits clients comptent ainsi autant que les gros. Le modèle est ajusté sur 26 semaines, puis réajusté toutes les quatre origines.
- Chronos-Bolt small : le modèle préentraîné de Modèles profonds et modèles de fondation, sans entraînement. Il lit jusqu’à 2 048 heures par client et renvoie q10, q50 et q90. Il s’exécute dans son propre processus Python, car PyTorch et LightGBM ensemble faisaient planter le processus sur macOS.
def run_all(df, origins, tag): out = {"same hour last week": bt.backtest(df, stats(SeasonalNaive(season_length=168), "SeasonalNaive"), h=H, origins=origins), "MSTL (24, 168)": bt.backtest(df, stats(MSTL(season_length=[24, 168]), "MSTL"), h=H, origins=origins), "LightGBM, global": bt.backtest(df, GlobalLightGBM(), h=H, origins=origins, refit_every=4)} chronos, seconds = run_chronos(df, origins, tag) out["Chronos-Bolt small"] = bt.backtest(df, chronos, h=H, origins=origins) ...Le coût utilise la quantité achetée pour chaque client et chaque heure. Dans ce premier tableau, le règlement se fait séparément pour chaque client. Les marchés réels règlent le portefeuille entier du fournisseur. Une section plus loin montre ce que cela change.
method MASE WAPE % bias % pinball q90 below q90 80% range holds fit s cost at forecast cost at q90same hour last week 0.942 7.8 1.6 0.0217 0.926 0.827 0.34 2117 1400 MSTL (24, 168) 0.855 7.5 1.8 0.0199 0.933 0.85 72.93 1952 1286 LightGBM, global 0.743 6.1 -0.1 0.0157 0.885 0.773 20.54 1985 1015 Chronos-Bolt small 0.657 5.5 0.2 0.0142 0.913 0.823 5.08 1704 915Les coûts sont en euros par jour pour les 80 clients. Les temps d’ajustement sont en secondes pour les 12 origines et dépendent de l’ordinateur.
Description textuelle du graphique
Un graphique à quatre colonnes. Même heure la semaine passée : 1 400 € par jour. MSTL : 1 286 €. LightGBM : 1 015 €. Chronos-Bolt : 915 €, le coût le plus faible, mis en évidence.
Une mesure pour choisir
Section intitulée « Une mesure pour choisir »Quelle colonne décide? Le coût à q90, car il correspond à la décision. Ici, les colonnes s’accordent davantage que dans le tableau du test rétrospectif de Larkfield :
- Chronos-Bolt est le meilleur pour chaque mesure : MASE de 0,657, perte pinball de 0,0142 et 915 € par jour. Son q90 couvre 91,3 % des heures, près des 90 % attendus. C’est la même surprise que dans Modèles profonds et modèles de fondation, cette fois sur des données réelles.
- Le LightGBM global arrive deuxième (1 015 €). Son q90 est un peu trop faible : seulement 88,5 % des heures sont en dessous.
- L’intervalle de MSTL est trop large (93,3 % sous q90), donc il achète trop. Il a aussi pris environ 73 secondes, contre 5 pour Chronos.
- Acheter la prévision coûte cher. La médiane de Chronos coûte 1 704 € par jour, presque le double de son q90. Avec ces coûts, une marge de sécurité est rentable.
Par client et par taille
Section intitulée « Par client et par taille »Une méthode est-elle la meilleure pour chaque client? Rui compte, par client, quelle méthode a la plus faible perte pinball à 0,9 :
lowest pinball at 0.9, customers per method: {'Chronos-Bolt small': 62, 'LightGBM, global': 17, 'MSTL (24, 168)': 1}same hour last week cost small 168, large 1232 | below q90: small 0.920, large 0.932MSTL (24, 168) cost small 151, large 1135 | below q90: small 0.926, large 0.939LightGBM, global cost small 130, large 885 | below q90: small 0.873, large 0.897Chronos-Bolt small cost small 119, large 797 | below q90: small 0.905, large 0.920Ce que cela nous apprend. Chronos est le meilleur pour 62 clients, LightGBM pour 17 et MSTL pour seulement 1. Les 40 plus gros clients représentent environ 87 % du coût : ils déterminent donc le choix. Le q90 du LightGBM global est trop faible surtout pour les petits clients (87,3 % sous q90). Un seul modèle partage son quantile entre des clients aux formes très différentes.
- Consommation réelle
- Chronos : médiane (tirets) et q90
- MSTL q90
Description textuelle du graphique
Le graphique montre le client MT_046 le lundi 24 novembre 2014, heure par heure. La consommation réelle est d’environ 140 kWh à minuit et d’environ 100 kWh tôt le matin. Elle présente un bref sommet d’environ 150 kWh à midi. Son maximum, environ 220 kWh, arrive à 20 h. La médiane de Chronos suit cette forme, un peu en dessous. Le q90 de Chronos dépasse la consommation réelle pendant 20 des 24 heures. Le q90 de MSTL est semblable, et un peu plus élevé l’après-midi, jusqu’à environ 230 kWh.
Un seul achat pour tous les clients
Section intitulée « Un seul achat pour tous les clients »Jusqu’ici, le règlement se faisait séparément pour chaque client. Un vrai fournisseur achète pour son portefeuille : le marché règle le total. Quand un client consomme plus que prévu et un autre moins, les deux écarts se compensent.
Pensez à une famille qui prépare ses bagages pour un voyage. Si chacune des quatre personnes apporte une serviette de rechange « au cas où », la famille en transporte quatre. Une ou deux suffiraient pour toute la famille, car tous n’en ont pas besoin en même temps. Le q90 de chaque client ressemble à une serviette de rechange : il comprend sa propre marge de sécurité. Additionnez-en 80, et les marges s’accumulent. Le quantile d’une somme n’est pas la somme des quantiles.
Rui compare trois façons d’acheter, toutes avec Chronos-Bolt :
each customer alone: 915 euros a daysum of the 80 q90: 664 euros a day, below q90 0.997the total's own q90: 393 euros a day, below q90 0.934Description textuelle du graphique
Un graphique avec trois colonnes. Achat et règlement séparés pour chaque client : 915 € par jour. Somme des q90 des 80 clients, réglée comme un seul total : 664 €. Q90 de la prévision du total lui-même : 393 €, le plus bas, mis en évidence.
Ce que cela nous apprend. Additionner les 80 valeurs q90 fait acheter trop d’énergie. Le total reste sous cette somme pendant 99,7 % des heures, plutôt que 90 %. Prévoir le total lui-même donne un q90 presque bien étalonné, avec 93,4 % des heures sous ce seuil. Cela donne aussi le coût le plus bas : 393 € par jour. MSTL et LightGBM montrent la même tendance. Pour le q90 du total lui-même, MSTL coûte 510 € et LightGBM 528 € par jour. Chronos reste donc le choix pour le total aussi.
Pourquoi continuer à prévoir pour chaque client? Pour les tâches propres à chaque client : contrats, factures, premières semaines d’un nouveau client, compteur qui indique soudainement zéro. Pour l’achat, prévoyez le total.
Le test final, une seule fois
Section intitulée « Le test final, une seule fois »Rui a fait son choix : Chronos-Bolt, le q90 du total lui-même, acheté à 11 h. Avant le test final, il applique aussi les quatre méthodes par client à six origines de décembre jamais utilisées auparavant. Elles vont du 4 au 29 décembre 2014, pour les journées des 5, 10, 15, 20, 25 et 30 décembre. Il ne change rien ensuite.
method MASE WAPE % bias % pinball q90 below q90 80% range holds fit s cost at forecast cost at q90same hour last week 1.521 14.7 7.7 0.0315 0.89 0.731 0.15 2415 1767 MSTL (24, 168) 1.524 14.4 8.4 0.0293 0.927 0.769 34.14 2148 1642 LightGBM, global 1.435 14.1 8.0 0.026 0.857 0.652 11.81 2141 1459 Chronos-Bolt small 1.331 13.3 7.7 0.0242 0.897 0.7 2.17 1993 1354Description textuelle du graphique
Un graphique avec six colonnes montrant le coût d’achat du q90 de Chronos pour chaque journée de test. 5 décembre : 747 €. 10 décembre : 890 €. 15 décembre : 861 €. 20 décembre : 1 073 €. 25 décembre : 3 454 €, mis en évidence. 30 décembre : 1 097 €.
Ce que cela nous apprend. Le choix tient : Chronos-Bolt reste le moins cher, à 1 354 € par jour. Mais chaque méthode fait moins bien que dans la comparaison. Tous les MASE dépassent 1,3, et chaque méthode prévoit de 7,7 % à 8,4 % trop haut. La pire journée, de loin, est le jour de Noël. Elle représente à elle seule 43 % du coût de Chronos sur les six journées de test. Beaucoup d’entreprises ferment, la consommation baisse, et aucune méthode ici ne connaît le calendrier. Les quatre méthodes coûtent entre 3 454 € et 3 707 € pour cette seule journée.
Aucune journée de test de la comparaison n’était un jour férié. Le test rétrospectif (backtest) ne pouvait donc pas révéler ce problème. Rui présente le résultat tel quel. La correction appartient au prochain cycle : un calendrier des jours fériés, comme dans Calendriers, jours fériés et événements, testé sur de nouvelles données.
L’achat pour le 31 décembre, avec de nouvelles données d’entrée
Section intitulée « L’achat pour le 31 décembre, avec de nouvelles données d’entrée »La dernière étape exécute le pipeline choisi à 11 h le 30 décembre 2014, pour le total. Il écrit la quantité à acheter pour chaque heure du 31 décembre. Les données contiennent la consommation réelle de cette journée. On peut donc évaluer le résultat.
buy 633.8 MWh (median forecast 583.8) | real 538.5 MWh | hours short: 0 | cost 953 euros ds y yhat q902014-12-31 00:00:00 17014.0 18319.0 19852.02014-12-31 08:00:00 22395.0 21984.0 23167.02014-12-31 12:00:00 31996.0 32291.0 34548.02014-12-31 19:00:00 21966.0 29551.0 32585.0Ce que cela nous apprend. Le pipeline fonctionne de bout en bout pour une nouvelle journée. (1 MWh équivaut à 1 000 kWh.) Aucune heure n’a manqué d’énergie. Mais la veille du jour de l’An, la consommation était de 538,5 MWh, en dessous même de la prévision médiane de 583,8 MWh. La majeure partie des 953 € correspond donc à de l’énergie revendue. Regardez 19 h : 21 966 kWh consommés, contre 29 551 prévus. Un soir normal, la consommation est élevée. Ce soir-là, beaucoup d’établissements avaient fermé. Comme Noël, c’est une journée du calendrier que le modèle ne connaît pas. Additionner les q90 des 80 clients aurait fait acheter 673,5 MWh, pour 1 350 €.
Erreur courante
Le changement d'heure, une semaine plus tard
Symptôme : le dimanche 2 novembre 2014, la prévision « même heure la semaine dernière » pour 1 h est de 28 047 kWh pour tous les clients. La consommation réelle est de 15 464 kWh : la prévision est trop élevée de 81 %.
Cause : la prévision copie 1 h le 26 octobre, la nuit où les horloges ont reculé. Cette heure contient deux heures de consommation. Les décalages (lags) de 168 et 336 heures de LightGBM copient cette même valeur erronée dans ses entrées. Cela arrive une semaine et deux semaines plus tard.
Correction : corrigez les heures de changement d’heure avant tout modèle, comme dans Nettoyer sans masquer la demande. Après la correction, la valeur copiée est de 14 024 kWh.
Conséquence pour le travail en IA : les fuseaux horaires et les changements d’heure altèrent les données sans signe évident. Comptez les heures par jour et vérifiez les deux nuits de changement d’heure chaque année.
Recommandation
Section intitulée « Recommandation »Rui écrit à Inês dans les mots qu’elle utilise :
- Achetez le quantile à 90 % du total, fourni par Chronos-Bolt, chaque jour à 11 h. Dans la comparaison, il coûtait 393 € par jour, contre 915 € avec un achat et un règlement séparés par client.
- N’additionnez pas les marges de sécurité des clients. Le total restait sous la somme des 80 valeurs q90 pendant 99,7 % des heures : c’est beaucoup trop.
- Surveillez le calendrier. Le jour de Noël, chaque méthode coûtait environ trois fois une journée normale. La veille du jour de l’An, la consommation était bien inférieure à la prévision. Tant qu’un calendrier des jours fériés n’est pas testé, Inês devrait réduire l’achat à la main pour ces jours. Rui devrait consigner ces changements.
- Gardez une solution de repli. Si Chronos ne peut pas fonctionner, utilisez le LightGBM global, pas MSTL. Il coûte 1 015 € par jour avec un règlement séparé par client, et 528 € pour le total.
- Vérifiez le ratio critique. Le quantile 0,9 vient des coûts que nous avons supposés. Si un kWh manquant coûte 19 fois un kWh en trop, le ratio critique est de 0,95. Chronos-Bolt ne peut pas fournir un quantile 0,95 : il prédit seulement de 0,1 à 0,9. LightGBM aurait besoin d’un modèle q95 et d’un nouveau test rétrospectif.
Et voici les usages à éviter :
- Pas pour de nouveaux clients sans quelques semaines d’historique. Chronos a besoin d’un historique à lire. Consultez Nouveaux produits sans historique.
- Pas pour le réseau électrique. Une ligne électrique ou un transformateur a besoin d’une prévision de sa propre pointe, pas de l’achat du fournisseur.
- Pas comme promesse à un client. C’est une prévision avec une erreur connue, une WAPE de 5,5 % par client dans la comparaison, pas un contrat.
Constats et limites
Section intitulée « Constats et limites »- Le modèle de fondation a encore gagné. Comme chez Larkfield, Chronos-Bolt avait la meilleure exactitude et était le plus rapide, sans entraînement. Ici, il avait aussi le coût le plus bas. Beaucoup de séries publiques sur l’électricité ressemblent à ces données, ce qui peut l’aider. Ses coûts sont réels : son propre processus, 47,7 millions de paramètres, un téléchargement de 190 Mo et aucun quantile supérieur à 0,9.
- Ici, le modèle global bat les modèles par série. Le LightGBM global coûtait moins cher que 80 modèles MSTL et était plus de trois fois plus rapide. Mais un seul modèle partage ses quantiles, et son q90 était trop bas pour les petits clients.
- Le portefeuille compte plus que le modèle. Passer de Chronos par client à Chronos pour le total a économisé 522 € par jour. Passer de MSTL à Chronos par client a économisé 371 € par jour.
- Aucun calendrier. Aucune méthode ne connaît les jours fériés. Le jour de Noël était la journée la plus chère du test.
- Simplifications. Les règles du marché sont simples ici : un prix pour un kWh manquant et un autre pour un kWh en trop. Ces prix sont les mêmes à chaque heure. Les vrais prix changent chaque heure. MSTL n’a vu que 4 semaines pour garder le carnet rapide. Une fenêtre plus longue pourrait l’aider.
- Coûts supposés, anciennes données. Les montants de 0,09 € et 0,01 € sont nos choix. Les données viennent du Portugal en 2013 et 2014, avant la plupart des panneaux solaires, thermopompes et voitures électriques.
La leçon Surveiller la prévision du cours montre comment une alarme de biais détecterait le problème de décembre en production.
Utilisation responsable
Section intitulée « Utilisation responsable »- Les données concernent de vrais clients. Les noms des clients sont des codes, et les données ne contiennent aucun renseignement personnel. N’essayez pas de découvrir l’identité d’un client. La consommation horaire peut révéler quand un logement est vide.
- Citez la source. CC BY 4.0 permet de partager et de modifier les données. Incluez le texte d’attribution ci-dessus et une note sur vos changements.
- Un achat touche d’autres personnes. Quand un fournisseur achète trop peu, l’exploitant du réseau doit trouver rapidement l’énergie manquante. D’autres personnes partagent ce coût. Indiquez l’erreur et la couverture à côté de chaque prévision que vous remettez.
- Indiquez les hypothèses. Les coûts, la correction du changement d’heure et les règles du marché sont des choix. Précisez-le partout où un nombre en dépend.
Faites-en un projet pour votre portfolio
Section intitulée « Faites-en un projet pour votre portfolio »Cette étude de cas montre à un employeur que vous pouvez prévoir de nombreuses séries heure par heure. Vous transformez un quantile en quantité à acheter, avec son coût. Elle montre aussi que vous avez trouvé la plus grande économie ailleurs que dans le modèle. Vous présentez également un test dont les résultats étaient moins bons. Personnalisez-la avec un changement, par exemple d’autres coûts, un calendrier des jours fériés ou davantage de clients. Puis rendez-la publique et facile à lire en cinq minutes.
Quoi mettre dans le dépôt :
README.md, la page que les gens lisent d’abord (modèle ci-dessous).- Le carnet, exécuté du début à la fin, avec ses sorties.
checks.md: les heures de changement d’heure avant et après la correction, et les heures à zéro.backtest_table.csv: les quatre méthodes avec MASE, WAPE, biais, perte pinball (perte quantile) à 0,9, couverture et coût; etfinal_test.csv, conservé séparément.- La source et la licence des données, avec le texte d’attribution ci-dessus. CC BY 4.0 permet de partager le sous-ensemble en citant la source, mais un lien et une somme de contrôle suffisent.
Un modèle de README :
# Day-ahead electricity purchase for 80 customers
## ProblemA supplier buys tomorrow's energy at 11:00 today. A kWh short costs 0.09 euros extra,a kWh too much 0.01 (assumptions), so it buys the 90% quantile.
## Data and licenceUCI "ElectricityLoadDiagrams20112014" (Trindade), 80 customers, kWh per hour, 2013-2014,CC BY 4.0, https://doi.org/10.24432/C58C86. Clock-change hours fixed.
## ApproachBacktest: 12 origins Feb-Nov 2014 at 11:00, tomorrow's 24 hours (13-36 hours ahead).Same hour last week, MSTL (24, 168) per customer, one global LightGBM with quantilemodels, Chronos-Bolt small. Scored with pinball loss at 0.9, coverage and cost.
## ResultsChronos-Bolt: lowest cost, each customer settled alone (915 euros a day for all 80 vs1,015 LightGBM), q90 holds 91.3%.Buying the total's own q90: 393 euros a day; the sum of 80 q90s: 664.Final test (December): Chronos still cheapest; Christmas Day three times a normal day.
## LimitsNo holiday calendar; simple market rules; assumed costs; data from 2013-2014.Comment le décrire en entrevue, en trois phrases : « J’ai créé des prévisions par quantile pour le lendemain pour 80 vrais clients d’électricité. J’ai choisi un modèle préentraîné plutôt qu’un LightGBM global ou un MSTL par client, selon le coût de l’énergie achetée dans un test rétrospectif à origine glissante. La plus grande économie venait de prévoir le portefeuille plutôt que d’additionner les quantiles à 90 % des clients, et le test final a montré qu’il fallait un calendrier pour les jours fériés. »
Pour aller plus loin :
- Ajoutez un indicateur de jour férié au LightGBM global et faites un test rétrospectif sur les jours fériés de 2013.
- Ajustez MSTL sur 8 semaines plutôt que 4 et voyez s’il réduit l’écart.
- Comparez avec les autres études de cas, Demande de vélopartage et planification du parc et Ventes au détail avec une hiérarchie : où le ratio critique a-t-il le plus changé la décision?
À vous de jouer : le prix d’achat de la médiane
Section intitulée « À vous de jouer : le prix d’achat de la médiane »Avant l’exécution, faites une prédiction : combien coûte en plus l’achat de la médiane de Chronos plutôt que son q90? Dans la section 4 du carnet, calculez le coût quotidien de l’achat de la médiane (yhat). Utilisez fcs["Chronos-Bolt small"] et mettez le coût dans median_cost.
Afficher la réponse
median_cost = round(cap(tomorrow(fcs["Chronos-Bolt small"]), "yhat"))print(median_cost)1704Acheter la médiane coûte 1 704 € par jour, contre 915 € pour le q90 : 86 % de plus. La médiane manque d’énergie pendant environ la moitié des heures. Chaque kWh manquant coûte neuf fois un kWh en trop.
Vérification des connaissances
Section intitulée « Vérification des connaissances »Vérifiez votre compréhension
La prévision de Rui s'exécute à 11 h pour les 24 heures de demain. Pourquoi son LightGBM utilise-t-il des décalages de 48 heures ou plus, plutôt que la même heure hier (décalage de 24)?
Afficher la réponse
À 11 h aujourd’hui, les heures de demain sont de 13 à 36 heures dans le futur. Pour demain à 20 h, la même heure hier est aujourd’hui à 20 h. Cette heure n’est pas encore arrivée à 11 h. Un modèle utilisant un décalage de 24 utiliserait une valeur inexistante au moment de la prévision, ou sa propre estimation. Le décalage de 48 correspond à la même heure deux jours avant; celui de 168, à la même heure la semaine dernière. Les deux sont connus à 11 h pour chaque heure de demain. Le test rétrospectif correspond donc à ce que le fournisseur peut réellement faire.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Un kWh manquant coûte 0,09 € et un kWh en trop, 0,01 €. Quel quantile Inês devrait-elle acheter? Comment la perte pinball et la couverture indiquent-elles que le q90 d'une méthode est bon?
Afficher la réponse
Elle devrait acheter le quantile au ratio critique 0,09 ÷ (0,09 + 0,01) = 0,9, soit le quantile à 90 %. La perte pinball à 0,9 compte 0,9 pour chaque kWh au-dessus du q90 et 0,1 pour chaque kWh en dessous. Elle classe donc les méthodes selon la même règle de coût que l’achat : plus bas, c’est mieux. La couverture vérifie le niveau : environ 90 % des heures devraient être sous le q90. Chronos-Bolt avait la perte pinball la plus basse et 91,3 % des heures sous le q90. Les 93,3 % de MSTL indiquaient un q90 trop haut. Les 88,5 % de LightGBM indiquaient un q90 trop bas.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Vérifiez votre compréhension
Additionner les q90 des 80 clients coûtait 664 € par jour, et le q90 du total lui-même coûtait 393 €. Expliquez pourquoi la somme des quantiles est trop élevée.
Afficher la réponse
Le q90 de chaque client comprend une marge de sécurité pour ses propres heures de forte consommation. Les clients n’ont pas tous une heure de forte consommation en même temps. Dans le total, la consommation supplémentaire d’un client est donc souvent compensée par la consommation plus faible d’un autre. Le total varie ainsi moins, par rapport à sa taille, que chaque client. En additionnant 80 marges, vous vous préparez à une forte consommation simultanée des 80 clients. Cela n’arrive presque jamais : le total restait sous la somme pendant 99,7 % des heures, plutôt que 90 %. Une prévision du total lui-même donne un q90 bien étalonné et fait acheter moins.
Votre réponse contient-elle les points principaux de la nôtre ?
Connectez-vous et inscrivez-vous au cours pour enregistrer vos réponses. Chaque vérification compte pour le certificat.
Récapitulatif
- Vous avez corrigé les heures de changement d’heure : en mars, 1 h manque; en octobre, cette heure contient deux heures.
- Vous avez défini une prévision pour le lendemain. Elle s’exécute à 11 h et couvre les 24 heures de demain, de 13 à 36 heures dans le futur. Elle utilise des décalages de 48 heures ou plus.
- Un kWh manquant coûte neuf fois un kWh en trop : l’achat correspond donc au quantile à 90 %. La perte pinball à 0,9 et la couverture l’ont évalué.
- Chronos-Bolt a battu le LightGBM global et le MSTL par client : 915 € par jour avec un règlement séparé par client. Il avait 91,3 % des heures sous son q90.
- Acheter le q90 du total lui-même coûtait 393 € par jour, moins que la somme des q90 des clients (664 €). Le test final a confirmé le choix, et le jour de Noël a révélé l’absence de calendrier.
Ensuite, la troisième étude de cas : les ventes d’une boutique en ligne par pays et produit, avec des produits peu vendus et une commande de stock.
Leçon suivante : Ventes au détail avec une hiérarchie