Prognostické využitie lineárneho regresného modelu – udržateľná energetika
Úvod
V tomto cvičení nadväzujem na analýzu databázy Global Data on Sustainable Energy. V predchádzajúcich cvičeniach som skúmal vzťah medzi ekonomickými a energetickými ukazovateľmi a podielom nízkouhlíkovej elektriny.
Teraz sa zameriavam na prognostické využitie lineárneho regresného modelu.
Výskumná otázka: Ako presne dokážeme pomocou HDP na obyvateľa a spotreby energie predpovedať podiel nízkouhlíkovej elektriny v krajinách, ktoré neboli použité pri odhade regresného modelu?
Používam prierezové údaje za rok 2019. Jedno pozorovanie predstavuje jednu krajinu.
Keďže nejde o časový rad, výsledkom je predikcia pre krajiny mimo odhadovej vzorky, nie predpoveď budúceho roku.
Metodická poznámka: Špecifikáciu modelu sme skúmali už v predchádzajúcom cvičení na celej databáze. Preto dodatočné rozdelenie údajov na odhadovú a testovaciu vzorku neposkytuje úplne nezávislé overenie prognostickej presnosti. Model však znovu odhadneme výhradne na odhadovej vzorke a prognostické chyby vypočítame na oddelenej testovacej vzorke.
1. Načítanie údajov a pracovnej pamäte
Najskôr sa pokúsim obnoviť pracovné prostredie z predchádzajúceho cvičenia.
Ak pamäť nie je dostupná alebo neobsahuje pripravené údaje, načítam pôvodný CSV súbor.
pamat_subory <-c("pamat_cvicenie5.RData","pamat_cvicenie5.Rdata")pamat_existuje <- pamat_subory[file.exists(pamat_subory)]if (length(pamat_existuje) >0) {load(pamat_existuje[1])cat("Pracovná pamäť bola načítaná.\n")} else {cat("Pamäť z cvičenia 5 nebola nájdená.\n")}
Pracovná pamäť bola načítaná.
if (!exists("reg_data") ||!is.data.frame(reg_data) ||!all(c("low_carbon","gdp_tisic","energy_tisic","gdp_pc","energy_pc" ) %in%names(reg_data))) { subor <-"global-data-on-sustainable-energy (1).csv" moznosti <-c( subor,file.path("udaje", subor),file.path("data", subor),"global-data-on-sustainable-energy.csv" ) existujuce <- moznosti[file.exists(moznosti)]if (length(existujuce) ==0) {stop("Nenašla sa pamäť ani CSV databáza. Vlož CSV do priečinka s Cvicenie7.qmd." ) } udaje <-read.csv( existujuce[1],check.names =FALSE,stringsAsFactors =FALSE ) d <- udaje[udaje$Year ==2019, ] reg_data <-data.frame(krajina = d[["Entity"]],low_carbon =as.numeric( d[["Low-carbon electricity (% electricity)"]] ),gdp_pc =as.numeric( d[["gdp_per_capita"]] ),energy_pc =as.numeric( d[["Primary energy consumption per capita (kWh/person)"]] ),intensity =as.numeric( d[["Energy intensity level of primary energy (MJ/$2017 PPP GDP)"]] ) ) reg_data <- reg_data[complete.cases(reg_data) & reg_data$low_carbon >=0& reg_data$low_carbon <=100& reg_data$gdp_pc >0& reg_data$energy_pc >0& reg_data$intensity >0, , drop =FALSE ] reg_data$gdp_tisic <- reg_data$gdp_pc /1000 reg_data$energy_tisic <- reg_data$energy_pc /1000rownames(reg_data) <-make.unique(reg_data$krajina)cat("Údaje boli načítané z CSV.\n")}stopifnot(is.data.frame(reg_data),nrow(reg_data) >=30)cat("Počet krajín:", nrow(reg_data), "\n")
Počet krajín: 158
2. Príprava údajov na prognózovanie
Používam tri premenné:
low_carbon – podiel nízkouhlíkovej elektriny v percentách.
gdp_tisic – HDP na obyvateľa v tisícoch USD.
energy_tisic – primárna spotreba energie na obyvateľa v tisícoch kWh.
udaje7 <- reg_data[ ,c("low_carbon", "gdp_tisic", "energy_tisic"), drop =FALSE]udaje7 <- udaje7[complete.cases(udaje7), , drop =FALSE]stopifnot(nrow(udaje7) >=30,all(is.finite(as.matrix(udaje7))))knitr::kable(head(udaje7, 10),digits =3,caption ="Pripravené údaje pre prognostickú analýzu")
cat("Priemerná absolútna chyba MAE dosahuje **",round(MAE, 3)," percentuálneho bodu**.\n\n",sep ="")
Priemerná absolútna chyba MAE dosahuje 22.809 percentuálneho bodu.
cat("Hodnota RMSE je **",round(RMSE, 3)," percentuálneho bodu**.\n\n",sep ="")
Hodnota RMSE je 26.56 percentuálneho bodu.
if (ME >0) {cat("Kladná hodnota ME znamená, že model ","v priemere podhodnocuje skutočný podiel ","nízkouhlíkovej elektriny.\n\n" )} elseif (ME <0) {cat("Záporná hodnota ME znamená, že model ","v priemere nadhodnocuje skutočný podiel ","nízkouhlíkovej elektriny.\n\n" )} else {cat("Priemerná podpísaná chyba je nulová.\n\n" )}
Záporná hodnota ME znamená, že model v priemere nadhodnocuje skutočný podiel nízkouhlíkovej elektriny.
if (is.finite(MAPE)) {cat("Priemerná absolútna percentuálna chyba ","MAPE je **",round(MAPE, 2)," %**.",sep ="" )} else {cat("MAPE nepočítam, pretože testovacia vzorka ","obsahuje nulové hodnoty vysvetľovanej premennej." )}
MAPE nepočítam, pretože testovacia vzorka obsahuje nulové hodnoty vysvetľovanej premennej.
9. Porovnanie s naivnou prognózou
Presnosť regresného modelu porovnávam s jednoduchou referenčnou prognózou.
Naivná prognóza predpokladá, že každá testovacia krajina bude mať rovnaký podiel nízkouhlíkovej elektriny, a to priemer z odhadovej vzorky.
Priemer testovacej vzorky nepoužívam, pretože by tým došlo k úniku informácií.
naivna_prognoza <-rep(mean(odhadova$low_carbon),nrow(testovacia))chyba_naivna <- ( skutocnost - naivna_prognoza)porovnanie <-data.frame(Model =c("Lineárna regresia","Naivná prognóza – priemer odhadovej vzorky" ),MAE =c( MAE,mean(abs(chyba_naivna)) ),RMSE =c( RMSE,sqrt(mean(chyba_naivna^2)) ))knitr::kable( porovnanie,digits =3,caption ="Regresný model oproti naivnej prognóze")
Regresný model oproti naivnej prognóze
Model
MAE
RMSE
Lineárna regresia
22.809
26.560
Naivná prognóza – priemer odhadovej vzorky
26.023
30.063
Interpretácia porovnania
if (porovnanie$RMSE[1] < porovnanie$RMSE[2]) {cat("Regresný model dosahuje nižšiu hodnotu RMSE ","ako naivná prognóza. Podľa tohto ukazovateľa ","predpovedá presnejšie." )} elseif (porovnanie$RMSE[1] > porovnanie$RMSE[2]) {cat("Naivná prognóza dosahuje nižšiu hodnotu RMSE ","ako regresný model. Regresia teda podľa RMSE ","neprekonala jednoduchú referenčnú prognózu." )} else {cat("Oba modely dosahujú rovnakú hodnotu RMSE." )}
Regresný model dosahuje nižšiu hodnotu RMSE ako naivná prognóza. Podľa tohto ukazovateľa predpovedá presnejšie.
10. Theilov koeficient kvality prognóz
Theilov koeficient \(U_1\) predstavuje bezrozmerný ukazovateľ prognostickej presnosti.
cat("Theilov koeficient U1 dosahuje hodnotu **",round(Theil_U1, 5),"**.\n\n",sep ="")
Theilov koeficient U1 dosahuje hodnotu 0.31931.
cat("Tento ukazovateľ vyjadruje relatívnu ","nezhodu medzi skutočnými a prognózovanými ","hodnotami. Nižšia hodnota znamená ","lepšiu zhodu, ale neexistuje univerzálna ","hranica dobrej prognózy.")
Tento ukazovateľ vyjadruje relatívnu nezhodu medzi skutočnými a prognózovanými hodnotami. Nižšia hodnota znamená lepšiu zhodu, ale neexistuje univerzálna hranica dobrej prognózy.
11. Theilov rozklad strednej kvadratickej chyby
Theilov rozklad umožňuje preskúmať, z akých zložiek pozostáva prognostická chyba.
Rozlišujem tri zložky:
\(U^M\) – podiel chyby spôsobený nesúladom priemerov.
\(U^S\) – podiel chyby spôsobený rozdielnou variabilitou.
\(U^C\) – podiel chyby súvisiaci s nedokonalou súbežnosťou hodnôt.
if (all(is.finite(rozklad$Percent))) {barplot( rozklad$Percent,names.arg =c("Priemer","Variabilita","Súbežnosť" ),ylab ="Podiel na MSE (%)",main ="Theilov rozklad prognostickej chyby",ylim =c(0, 100) )} else {plot.new()text(0.5,0.5,"Dokonalá prognóza: podiely nie sú definované" )}
Interpretácia rozkladu
if (all(is.finite(rozklad$Podiel))) { najvacsia <-which.max( rozklad$Podiel )cat("Najväčší podiel na prognostickej chybe má ","zložka **", rozklad$Zlozka[najvacsia],"**, ktorá predstavuje **",round( rozklad$Percent[najvacsia],2 )," %** celkovej MSE.\n\n",sep ="" )cat("Theilov rozklad opisuje štruktúru ","prognostickej chyby, nie jej príčinné vysvetlenie." )} else {cat("Prognóza je dokonalá a rozklad ","podielov nie je definovaný." )}
Najväčší podiel na prognostickej chybe má zložka U^S – variabilita, ktorá predstavuje 61.88 % celkovej MSE.
Theilov rozklad opisuje štruktúru prognostickej chyby, nie jej príčinné vysvetlenie.
12. Intervaly pri prognózovaní
Bodová prognóza predstavuje jednu predpovedanú hodnotu. Nevyjadruje však neistotu prognózy.
Preto rozlišujem:
Interval spoľahlivosti strednej hodnoty: vyjadruje neistotu odhadu priemerného podielu nízkouhlíkovej elektriny pri daných hodnotách vysvetľujúcich premenných.
Predikčný interval: vyjadruje neistotu pri predikcii jednej konkrétnej krajiny.
Predikčný interval býva širší, pretože okrem neistoty regresného odhadu zohľadňuje aj nevysvetlené individuálne rozdiely.
Intervaly sú vypočítané podľa klasických predpokladov lineárneho regresného modelu. Pri porušení týchto predpokladov nemusia dosahovať deklarované pokrytie.
cat("Vypočítané 95 % predikčné intervaly ","obsahujú skutočné hodnoty pri **",round(100* pokrytie_PI, 2)," %** krajín z testovacej vzorky.\n\n",sep ="")
Vypočítané 95 % predikčné intervaly obsahujú skutočné hodnoty pri 100 % krajín z testovacej vzorky.
cat("Skutočné pokrytie sa nemusí presne ","rovnať 95 %, pretože pracujeme s konečnou ","testovacou vzorkou a klasickými ","predpokladmi regresného modelu.")
Skutočné pokrytie sa nemusí presne rovnať 95 %, pretože pracujeme s konečnou testovacou vzorkou a klasickými predpokladmi regresného modelu.
13. Malé cvičenie – zmena modelu
Ako doplňujúcu úlohu odhadnem druhý model s logaritmickou transformáciou HDP na obyvateľa.
if (RMSE_log < RMSE) {cat("Model s logaritmickou transformáciou ","HDP dosiahol nižšiu hodnotu RMSE ","ako pôvodný lineárny model." )} elseif (RMSE_log > RMSE) {cat("Pôvodný lineárny model dosiahol ","nižšiu hodnotu RMSE ako model ","s logaritmickou transformáciou HDP." )} else {cat("Oba modely dosiahli rovnakú hodnotu RMSE." )}
Pôvodný lineárny model dosiahol nižšiu hodnotu RMSE ako model s logaritmickou transformáciou HDP.
Výber lepšieho modelu na základe tejto testovacej vzorky znamená, že rovnakú vzorku už nemožno považovať za nezávislé potvrdenie presnosti vybraného modelu.
14. Theilov rozklad druhého modelu
Vypočítam Theilove zložky aj pre model s logaritmom HDP.
Predikčný interval je širší, pretože zahŕňa aj náhodnú variabilitu individuálneho pozorovania, nielen neistotu odhadu podmienenej strednej hodnoty.
16. Metodická reflexia
Správny prognostický postup vyžaduje rozdeliť údaje na odhadovú a testovaciu vzorku ešte pred výberom regresorov a funkčného tvaru modelu.
V našom prípade sme však už v predchádzajúcich cvičeniach skúmali celú databázu. Preto existuje riziko úniku informácií z testovacej vzorky do rozhodovania o modeli.
V tomto cvičení sme regresné koeficienty znovu odhadli iba na odhadovej vzorke. Výsledky prognostickej presnosti preto interpretujeme ako didaktickú ilustráciu, nie ako úplne nezávislé potvrdenie presnosti modelu.
17. Záverečné zhodnotenie
V tomto cvičení som použil lineárny regresný model na predikciu podielu nízkouhlíkovej elektriny v krajinách sveta.
Údaje som rozdelil na odhadovú a testovaciu vzorku. Regresný model bol odhadnutý na 80 % krajín a jeho prognostická presnosť bola vyhodnotená na zvyšných 20 %.
Vypočítal som prognostické chyby a ukazovatele ME, MAE, MSE, RMSE a MAPE. Presnosť regresného modelu som porovnal aj s jednoduchou naivnou prognózou.
Následne som vypočítal Theilov koeficient a jeho rozklad na tri zložky. Zostavil som tiež 95 % intervaly spoľahlivosti a predikčné intervaly.
Na záver som porovnal pôvodný lineárny model s modelom využívajúcim logaritmickú transformáciu HDP.
cat("Pôvodný model dosiahol MAE **",round(MAE, 3),"** a RMSE **",round(RMSE, 3),"** percentuálneho bodu.\n\n",sep ="")
Pôvodný model dosiahol MAE 22.809 a RMSE 26.56 percentuálneho bodu.
cat("Theilov koeficient U1 dosiahol hodnotu **",round(Theil_U1, 5),"**.\n\n",sep ="")
Theilov koeficient U1 dosiahol hodnotu 0.31931.
lepsi <-which.min( porovnanie_modelov$RMSE)cat("Nižšiu hodnotu RMSE z porovnávaných ","modelov dosiahol **", porovnanie_modelov$Model[lepsi],"**.\n\n",sep ="")
Nižšiu hodnotu RMSE z porovnávaných modelov dosiahol Pôvodný lineárny model.
cat("Výsledky predstavujú ilustráciu ","prognostického využitia regresie ","na prierezových údajoch.")
Výsledky predstavujú ilustráciu prognostického využitia regresie na prierezových údajoch.
18. Uloženie pracovného prostredia
Na konci cvičenia uložím vytvorené objekty, prognózy a regresné modely.
save.image(file ="pamat_cvicenie7.RData")cat("Pracovné prostredie bolo úspešne uložené.")
Pracovné prostredie bolo úspešne uložené.
Použité zdroje
Gazda, V. Econometrics in R – Cvičenie 7: Prognostické využitie lineárneho regresného modelu. http://rpubs.com/gazdavladimir/1476375
Global Data on Sustainable Energy. Kaggle. https://www.kaggle.com/datasets/anshtanwar/global-data-on-sustainable-energy
R Core Team. R: A Language and Environment for Statistical Computing.
Dokumentácia R: lm(), predict(), sample(), mean() a cor().