R Notebook

Multikolinearita

Východiskový model a údaje

Budeme sa sústrediť na analýzu multikolinearity medzi premennými EBITDA marža, ROA, ROE, Z a M v rámci modelu regresie. Keď odhadneme základný model, môžeme pozorovať rozdiely medzi odhadmi regresných koeficientov, ktoré môžu signalizovať problémy s multikolinearitou.

Korelačná matica

Skontrolujeme koreláciu medzi týmito premennými, aby sme identifikovali akúkoľvek silnú koreláciu, ktorá by mohla naznačovať multikolinearitu. Ak je korelácia medzi dvoma alebo viacerými premennými vyššia ako 0.8, resp. 0.9, môžeme zvážiť vynechanie jednej z týchto premenných z modelu.

# Korelačná matica medzi premennými: EBITDA marža, ROA, ROE, Z a M

xvars <- udaje[, c("EBITDAmarza", "ROA", "ROE", "Z", "M")]
cor_matrix <- round(cor(xvars), 3)

# Výpis korelačnej matice

cor_matrix %>%
kbl(
caption = "Korelačná matica vysvetľujúcich premenných",
row.names = TRUE
) %>%
kable_classic(full_width = FALSE, html_font = "Arial") %>%
add_header_above(c(" " = 1, "Korelačná matica" = ncol(cor_matrix)))

Korelačná matica vysvetľujúcich premenných

	Korelačná matica
	EBITDAmarza	ROA	ROE	Z	M
EBITDAmarza	1.000	0.366	0.055	0.091	0.141
ROA	0.366	1.000	0.436	0.079	-0.100
ROE	0.055	0.436	1.000	0.086	0.105
Z	0.091	0.079	0.086	1.000	0.580
M	0.141	-0.100	0.105	0.580	1.000

NA

VIF (Variance Inflation Factor)

VIF je metóda, ktorá pomáha detekovať multikolinearitu tým, že meria infláciu variancie koeficientov. VIF vyšší ako 5 alebo 10 je varovný signál. Po výpočte VIF môžeme určiť, ktoré premenné sú príčinou multikolinearity a zvážiť ich vylúčenie z modelu.

# Predpokladám, že model je lineárny model s premennými ROE, ROA, EBITDA marža, Z a M
model <- lm(ROE ~ ROA + EBITDAmarza + Z + M, data = udaje)

# VIF pre premenné v modeli
vif_values <- vif(model)

# Konverzia na dátový rámec a výpis
vif_table <- data.frame(
  Premenná = names(vif_values),
  VIF = round(as.numeric(vif_values), 3)
)

# Výpis tabuľky
print(vif_table)

NA

Všetky VIF hodnoty sú výrazne pod prahom 5, čo naznačuje, že medzi týmito premennými nie je prítomná silná multikolinearita. Zvyčajne sa za indikátor problematickej multikolinearity považuje VIF > 5 (prísne kritérium) alebo VIF > 10 (menej prísne kritérium). Keďže hodnoty VIF sú pomerne nízke, môžeme dospieť k záveru, že v tomto modeli multikolinearita nie je problém.

# Výpočet Condition Number
X <- model.matrix(model)[, -1]  # odstránime intercept
XtX <- t(X) %*% X
eig <- eigen(XtX)

condition_number <- sqrt(max(eig$values) / min(eig$values))

condition_number

[1] 74.05863

Hodnota Condition Number je 74.06, čo znamená, že máme miernu multikolinearitu, pretože hodnota spadá do rozsahu 30–100. Tento stav naznačuje, že koeficienty môžu byť menej stabilné, ale nie sú nevyhnutne problematické.

Riešenie problému multikolinearity

Vynechanie premennej

Jedným zo spôsobov, ako zlepšiť stabilitu modelu, je vynechať niektoré premenné. Na to sa pozrieme, ako sa mení upravený koeficient determinácie pri vynechaní jednotlivých premenných z modelu.

Najprv použijeme model, ktorý bude zahŕňať všetky premenné, a následne odstránime premenné jednu po druhej, aby sme porovnali výsledky

# Model s všetkými premennými

model_full <- lm(M ~ ROA + EBITDAmarza + Z + M, data = udaje)

# Model bez premennej ROA

model_noROA <- lm(M ~ EBITDAmarza + Z + M, data = udaje)

# Model bez premennej EBITDAmarza

model_noEBITDA <- lm(M ~ ROA + Z + M, data = udaje)

# Model bez premennej Z

model_noZ <- lm(M ~ ROA + EBITDAmarza + M, data = udaje)

# Výpis upravených koeficientov determinácie (R^2_adj) pre jednotlivé modely

model_comparison <- data.frame(
Model = c("Full model", "Without ROA", "Without EBITDAmarza", "Without Z"),
Adj_R2 = c(summary(model_full)$adj.r.squared,
summary(model_noROA)$adj.r.squared,
summary(model_noEBITDA)$adj.r.squared,
summary(model_noZ)$adj.r.squared)
)

model_comparison

NA

Pôvodný model (Full model):

Adjusted R² = 0.343 – Tento model, ktorý obsahuje všetky premenné (ROA, EBITDA marža, Z, M), vysvetľuje približne 34.3% variability v závislej premennej (v tomto prípade M).

Model bez ROA:

Adjusted R² = 0.318 – Po vynechaní ROA z modelu sa vysvetlenie variability znížilo len minimálne, o približne 2.5%. ROA teda nie je kľúčovou premennou v tomto modeli, čo môže naznačovať, že jej prítomnosť neovplyvňuje výkon modelu výrazne.

Model bez EBITDA marže:

Adjusted R² = 0.332 – Po vynechaní EBITDA marže z modelu došlo k miernemu poklesu o 1.1%, čo naznačuje, že EBITDA marža má stredný vplyv na model, ale nie je úplne rozhodujúca pre vysvetlenie variability.

Model bez Z:

Adjusted R² = 0.008 – Po vynechaní Z došlo k dramatickému poklesu v vysvetlení variability. Model už takmer nevysvetľuje žiadnu variabilitu v závislej premennej. Tento výsledok jasne naznačuje, že Z je kľúčovou premennou, bez ktorej model stráca svoju výpovednú hodnotu.

Zhrnutie:

Z je najdôležitejšou premennou v modely, pretože jej vynechanie spôsobí dramatický pokles Adjusted R².

ROA a EBITDA marža majú menší vplyv na model, pričom vynechanie týchto premenných vedie k miernemu poklesu vysvetlenej variability.

M je pravdepodobne silne závislá na Z, čo podporuje význam tejto premennej pre celkový model.

Na základe tejto analýzy môžeme zvážiť, že Z je kľúčová pre vysvetlenie výsledkov a model by mal zostať s touto premennou, zatiaľ čo ROA a EBITDA marža môžu byť vylúčené, ak chceme zjednodušiť model bez významnej straty na kvalite vysvetlenia.