Zum Datensatz

Die Daten zum Geburtsgewicht (“birthweight”) wurden am Baystate Medical Center, Springfield, 1986 gesammelt (Ref).

Folgende Variablen sind enthalten:

  • low: indicator of birth weight less than 2.5 kg (0 = no, 1 = yes).
  • age: mother’s age in years.
  • lwt: mother’s weight in pounds at last menstrual period.
  • smoke: smoking status during pregnancy (0 = no, 1 = yes).
  • ht: history of hypertension (0 = no, 1 = yes).
  • ui: presence of uterine irritability (0 = no, 1 = yes).
  • ftv: number of physician visits during the first trimester.
  • bwt: Birthweight in grams.
  • socclass: socioeconomic status (I = highest, III = lowest).

Der Datensatz ist als “bwt-full.csv” auf Moodle abgelegt.


Aufgabe

Importiere den Datensatz und verschaffe dir einen Überblick. Speichere die Variablen low, smoke und socclass als Faktoren.


Lösungen

Mit str() können wir die Struktur des Datensatzes untersuchen:

library(rio)
bwt <- import("../data/bwt-full.csv")
str(bwt)
## 'data.frame':    189 obs. of  9 variables:
##  $ low     : int  0 0 0 0 0 0 0 0 0 0 ...
##  $ age     : int  19 33 20 21 18 21 22 17 29 26 ...
##  $ lwt     : int  182 155 105 108 107 124 118 103 123 113 ...
##  $ smoke   : int  0 0 1 1 1 0 0 0 1 1 ...
##  $ ht      : int  0 0 0 0 0 0 0 0 0 0 ...
##  $ ui      : int  1 0 0 1 1 0 0 0 0 0 ...
##  $ ftv     : int  0 3 1 2 0 0 1 1 1 0 ...
##  $ bwt     : int  2523 2551 2557 2594 2600 2622 2637 2637 2663 2665 ...
##  $ socclass: chr  "II" "III" "I" "I" ...

Wir speichern die Variablen low, smoke und socclass als Faktoren.

bwt$low <- factor(bwt$low, levels = c(0,1), labels = c("no", "yes"))
bwt$smoke <- factor(bwt$smoke, levels = c(0,1), labels = c("no", "yes"))
bwt$socclass <- factor(bwt$socclass, levels = c("I", "II", "III"), labels = c("I", "II", "III"))

Bei socclass würde hier auch bwt$socclass <- factor(bwt$socclass) genügen, da die vorhandenen Kategorien in der gewünschten Reihenfolge angeordnet würden. Die explizite Angabe der Faktorstufen legt die Referenzkategorie I jedoch reproduzierbar fest. Wir behandeln socclass als nominalen Faktor und schätzen für die Kategorien II und III separate Koeffizienten. Mit str() kontrollieren wir die Kodierung:

str(bwt)
## 'data.frame':    189 obs. of  9 variables:
##  $ low     : Factor w/ 2 levels "no","yes": 1 1 1 1 1 1 1 1 1 1 ...
##  $ age     : int  19 33 20 21 18 21 22 17 29 26 ...
##  $ lwt     : int  182 155 105 108 107 124 118 103 123 113 ...
##  $ smoke   : Factor w/ 2 levels "no","yes": 1 1 2 2 2 1 1 1 2 2 ...
##  $ ht      : int  0 0 0 0 0 0 0 0 0 0 ...
##  $ ui      : int  1 0 0 1 1 0 0 0 0 0 ...
##  $ ftv     : int  0 3 1 2 0 0 1 1 1 0 ...
##  $ bwt     : int  2523 2551 2557 2594 2600 2622 2637 2637 2663 2665 ...
##  $ socclass: Factor w/ 3 levels "I","II","III": 2 3 1 1 1 3 1 3 1 1 ...

1: Analyse von \(2 \times 2\)-Tabellen

In dieser Übung ist die abhängige Variable low (niedriges Geburtsgewicht des Kindes, das heisst < 2.5 kg) und die unabhängige Variable smoke. Zu Beginn sollst du eine Analyse durchführen, um einen möglichen Zusammenhang zwischen diesen beiden Variablen zu prüfen.

Aufgaben

  1. Erstelle eine \(2 \times 2\)-Tabelle mit der Variablen smoke in den Zeilen und der Variablen low in den Spalten.
  2. Welche Möglichkeiten kennst du bereits aus dem Unterricht, um zu untersuchen, ob zwischen den beiden Variablen ein Zusammenhang besteht?
  3. Berechne das Odds Ratio für das Ereignis “niedriges Geburtsgewicht” für die Raucherinnen versus die Nichtraucherinnen. Nutze die Funktion oddsratio() aus dem Paket epitools. Wie ist das Resultat zu interpretieren?

Lösungen

Wir erstellen die \(2 \times 2\)-Tabelle mit der Variablen low in den Spalten und der Variablen smoke in den Zeilen:

smoke_2by2 <- table(bwt$smoke, bwt$low, dnn = c("smoke", "low"))
smoke_2by2
##      low
## smoke no yes
##   no  86  29
##   yes 44  30

Für einen ersten Vergleich betrachten wir die Anteile niedriger Geburtsgewichte innerhalb der beiden Rauchstatusgruppen; absolute Zellhäufigkeiten allein berücksichtigen die unterschiedlichen Gruppengrössen nicht.

Wir könnten die Unabhängigkeit mit einem \(\chi^2\)-Test prüfen (chisq.test()), die Anteile niedriger Geburtsgewichte vergleichen (prop.test()) oder das Odds Ratio schätzen (oddsratio()). Ein Risk Ratio (riskratio()) ist als Risikoverhältnis interpretierbar, wenn das Studiendesign die Schätzung der Ereignisrisiken erlaubt. Mit einer logistischen Regression können wir den Zusammenhang ebenfalls untersuchen und zusätzlich für weitere Variablen adjustieren.


Berechnung des OR mit oddsratio():

Zuerst sollte mit ?oddsratio überprüft werden, ob die Tabelle richtig ausgerichtet ist. Dies ist der Fall. Wir setzen hier das Argument method="wald", damit wir dieses Resultat vergleichen können mit einem glm()-Fit weiter unten.

library(epitools)
oddsratio(smoke_2by2,method="wald")$measure
##      odds ratio with 95% C.I.
## smoke estimate   lower    upper
##   no  1.000000      NA       NA
##   yes 2.021944 1.08066 3.783112

Wie ist das Resultat zu interpretieren?

Das geschätzte OR beträgt 2.022. Die geschätzten Odds für ein niedriges Geburtsgewicht sind bei Raucherinnen somit 2.022-mal so hoch wie bei Nichtraucherinnen. Das 95%-Wald-Konfidenzintervall von 1.081 bis 3.783 enthält den Nullwert 1 nicht; der entsprechende zweiseitige Wald-Test ist auf dem 5%-Niveau statistisch signifikant. Dies spricht für einen Zusammenhang zwischen Rauchen und niedrigem Geburtsgewicht. Das OR beschreibt ein Verhältnis von Odds, nicht von Wahrscheinlichkeiten, und belegt für sich genommen keinen kausalen Effekt.


2: Einfache logistische Regression

Aufgaben

Es werden nun die Ergebnisse von oben mittels logistischer Regression berechnet.

  1. Berechne den Zusammenhang zwischen low (abhängige Variable) und smoke (unabhängige Variable) mit der Funktion glm(). Speichere das Ergebnis als glm_smoke ab. Lass dir am Schluss eine Zusammenfassung der angepassten logistischen Regression anzeigen.
  2. Welches sind die Regressionskoeffizienten?
  3. Was bedeuten die Regressionskoeffizienten?
  4. Lass dir die beiden Regressionskoeffizienten in exponentierter Form anzeigen.
  5. Lass dir die 95%-Konfidenzintervalle der beiden Regressionskoeffizienten in exponentierter Form anzeigen.
  6. Berechne die Odds für niedriges Geburtsgewicht bei Müttern, die rauchen.
  7. Berechne die Wahrscheinlichkeit für ein niedriges Geburtsgewicht für die Raucherinnen und die Nichtraucherinnen.
  8. Überprüfe anhand der \(2 \times 2\)-Tabelle die in 7. berechneten Wahrscheinlichkeiten.

Lösungen

Wir modellieren die Wahrscheinlichkeit von low == "yes", also der zweiten Faktorstufe, mit einem Binomialmodell und Logit-Link. Dabei setzen wir unabhängige Beobachtungen voraus. Es wird das folgende Modell angepasst:

glm_smoke <- glm(low ~ smoke, data = bwt, family = binomial)
summary(glm_smoke)
## 
## Call:
## glm(formula = low ~ smoke, family = binomial, data = bwt)
## 
## Coefficients:
##             Estimate Std. Error z value Pr(>|z|)    
## (Intercept)  -1.0871     0.2147  -5.062 4.14e-07 ***
## smokeyes      0.7041     0.3196   2.203   0.0276 *  
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## (Dispersion parameter for binomial family taken to be 1)
## 
##     Null deviance: 234.67  on 188  degrees of freedom
## Residual deviance: 229.80  on 187  degrees of freedom
## AIC: 233.8
## 
## Number of Fisher Scoring iterations: 4

Die Regressionskoeffizienten sind nun im Objekt glm_smoke gespeichert. Wir können sie mit dem Zusatz $coefficients abrufen:

glm_smoke$coefficients
## (Intercept)    smokeyes 
##  -1.0870515   0.7040592

Die Regressionskoeffizienten finden sich unter Estimate. Der geschätzte Intercept \(\hat{\beta}_0\) beträgt -1.0871 und der geschätzte Koeffizient für smoke == yes (\(\hat{\beta}_1\)) beträgt 0.7041.

\(\hat{\beta}_0\) (Intercept) ist der geschätzte Logit, also der natürliche Logarithmus der Odds für ein niedriges Geburtsgewicht bei Nichtraucherinnen. \(\hat{\beta}_1\) ist die geschätzte Differenz der Logits zwischen Raucherinnen und Nichtraucherinnen und damit der natürliche Logarithmus des geschätzten Odds Ratios.

Mit exp() exponentieren wir die Koeffizienten. Der exponentierte Intercept ergibt die geschätzten Odds bei Nichtraucherinnen; der exponentierte Rauchkoeffizient ergibt das geschätzte Odds Ratio:

exp(glm_smoke$coefficients)
## (Intercept)    smokeyes 
##   0.3372093   2.0219436

Mit confint() erhalten wir für dieses logistische Modell Profil-Likelihood-Konfidenzintervalle der Regressionskoeffizienten. Nach dem Exponentieren beziehen sie sich beim Intercept auf die Odds der Referenzgruppe und beim Rauchkoeffizienten auf das OR. Mit confint.default() erhalten wir stattdessen Wald-Intervalle auf Basis der asymptotischen Normalverteilung der Koeffizientenschätzer.

exp(confint(glm_smoke)) # Exponentierte Profil-Likelihood-Konfidenzintervalle
##                 2.5 %    97.5 %
## (Intercept) 0.2177709 0.5070199
## smokeyes    1.0818724 3.8005817
exp(confint.default(glm_smoke)) ## Wald-Konfidenzintervalle
##                 2.5 %    97.5 %
## (Intercept) 0.2213695 0.5136665
## smokeyes    1.0806599 3.7831106

Das exponentierte Wald-Konfidenzintervall für den Rauchkoeffizienten stimmt mit dem OR-Intervall von oddsratio(..., method = "wald") weiter oben überein.

Dieselben Ergebnisse lassen sich mit parameters() aus dem gleichnamigen Paket übersichtlich darstellen. Mit exponentiate = TRUE erhalten wir exponentierte Schätzwerte und 95%-Konfidenzintervalle: Odds für den Intercept und ein OR für den Rauchkoeffizienten. Über ci_method = "profile" beziehungsweise ci_method = "wald" wählen wir die Intervallmethode.

parameters::parameters(glm_smoke,ci_method="profile",exponentiate=TRUE,digits=3)
## Parameter   | Odds Ratio |    SE |         95% CI |      z |      p
## -------------------------------------------------------------------
## (Intercept) |      0.337 | 0.072 | [0.218, 0.507] | -5.062 | < .001
## smoke [yes] |      2.022 | 0.646 | [1.082, 3.801] |  2.203 | 0.028
parameters::parameters(glm_smoke,ci_method="wald",exponentiate=TRUE,digits=3)
## Parameter   | Odds Ratio |    SE |         95% CI |      z |      p
## -------------------------------------------------------------------
## (Intercept) |      0.337 | 0.072 | [0.221, 0.514] | -5.062 | < .001
## smoke [yes] |      2.022 | 0.646 | [1.081, 3.783] |  2.203 | 0.028

Bei der logistischen Regression beschreibt der geschätzte lineare Prädiktor den Logit der modellierten Ereigniswahrscheinlichkeit. Durch Exponentieren erhalten wir die geschätzten Odds. Hier berechnen wir die Odds für niedriges Geburtsgewicht bei Müttern, die rauchen. Der lineare Prädiktor ist:

logit_smokers <-  glm_smoke$coefficients[1] + glm_smoke$coefficients[2] # analog lineares Model

Der lineare Prädiktor liegt auf der Logit-Skala. Durch Exponentieren erhalten wir die Odds:

unname(exp(logit_smokers))
## [1] 0.6818182

Die geschätzte Wahrscheinlichkeit des Ereignisses low=="yes" bekommen wir mit der logistischen Funktion:

logit_smokers <- glm_smoke$coefficients[1] + glm_smoke$coefficients[2]
p_smokers <- exp(logit_smokers)/(1+exp(logit_smokers)) # p = Odds/(1+Odds)
unname(p_smokers)
## [1] 0.4054054
logit_non_smokers <- glm_smoke$coefficients[1]
p_nonsmokers <- exp(logit_non_smokers)/(1+exp(logit_non_smokers)) # p = Odds/(1+Odds)
unname(p_nonsmokers)
## [1] 0.2521739

In dieser (einfachen) Situation mit einem zweiwertigen Prädiktor kann man diese Wahrscheinlichkeiten gut anhand der \(2 \times 2\)-Tabelle nachrechnen und nachvollziehen:

smoke_2by2
##      low
## smoke no yes
##   no  86  29
##   yes 44  30
smoke_2by2[,2]/(smoke_2by2[,1] + smoke_2by2[,2]) # stimmt mit der log. Reg. überein
##        no       yes 
## 0.2521739 0.4054054

Diese bedingten Wahrscheinlichkeiten (gegeben den Rauchstatus) bekommen wir auch mit proportions(), wenn man auf Zeilen bedingt.

proportions(smoke_2by2,margin=1)##gegeben Zeilen
##      low
## smoke        no       yes
##   no  0.7478261 0.2521739
##   yes 0.5945946 0.4054054



3: Multiple logistische Regression

Aufgaben

  1. Füge dem Modell glm_smoke als weiteren Prädiktor die Variable socclass hinzu. Speichere das neue Modell im Objekt glm_multi_1. Lass dir die Zusammenfassung des Modells anzeigen.
  2. Vergleiche das erste und das zweite Modell mit einem Likelihood-Ratio-Test. Verbessert die Hinzunahme der Variablen socclass die Modellanpassung?
  3. Hat sich der geschätzte Zusammenhang zwischen Rauchen und niedrigem Geburtsgewicht im multiplen Modell gegenüber dem einfachen Modell (glm_smoke) verändert? Wie lässt sich dies einordnen? Betrachte dazu die Kreuztabellen table(bwt$socclass,bwt$smoke) und table(bwt$socclass,bwt$low) sowie die Vorzeichen von cor(as.numeric(bwt$socclass),as.numeric(bwt$low)) und cor(as.numeric(bwt$socclass),as.numeric(bwt$smoke)).
  4. Wie gross sind die Odds und die Wahrscheinlichkeit für ein niedriges Geburtsgewicht bei einer Mutter mit sozioökonomischem Status = III, die nicht raucht?
  5. Wie gross sind die entsprechenden Odds und die Wahrscheinlichkeit, wenn eine Mutter mit sozioökonomischem Status = III raucht?

Lösungen

Das neue Modell wird wie folgt angepasst:

glm_multi_1 <- glm(low ~ smoke + socclass, data = bwt, family = binomial)
summary(glm_multi_1)
## 
## Call:
## glm(formula = low ~ smoke + socclass, family = binomial, data = bwt)
## 
## Coefficients:
##             Estimate Std. Error z value Pr(>|z|)    
## (Intercept)  -1.8405     0.3529  -5.216 1.83e-07 ***
## smokeyes      1.1160     0.3692   3.023  0.00251 ** 
## socclassII    1.0841     0.4900   2.212  0.02693 *  
## socclassIII   1.1086     0.4003   2.769  0.00562 ** 
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## (Dispersion parameter for binomial family taken to be 1)
## 
##     Null deviance: 234.67  on 188  degrees of freedom
## Residual deviance: 219.97  on 185  degrees of freedom
## AIC: 227.97
## 
## Number of Fisher Scoring iterations: 4

Wir vergleichen die verschachtelten Modelle mit einem Likelihood-Ratio-Test. Dafür müssen beide Modelle mit denselben Beobachtungen angepasst sein. Bei verschachtelten glm-Modellen liefert anova() die Differenz der Devianzen und den zugehörigen \(\chi^2\)-Test bereits standardmässig. Die Angabe test = “Chisq” dient hier hauptsächlich der Explizitheit und Dokumentation des verwendeten Tests.

anova(glm_smoke, glm_multi_1,test="Chisq")
## Analysis of Deviance Table
## 
## Model 1: low ~ smoke
## Model 2: low ~ smoke + socclass
##   Resid. Df Resid. Dev Df Deviance Pr(>Chi)   
## 1       187     229.81                        
## 2       185     219.97  2   9.8299 0.007336 **
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Die Nullhypothese lautet, dass die beiden zusätzlichen Koeffizienten für socclass gemeinsam gleich null sind. Mit einem P-Wert von etwa 0.007 wird sie auf dem 5%-Niveau verworfen. Die Hinzunahme von socclass verbessert somit die Modellanpassung statistisch signifikant; dies allein belegt noch keine bessere Vorhersage für neue Beobachtungen. Als Mass der Modellabweichung verwenden wir hier die Residualdevianz statt der Residuenquadratsumme der linearen Regression. Der Unterschied der Residualdevianzen zwischen dem reduzierten Modell (“small”) und dem vollen Modell (“large”) ist

\[ \begin{align} D_{small}-D_{large}&=-2(l_{small}-l_{saturated})-(-2(l_{large}-l_{saturated}))\\ &=-2(l_{small}-l_{large}) \end{align} \]

Dabei bezeichnet \(l\) jeweils die maximierte Log-Likelihood und “saturated” das saturierte Modell. Unter der Nullhypothese ist diese Teststatistik bei erfüllten Regularitätsbedingungen asymptotisch \(\chi^2\)-verteilt mit \(p_{large}-p_{small}=2\) Freiheitsgraden; \(p\) bezeichnet hier die Anzahl der geschätzten Regressionsparameter. Wir reproduzieren den P-Wert von oben mit

## LRT statistik: Unterschied der Devianz
LR<-deviance(glm_smoke)-deviance(glm_multi_1)
LR
## [1] 9.829889
## p-Wert
1-pchisq(LR,2)
## [1] 0.007336125


Im einfachen Modell vergleichen wir Raucherinnen und Nichtraucherinnen über alle sozioökonomischen Statuskategorien hinweg. Das geschätzte OR beträgt etwa 2.02. Im multiplen Modell vergleichen wir dagegen Raucherinnen und Nichtraucherinnen bei gleichem sozioökonomischem Status. Dieses adjustierte OR beträgt etwa 3.05. Da das Modell keine Interaktion zwischen smoke und socclass enthält, nimmt es dasselbe OR für den Vergleich innerhalb jeder der drei Statuskategorien an.

Warum fällt das adjustierte OR hier grösser aus? Die Kreuztabellen helfen, die Zusammensetzung der Gruppen zu verstehen:

table(bwt$socclass,bwt$low)
##      
##       no yes
##   I   73  23
##   II  15  11
##   III 42  25
cor(as.numeric(bwt$socclass),as.numeric(bwt$low))
## [1] 0.1377928

In Statuskategorie I haben etwa 24 % der Kinder ein niedriges Geburtsgewicht, in Kategorie II etwa 42 % und in Kategorie III etwa 37 %. In beiden niedrigeren Statuskategorien ist dieser Anteil somit höher als in Kategorie I. Zwischen den Kategorien II und III nimmt er jedoch nicht weiter zu.

table(bwt$socclass,bwt$smoke)
##      
##       no yes
##   I   44  52
##   II  16  10
##   III 55  12
cor(as.numeric(bwt$socclass),as.numeric(bwt$smoke))
## [1] -0.3390307

Gleichzeitig rauchen in Kategorie I etwa 54 % der Mütter, in Kategorie II etwa 38 % und in Kategorie III etwa 18 %. Raucherinnen gehören in diesen Daten also häufiger als Nichtraucherinnen zur höchsten Statuskategorie I, in der niedriges Geburtsgewicht insgesamt seltener vorkommt. Beim Vergleich über alle Statuskategorien hinweg kann diese unterschiedliche Zusammensetzung den Zusammenhang zwischen Rauchen und niedrigem Geburtsgewicht abschwächen. Das multiple Modell berücksichtigt die Statuskategorie beim Vergleich der Rauchstatusgruppen.

Die zusätzlich berechneten Korrelationen fassen diese Muster mit den numerischen Faktorcodes zusammen: socclass wird als 1, 2 und 3 kodiert. Diese Kodierung behandelt die Abstände zwischen den Statuskategorien als gleich gross und kann Unterschiede zwischen einzelnen Kategorien verdecken. Für die Interpretation sind deshalb die gruppenspezifischen Anteile aussagekräftiger. Im logistischen Modell bleibt socclass ein Faktor mit separaten Koeffizienten für Kategorie II und III; dort wird kein gleichmässiger Trend vorausgesetzt.

Weshalb ist das noch kein Nachweis von Konfundierung? Das unadjustierte OR beschreibt den Vergleich über alle Statuskategorien hinweg, das adjustierte OR den Vergleich bei gleichem Status. Diese beiden OR können sich auch dann unterscheiden, wenn der sozioökonomische Status nicht mit dem Rauchstatus zusammenhängt, aber das Geburtsgewicht vorhersagt. Diese Eigenschaft heisst Nichtkollabierbarkeit des Odds Ratios. Eine Änderung von 2.02 auf 3.05 allein beweist deshalb nicht, dass eine Verzerrung durch Konfundierung beseitigt wurde.

Das beobachtete Muster ist mit einer solchen Konfundierung vereinbar. Um den sozioökonomischen Status tatsächlich als Confounder einzuordnen und das adjustierte OR kausal zu interpretieren, benötigen wir zusätzliche inhaltliche Annahmen: etwa, dass der Status dem Rauchen zeitlich vorausgeht, sowohl Rauchstatus als auch Geburtsgewicht beeinflusst und nicht erst eine Folge des Rauchens ist. Auch weitere relevante Confounder müssten berücksichtigt sein. Hier interpretieren wir das Ergebnis daher als für den sozioökonomischen Status adjustierten Zusammenhang.

Für die Interessierten: Die folgende Abbildung illustriert die Geometrie einer linearen Regression. Sie ist eine ergänzende Analogie und keine geometrische Darstellung des logistischen Modells. Dafür werden low und socclass numerisch kodiert. Insbesondere wird socclass hier als ein numerischer Prädiktor behandelt, während im logistischen Modell zwei Indikatorvariablen verwendet werden.

Die Vektoren liegen im Beobachtungsraum mit einer Dimension pro Beobachtung. Die Darstellung zeigt den von ihnen aufgespannten Teilraum in drei Dimensionen. In der linearen Regression ist der Vektor der angepassten Werte die orthogonale Projektion des Zielvariablenvektors auf den Prädiktorraum. Bei zentrierten Daten und einem Modell mit Intercept ergibt sich daraus die Zerlegung \(SS_{model}+SS_{Residuals}=SS_{Total}\). Diese Projektionsgeometrie und Quadratsummenzerlegung gelten nicht in derselben Form für die logistische Regression.


Was sind die Odds und die Wahrscheinlichkeit für ein Kind mit niedrigem Geburtsgewicht einer Mutter mit sozioökonomischem Status = III, die nicht raucht? Um diese Frage zu beantworten, setzen wir die entsprechenden Regressionskoeffizienten in den linearen Prädiktor ein. Wir erhalten so den geschätzten Logit. Durch Exponentieren des geschätzten Logits erhalten wir die Odds:

logit_III_NS <- glm_multi_1$coefficients[1] + glm_multi_1$coefficients[4]
unname(logit_III_NS) ## logit
## [1] -0.731976
unname(exp(logit_III_NS))## odds
## [1] 0.4809577
unname(exp(logit_III_NS)/(1+exp(logit_III_NS))) ## probability
## [1] 0.3247613

Mit predict() können wir geschätzte Logits und Ereigniswahrscheinlichkeiten berechnen:

predict(glm_multi_1,newdata=data.frame(smoke="no",socclass="III"))#logit
##         1 
## -0.731976
exp(predict(glm_multi_1,newdata=data.frame(smoke="no",socclass="III")))#odds
##         1 
## 0.4809577
predict(glm_multi_1,newdata=data.frame(smoke="no",socclass="III"),type="response")#prob
##         1 
## 0.3247613

Was sind die entsprechenden Odds und die Wahrscheinlichkeit, wenn eine Mutter mit sozioökonomischem Status = III raucht? Wir gehen analog vor:

logit_III_S <- glm_multi_1$coefficients[1] + glm_multi_1$coefficients[2] + glm_multi_1$coefficients[4]
unname(logit_III_S) ## logit
## [1] 0.3840279
unname(exp(logit_III_S)) ## odds
## [1] 1.468186
unname(exp(logit_III_S)/(1+exp(logit_III_S))) ## probability
## [1] 0.5948442
predict(glm_multi_1,newdata=data.frame(smoke="yes",socclass="III"))#logit
##         1 
## 0.3840279
predict(glm_multi_1,newdata=data.frame(smoke="yes",socclass="III"),type="response")#prob
##         1 
## 0.5948442

4: Logistische Regression mit quantitativen Prädiktorvariablen

Aufgaben

  1. Nimm zusätzlich die Variable lwt (mother’s weight in pounds at last menstrual period) ins Modell. Speichere das Modell im Objekt glm_multi_2 ab. Vergleiche anschliessend das neue Modell mit glm_multi_1 mittels Likelihood-Ratio-Test. Verbessert die Aufnahme von lwt die Modellanpassung statistisch signifikant?
  2. Schaue dir den Output als Zusammenfassung an. Lass dir alle Regressionskoeffizienten sowie deren 95%-Konfidenzintervalle in exponentierter Form anzeigen, damit du diese einfacher interpretieren kannst. Wie interpretierst du den Intercept und die vier Prädiktorkoeffizienten?
  3. Was sind die Odds und die Wahrscheinlichkeit für ein Kind mit niedrigem Geburtsgewicht bei einer Mutter mit sozioökonomischem Status = II, die raucht und 110 Pfund wiegt?

Lösungen

glm_multi_2 wird wie folgt angepasst:

glm_multi_2 <- glm(low ~ smoke + socclass + lwt, data = bwt, family = binomial)

Alternativ kann man die Funktion update() verwenden, welche etwas Schreibarbeit erspart.

glm_multi_2 <- update(glm_multi_1, . ~ . + lwt, data = bwt, family = binomial)

Nun werden die Modelle mit dem Likelihood-Ratio-Test verglichen:

anova(glm_multi_1, glm_multi_2, test = "LRT")
## Analysis of Deviance Table
## 
## Model 1: low ~ smoke + socclass
## Model 2: low ~ smoke + socclass + lwt
##   Resid. Df Resid. Dev Df Deviance Pr(>Chi)  
## 1       185     219.97                       
## 2       184     215.01  1   4.9601  0.02594 *
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Der Likelihood-Ratio-Test liefert einen P-Wert von etwa 0.026. Die Aufnahme von lwt verbessert die Modellanpassung somit auf dem 5%-Niveau statistisch signifikant. Die Auswahl von Prädiktoren sollte zusätzlich die inhaltliche Fragestellung und die Modellannahmen berücksichtigen.


Wir schauen uns nun die Zusammenfassung von glm_multi_2 an:

summary(glm_multi_2)
## 
## Call:
## glm(formula = low ~ smoke + socclass + lwt, family = binomial, 
##     data = bwt)
## 
## Coefficients:
##             Estimate Std. Error z value Pr(>|z|)   
## (Intercept) -0.10922    0.88211  -0.124  0.90146   
## smokeyes     1.06001    0.37832   2.802  0.00508 **
## socclassII   1.29009    0.51087   2.525  0.01156 * 
## socclassIII  0.97052    0.41224   2.354  0.01856 * 
## lwt         -0.01326    0.00631  -2.101  0.03562 * 
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## (Dispersion parameter for binomial family taken to be 1)
## 
##     Null deviance: 234.67  on 188  degrees of freedom
## Residual deviance: 215.01  on 184  degrees of freedom
## AIC: 225.01
## 
## Number of Fisher Scoring iterations: 4

Weil in der Zusammenfassung alle Koeffizienten auf Logit-Skala angezeigt werden, exponentieren wir diese (inkl. 95%-Konfidenzintervalle). Wir können beides machen mit

cbind(exp_beta = exp(glm_multi_2$coefficients), exp(confint(glm_multi_2)))
##              exp_beta     2.5 %     97.5 %
## (Intercept) 0.8965324 0.1658131  5.3953378
## smokeyes    2.8863880 1.3945161  6.1980517
## socclassII  3.6331297 1.3380529 10.0823263
## socclassIII 2.6393030 1.1927957  6.0578281
## lwt         0.9868281 0.9738926  0.9984753
## Das cbind() wird gebraucht, um mehrere Spalten zu kombinieren. Somit sieht der Output etwas schöner aus. Man kann die Koeffizienten und deren 95%-Konfidenzintervalle natürlich auch in zwei Schritten ausgeben lassen.

oder übersichtlich mit

parameters::parameters(glm_multi_2,exponentiate=TRUE,digits=4)
## Parameter      | Odds Ratio |     SE |            95% CI |       z |     p
## --------------------------------------------------------------------------
## (Intercept)    |     0.8965 | 0.7908 | [0.1658,  5.3953] | -0.1238 | 0.901
## smoke [yes]    |     2.8864 | 1.0920 | [1.3945,  6.1981] |  2.8019 | 0.005
## socclass [II]  |     3.6331 | 1.8561 | [1.3381, 10.0823] |  2.5253 | 0.012
## socclass [III] |     2.6393 | 1.0880 | [1.1928,  6.0578] |  2.3543 | 0.019
## lwt            |     0.9868 | 0.0062 | [0.9739,  0.9985] | -2.1013 | 0.036

Die Spalte exp_beta enthält beim Intercept Odds und bei den übrigen Koeffizienten OR. parameters() verwendet hier standardmässig Profil-Likelihood-Konfidenzintervalle; die ausgegebenen P-Werte beruhen dagegen auf Wald-Tests. Diese P-Werte sind daher nicht unmittelbar durch Invertieren der angezeigten Intervalle bestimmt.

Interpretation:

  • Zeile 1: Der exponentierte Intercept ist kein OR, sondern die geschätzten Odds für ein niedriges Geburtsgewicht bei einer Nichtraucherin mit sozioökonomischem Status I und einem Gewicht von 0 Pfund. Da dieses Gewicht ausserhalb des sinnvollen Wertebereichs liegt, hat der Intercept hier keine unmittelbar sinnvolle inhaltliche Interpretation.
  • Zeile 2: Bei gleichem sozioökonomischem Status und gleichem Gewicht der Mutter sind die geschätzten Odds für ein niedriges Geburtsgewicht bei Raucherinnen etwa 2.9-mal so hoch wie bei Nichtraucherinnen.
  • Zeilen 3 und 4: Bei gleichem Rauchstatus und gleichem Gewicht der Mutter betragen die geschätzten Odds bei Status II etwa das 3.6-Fache und bei Status III etwa das 2.6-Fache der Odds bei Status I.
  • Zeile 5: Das geschätzte OR für lwt beträgt etwa 0.9868 pro zusätzlichem Pfund. Bei gleichem Rauchstatus und sozioökonomischem Status sind die Odds damit pro Pfund um etwa 1.32 % niedriger. Das Modell nimmt einen linearen Zusammenhang zwischen lwt und dem Logit an, also ein konstantes OR pro Pfund.
  • Unsicherheit und statistische Signifikanz: Die 95%-Profil-Likelihood-Konfidenzintervalle der vier Prädiktorkoeffizienten enthalten nach dem Exponentieren den Nullwert 1 nicht. Die entsprechenden zweiseitigen Likelihood-Ratio-Tests sind damit auf dem 5%-Niveau statistisch signifikant. Diese Aussage bezieht sich nicht auf den Intercept. Die Intervallbreiten zeigen die Unsicherheit der Schätzungen; statistische Signifikanz allein beurteilt weder die klinische Relevanz noch die Kausalität des Zusammenhangs.

Anmerkung: Die Grösse eines OR für einen kontinuierlichen Prädiktor hängt von der gewählten Einheit ab. Für einen Gewichtsunterschied von 20 Pfund beträgt das geschätzte OR bei gleichem Rauchstatus und sozioökonomischem Status \(\exp(-0.01326 \times 20) \approx 0.77\). Das entspricht etwa 23 % niedrigeren Odds, nicht einer um 23 Prozentpunkte niedrigeren Wahrscheinlichkeit.


Was sind die Odds für ein Kind mit niedrigem Geburtsgewicht bei einer Mutter mit sozioökonomischem Status = II, die raucht und 110 Pfund wiegt?

Zuerst nochmals die Koeffizienten auf der Logit-Skala:

glm_multi_2$coefficients
## (Intercept)    smokeyes  socclassII socclassIII         lwt 
## -0.10922083  1.06000589  1.29009446  0.97051488 -0.01325945

Nun werden die entsprechenden Werte in den linearen Prädiktor eingesetzt (\(I_k\) ist eine Indikatorvariable, die den Wert 1 annimmt, wenn die Mutter der Kategorie \(k\) angehört, und sonst 0).

\[ logit = \hat{\beta}_{0} + \hat{\beta}_{1} I_{smoke} + \hat{\beta}_{2} I_{socclassII} + \hat{\beta}_{3} I_{socclassIII} + \hat{\beta}_{4} lwt \]

\[ logit = \hat{\beta}_{0}+ \hat{\beta}_{1} + \hat{\beta}_{2}+\hat{\beta}_4 \times 110 \]

logit <- glm_multi_2$coefficients[1] + glm_multi_2$coefficients[2] + glm_multi_2$coefficients[3] + glm_multi_2$coefficients[5] * 110
unname(logit)
## [1] 0.7823397

Anschliessend exponentieren wir die geschätzten Log-Odds:

odds <- exp(logit)
unname(odds)
## [1] 2.186582


Die Odds rechnen wir anschliessend in eine geschätzte Ereigniswahrscheinlichkeit um:

p <- odds/(odds+1)
unname(p)
## [1] 0.6861842


Die in der Aufgabe 3 genannten Werte treffen genau auf die Mutter in der 165. Zeile zu:

bwt[165,]
##     low age lwt smoke ht ui ftv  bwt socclass
## 165 yes  18 110   yes  0  0   0 2296       II


Wir erhalten die oben berechnete Wahrscheinlichkeit auch über den angepassten Wert (fitted.values) für diese Person

glm_multi_2$fitted.values[165]
##       165 
## 0.6861842

oder allgemein mit predict()

predict(glm_multi_2,newdata=data.frame(smoke="yes",socclass="II",lwt=110))#logit
##         1 
## 0.7823397
exp(predict(glm_multi_2,newdata=data.frame(smoke="yes",socclass="II",lwt=110)))#odds
##        1 
## 2.186582
predict(glm_multi_2,newdata=data.frame(smoke="yes",socclass="II",lwt=110),type="response")#prob
##         1 
## 0.6861842