Математика и статистика, часть 2: семинар 18

Критерий хи-квадрат

Теперь построим таблицу сопряженности: выборочный частотный аналог таблицы совместного распределения. Таблицы сопряженности строятся с помощью уже знакомой нам функции table(), которая теперь будет принимать два аргумента.

table(titanic$Survived, titanic$Pclass) # выжившие по строчкам

##    
##       1   2   3
##   0  80  97 372
##   1 136  87 119

Видим, что среди пассажиров 1 класса выживших примерно в 2 раза (\(136/80=1.7\)) больше, чем невыживших, тогда как среди пассажиров 3 класса спасшихся почти в 3 раза (\(119/372\simeq 0.32\)) меньше, тем тех, кто спастись не сумел. Среди пассажиров 2 класса спасшиеся и не спасшиеся распределились примерно поровну. Такое распределение может навести нас на мысль о существовании некоторой закономерности. Давайте проверим это статистически.

Сформулируем нулевую и альтернативную гипотезы.

\(H_0\): связи между классом билета и шансами пассажира на спасение нет.

\(H_a\): связь между классом билета и шансами пассажира на спасение есть.

Вычислим статистику хи-квадрат на основании построенной таблицы сопряженности с помощью команды chisq.test(), принимающей в качестве аргумента саму таблицу:

table <- table(titanic$Survived, titanic$Pclass) # сохраним таблицу в отдельный объект
chisq.test(table) 

## 
##  Pearson's Chi-squared test
## 
## data:  table
## X-squared = 102.89, df = 2, p-value < 2.2e-16

Статистика хи-квадрат имеет 2 степени свободы, так как в нашей таблице 2 строчки и 3 колонки: \[df=(I-1)(J-1)=(2-1)(3-1)=2\] Значение статистики равно \(103\), а близко к нулю. Следовательно, мы должны отвергнуть нулевую гипотезу (по сути, на любом уровне значимости). Кажется, класс, которым путешествовал пассажир, все-таки был связан с шансами на спасение.

Стандартизованные остатки

Из непосредственного расчета статистики хи-квадрат мы не можем делать вывод о направлении связи, только о факте ее наличия или отсутствия. Для этого нам потребуется рассмотрение стандартизированных остатков. Что это такое и откуда они берутся? Остатки показывают, насколько велико различие между наблюдаемыми и ожидаемыми частотами в таблице сопряженности в отношении к ожидаемой частоте, и имеют стандартное нормальное распределение:

\(z=\frac{n_{ij}^{obs}-n_{ij}^{exp}}{\sqrt{n_{ij}^{exp}}}\)

Остатки вычисляются для каждой ячейки (то есть, комбинации значений признаков) по отдельности. По сути, стандартизованный остаток — это корень из каждого из слагаемых, которые фигурируют при расчете статистики хи-квадрат.

Давайте выведем на экран таблицу ожидаемых частот:

chi <- chisq.test(table) # сохраним результаты расчета критерия в новый объект
chi$observed # извлечем из него наблюдаемые частоты

##    
##       1   2   3
##   0  80  97 372
##   1 136  87 119

round(chi$expected, 2) # и ожидаемые тоже (округляю до сотых для удобства отображения)

##    
##          1      2      3
##   0 133.09 113.37 302.54
##   1  82.91  70.63 188.46

Видно, что мы имеем практически на 54 больше спасшихся пассажиров 1 класса чем то, что мы ожидали бы увидеть, если бы признаки были независимы. Аналогично, среди пассжиров 3 класса спаслись на 70 человек меньше, чем мы ожидали бы. При этом, среди пассажиров 2 класса выживших больше на 17 человек. Много это или мало? Давайте проверим, анализируя стандартизованные остатки.

round(chi$residuals, 2) # округляю до сотых для удобства отображения

##    
##         1     2     3
##   0 -4.60 -1.54  3.99
##   1  5.83  1.95 -5.06

Мы делаем вывод о направлении и “значимости” связи для каждой комбинации значений признаков так же, кк и для любой другой статистики критерия, которая имеет стандартное нормальное распределение. Мы знаем, что критическая область для 95% уровня доверия и двусторонней альтернативы лежит в границах \[(-\infty; -1.96]\cup [1.96;+\infty)\] или, если немного более грубо — при \(|Z|>2\). Вы видим, что для 1 и 3 класса остатки превышают 2 по модулю (и довольно сильно), тогда как для 2 класса нет. Это значит, что “искажений” в спасении для пассажиров 2 класса мы не видим. То есть, весь эффект обуславливается условиями путешествия пассажиров 1 и 3 класса. Как мы и ожидали, 1 класс благоприятствует спасению (положительный знак), тогда как 3 нет (отрицательный знак).