- -

Associação entre Variáveis Categóricas
Regressão Linear e Correlação

Associação entre Variáveis Categóricas
Regressão Linear e Correlação

Programa de Pós-graduação em Sociologia - UFMG

Metodologia 2: Coleta e análise de dados quantitativos

Prof. Jerônimo O. Muniz, DSO/ Fafich/ UFMG

Wellington S. Souza, Phillipe Pessoa, Raquel Queiroga, Gabriela Guimarães, Caio César



ANALISANDO A ASSOCIAÇÃO ENTRE AS VARIÁVEIS CATEGÓRICAS
CAPÍTULO 8

Associação

  • Associação: distribuição da variável resposta muda de alguma forma conforme o valor da variável explicativa.

  • Existe associação se as médias ou proporções populacionais diferem entre os grupos.

8.1: Terminologia para análise de dados categóricos e define independência estatística

8.2: Teste de significância

8.3: Análise de resíduos

8.4: Força da associação

8.5 e 8.6: Análises para variáveis ordinárias

Tabelas de contingência

Distribuição condicional

Distribuição condicional

  • Também poderia computar a distribuição condicional para afinidade partidária em função dos gêneros.

  • Padrão: formar a distribuição condicional para a variável resposta, dentro das categorias da variável explicativa.

  • Outra forma: Distribuição conjunta da amostra. Base é o tamanho da amostra. Contudo, para distinguir variáveis resposta e explicativa, distribuições condicionais são mais informativas.

Guia para construção de tabelas de contingência:

  1. Ocupar colunas com a variável resposta.
  2. Encontrar as proporções em cada linha dividindo cada célula pelo total da linha.
  3. Rotule bem as variáveis e suas categorias;
  4. Dê à tabela um título que identifique as variáveis e outras informações importantes.
  5. Incluir o tamanho total da amostra nas quais as proporções estão embasadas.

Dependência ou independência

Duas variáveis categóricas são estatisticamente independentes se a distribuição condicional populacional em uma delas é idêntica a cada categoria do outro. As variáveis são dependentes se a distribuição condicional não é idêntica.

Distribuição condicional nas colunas também será idêntica entre as categorias.

Distribuição condicional nas colunas também será idêntica entre as categorias

\(H_0\): As variáveis são estatisticamente independentes

\(H_a\): As variáveis são estatisticamente dependentes.

Frequência esperada: o valor de frequência numa célula se as variáveis fossem independentes

\(f_e = \frac{(\text{total linha})\times(\text{total coluna})}{(\text{total amostra)}}\)

Teste estatístico Qui-quadrado

\[\chi^2 = \sum \frac{(f_o - f_e)^2}{f_e}\] \(f_o\): frequência observada

\(f_e\): frequência esperada

Representa o quão próximo estão as frequências observadas daquelas esperadas

Segundo o autor, é o teste estatístico mais antigo em uso, tendo sido introduzido pelo britânico Karl Pearson em 1900.

Quanto maior o valor de \(\chi^2\) maior a evidência contra \(H_0\): independência

Exemplo

\[ \chi^2 = \sum \frac{(f_o - f_e)^2}{f_e} = \scriptstyle{ \frac{(573 - 522,9)^2}{522,9} + \frac{(516 - 540,4)^2}{540,4} + \frac{(422 - 447,7)^2}{447,7} }\\ \scriptstyle{ + \frac{(386 - 436,1)^2}{436,1} + \frac{(475 - 450,6)^2}{450,6} + \frac{(399 - 373,3)^2}{373,3} } = 4,8 + \cdots + 1,8 = 16,2. \]

Distribuição de Probabilidade Qui-quadrado

  • Concentrada na parte positiva da linha real
  • Distorcida para o lado direito
  • Forma exata depende dos graus de liberdade. A média da curva são os graus de liberdade é (μ=df) e o desvio padrão éσ=√2df

Tabela distribuição Qui-quadrado

Teste de independência gênero e afinidade partidária

\(H_0\): Gênero e afinidade partidária são independentes

\(H_a\): Gênero e afinidade partidária são dependentes

  • \(\chi^2 = 16,2\)

  • 2 graus de liberdade (df = (r-1)(c-1) = (2-1)(3-1) = 2)

  • \(p = 0,0001\)

Hipótese nula rejeitada

Resumo

  • Tamanho de amostra
  • Uma interpretação para os graus de liberdade
  • Teste Qui-quadrado e o tratamento de categorias: Teste de homogeneidade.

Força da associação

  • Resíduo = \(f_o - f_e\)

  • Resíduos padronizados = \(z=\frac{f_o-f_e}{ep} = \frac{f_o - f_e}{\sqrt{f_e(1 - \text{prop. linhas})\times(\text{prop. coluna)}}}\)

  • \(ep\) = erro padrão quando H0 é verdadeira, os resíduos padronizados tem uma distribuição normal padrão de grande amostra. Flutuam em torno de média zero com desvio padrão próximo de 1.

  • Um grande resíduo padronizado fornece evidência contra a independência na célula. Quando \(H_0\) é verdadeira, há somente cerca de 5% de chance de que qualquer resíduo exceda 2 em valor absoluto.

  • Valores abaixo de -3 e acima de 3 são evidência forte de associação.

Exemplo: Força de associação entre gênero e afinidade partidária

\[ \small z = \frac{f_o - f_e}{\sqrt{f_e (1 - \text{proporção da linha}) (1 - \text{proporção da coluna})}} = \\\frac{573 - 522,9}{\sqrt{522,9 (1 - 0,545)(1 - 0,346)}} = 4,0. \]

Teste qui-quadrado para tabelas 2x2

\(z = \frac{\hat{\pi}_2 - \hat{\pi_1}}{ep}\)

\(z^2 = \chi^2\)

Normal sampling distribution

Mean = \(\pi_2 -\pi_1\)

Satandard error = ep = \(\sqrt{\frac{\pi_1(1-\pi_1)}{n_1} + \frac{\pi_2(1-\pi_2)}{n_2}}\)

Exemplo: papel de gênero

  • \(\pi_1 = 0,658\)

  • \(\pi_2 = 0,358\)

  • \(ep = 0,0171 (calculei=0,0163)\)

  • \(z = \frac{0,358 - 0,658}{0,0171} = -17,54\)

  • \(\chi^2 = 17,5^2 = 307,6\)

Teste \(\chi^2\) para tabelas 2x2

Por que usar um z-teste e não o \(\chi^2\) numa tabela 2x2?

  • \(\chi^2\) perde a direcionalidade

  • com o teste-z posso testar \(H_0: \pi_1>1\) ou \(\pi_1<\pi_2\) ou \(\pi_1=\pi_2\)

Por que precisamos da estatística do \(\chi^2\)?

  • Teste z só consegue comparar uma estimativa única a um valor \(H_0\).

  • Com tabelas maiores que a 2x2, ou seja com mais de 1 grau de liberdade, são necessários mais parâmetros

Para descrever a associação - Para \(H_0: \pi_1=\pi_2=\pi_3\) os parâmetros de comparação são \((\pi_1-\pi_2), (\pi_1-\pi_3), (\pi_2-\pi_3)\)

  • Posso usar um teste z para cada parâmetro, mas não para um teste total de independência

  • Graus de liberdade

8.4 - MEDINDO A ASSOCIAÇÃO EM UMA TABELA DE CONTINGÊNCIA

As principais perguntas normalmente feitas na análise de uma tabela de contingência são as seguintes:

  • Existe uma associação?

  • Como os dados diferem do que a independência prevê?

  • Quão forte é a associação?

Esta seção mostra como determinar se a associação é forte o suficiente para ter importância prática.

  • Analisar a força da associação revela se a associação é importante ou se ela é estatisticamente significativa, mas sem significância prática.

Uma medidada de associação é uma estatística ou um parâmetro que resume a força da associação entre duas variáveis.

Uma dessas medidas é a Diferença de proporções

Nos casos de tabelas 2x2 que comparam dois grupos em uma variável binária, uma medida de associação de fácil interpretação é a diferença entre as proporções para uma categoria de resposta dada. Como no exemplo do caso A, em que não há associação: \(\frac{360}{600} - \frac{240}{400} = 0,60 - 0,60 = 0,0\)

A diferença das proporções populacionais é 0 sempre que as distribuições condicionais forem idênticas, isto é, quando as variáveis são independentes.

Por outro lado, a diferença é 1 ou -1 para a associação mais forte possível. Como o Caso B, de associação máxima, por exemplo, a diferença é:\(\frac{600}{600} - \frac{0}{400} = 1,0 - 0,0 = 1,0\)

Ou seja, quanto maior a associação, maior o valor absoluto da diferença das proporções

Obs.: O qui-quadrado não mensura a associação: Essa estatística resume quão próximas as frequências observadas estão das frequências esperadas se as variáveis fossem independentes. Ela simplesmente indica quanta evidência existe de que as variáveis sejam dependentes, não quão forte é a dependência.

Outra medida de associação é a Razão de chances

Para uma variável resposta binária, sempre usamos sucesso para representar o resultado do interesse e fracasso para o outro resultado. A chance de sucesso é definida como:

\[\text{chance de sucesso} = \frac{\text{P(sucesso)}}{\text{P(fracasso)}}\]

Se a probabilidade de sucesso = 0,75, então a probabilidade de fracasso é igual 1 - 0,75 = 0,25 e a chance de sucesso = 0,75/0,25 = 3,0.

A chance é um valor não negativo e maior do que 1,0 quando um sucesso é mais provável do que um fracasso. Quando a chance = 3,0, um sucesso é três vezes mais provável do que um fracasso. Quando a chance = 1/3, um fracasso é três vezes mais provável que um sucess o. A probabilidade de um resultado está relacionada à chance desse mesmo resultado por:

\[ \text{probabilidade} = \frac{\text{chance}}{1 + \text{chance}}\]

Por exemplo, quando a chance = 3, a probabilidade = 3/(3 + 1) = 0,75.

O quociente de chances de duas linhas de uma tabela 2 x 2 é chamada de razão de chances. Por exemplo, se a chance = 4,5, na linha 1 e a chance = 3,0, na linha 2, então a razão de chances é igual a 4,5/3,0 = 1,5. A chance de sucesso na linha 1 é, então, igual a 1,5 vezes a chance de sucesso da linha 2. Representamos a razão de chances pela letra grega \(\theta\).

A chance estimada para uma resposta bi- nária é igual ao número de sucessos divi- dido pelo número de fracassos. A razão de chances é uma medida da associação para tabelas de contingênca 2 x 2 que é igual à chance na linha 1 di- vidida pela chance na linha 2.

Propriedades da razão de chance

A razão de chances assume o mesmo valor a despeito da escolha da variável resposta. A razão de chances Ɵ é igual à razão dos produtos das frequências das células opostas em diagonal.

Para a tabela 8.13, a razõa de chances \(\theta = \frac{3150\times2984}{230\times516} = 79,2\).

Obs.:

  • Razão de chances ≠ razão de probabilidades

  • Para tabelas de contingência com mais do que duas linhas ou mais do que duas colunas, a razão de chances descreve padrões em qualquer subtabela 2 x 2.

  • Como medidas resumo de associação para tabelas de contingencia, em vez de estudar a associação nas sub-tabelas 2 x 2, é possível determinar a associação em toda a tabela por meio de um único número. Uma forma de fazer isto resume quão bem podemos prever o valor em uma variável com base no conhecimento do valor da outra variável.

8.5 - ASSOCIAÇÃO ENTRE VARIÁVEIS ORDINAIS

Esta seção apresenta outra análise especializada em tabelas de contingência, no caso, para variáveis ordinais. As categorias de variáveis ordinais são ordenadas, portanto, análises estatísticas levam essa ordenação em consideração. Como vemos no exemplo a seguir:

Por exemplo, a distribuição condicional (24%, 54%, 22%) exibe os percentuais nas categorias da felicidade para sujeitos com renda familiar abaixo da média. Desses, somente 22% estão muito felizes, enquanto 36% dos sujeitos no grupo do nível mais alto de renda estão muito felizes. Inversamente, um percentual mais baixo (9%) do grupo de alta renda não está tão feliz comparado com o grupo de renda mais baixa (24%).

A razão de chances para as quatro células do canto é (16 x 8)/ (15 x 2) = 4,3. Parece que os sujeitos com maior renda tendem a ser mais felizes.

Os dados ordinais exibem dois tipos primários de associação entre as variáveis x e y – positiva e negativa. Uma associação positiva ocorre quando os sujeitos no final superior da escala em x tendem também a estar no final superior da escala em y e aqueles que estão na parte inferior de x tendem a estar na parte inferior de y.

A associação negativa ocorre quando os sujeitos classificados na parte superior de x tendem a ser classificados na parte inferior de y e aqueles classificados na parte inferior de x tendem a estar na parte superior de y.

Concordância e discordância

Um par de observações é concordante se o sujeito que tem um valor alto em uma variável apresenta também um valor alto na outra variável. Um par de observações é discordante se o sujeito que tem um valor alto em uma variável apresenta um valor baixo na outra.

Pares concordantes de observações fornecem evidência de associação positiva, desde que, para tal par, o sujeito que está acima em uma variável também esteja acima na outra. Por outro lado, quanto mais predominantes forem os pares discordantes, maior a evidência de uma associação negativ a.

Muitas medidas ordinais de associação usam os números de pares concordantes (os sujeitos maiores em x são também maiores em y) e pares discordantes (os sujeitos maiores de x são os menores de y).

Como exemplo:

Concordância e discordância

Consideremos C a representação do número total de pares concordantes e D a do número total de pares discordantes.

Uma regra geral para encontrar o número de pares concordantes C é esta: inicie no canto da tabela que apresenta as menores categorias para cada variável. Multiplique a frequência daquela célula pela maior frequência em cada célula em ambas as variáveis. Da mesma forma, para cada uma das demais células, multiplique a frequência da célula pelas maiores frequências em ambas as variáveis. O número de pares concordantes é a soma desses produtos.

\[C = 16(36 + 21 9 + 12 + 8) + 36(21 + 8) + 11(12 + 8) + 36(8) = 2784.\]

Para encontrar o número total de pares discordantes D, inicie no canto da tabela que apresenta o nível mais alto de uma variável e o mais baixo da outra.

\[ D = 15(11 + 36 + 2 + 12) + 21(2 + 12) + 36(11 + 2) + 36(2) = 1749.\]

C = 2784 e D = 1749. Mais pares mostram evidência de uma associação positiva (isto é, pares concordantes) do que mostram evidência de uma associação negativa (pares discordantes).

Gama

Dos pares que são concordantes ou discordantes, o gama é igual à diferença entre as proporções dos dois tipos. Gama está entre -1 e +1, com valores absolutos maiores indicando uma associação mais forte. Quando as variáveis são independentes, gama é igual a 0. Ou seja, Gama é a diferença entre duas proporções ordinais

\[\gamma = \frac{C - D}{C + D}\]

Algumas propriedades de gama: - O valor de gama está entre -1 e +1.

  • O sinal de gama indica se a associação é positiva ou negativa.

  • Quanto maior o valor absoluto de gama, maior a associação.

O cálculo de gama é muito confuso. A maioria dos softwares estatísticos pode encontrar gama automaticamente.

8.6 - INFERÊNCIA PARA ASSOCIAÇÕES ORDINAIS

O teste qui-quadrado para verificar se duas variáveis categóricas são independentes trata as variáveis como nominais. Outros testes são geralmente mais poderosos quando as variáveis são ordinais. Esta seção apresenta um desses testes e mostra como construir intervalos de confiança para medidas ordinais de associação como o gama.

Intervalos de confiança para medidas de associação Os intervalos de confiança ajudam a estimar a força da associação na população. Considere Ya representação do valor gama populacional. Para o gama amostral, \(\hat{\gamma}\), a sua distribuição é aproximadamente normal em torno de Y. Seu erro padrão ep descreve a variação nos valores Y em torno de Ŷ considerando amostras de um dado tamanho. Um intervalo de confiança para Y tem a forma:

\[\hat{\gamma} \pm z \times ep\]

Teste de independência usando gama

A partir de variáveis ordinais.

Como no teste qui-quadrado, a hipótese nula é que as variáveis são estatisticamente independentes. A hipótese alternativa pode tomar a forma bilateral Ha:

Y ≠ 0 ou uma forma unilateral, \(H_a: Y > 0\) ou \(Ha: Y < 0\), quando prevemos a direção da associação. A estatística-teste tem a forma da estatística z. Ela toma a diferença entre \(\hat{Y}\) e o valor de 0 que gama assume quando \(H_0\): independência é verdadeira e divide pelo erro padrão:

\[ z = \frac{\hat{\gamma}}{ep}\]

A estatística-teste tem aproximadamente uma distribuição normal padrão quando H0 é verdadeira.

Testes ordinais versus teste qui-quadrado de Pearson

Um teste de independência baseado em uma medida ordinal é geralmente preferível ao teste qui-quadrado quando ambas as variáveis são ordinais.

Se existe uma tendência positiva ou negativa, medi- das ordinais são geralmente mais poderosas para detectá-la.

Uma medida ordinal de associação pode ser igual a 0 quando as variáveis são estatisticamente dependentes, mas a dependência não tem uma tendência geral positiva ou negativa. O teste qui-quadrado pode ter um desempenho melhor do que um teste ordinal quando o relacionamento não tem uma única tendência. Na prática, a maioria dos relacionamentos com variáveis ordinais tem geralmente uma única tendência, se existir alguma. Assim, o teste ordinal é geralmente mais poderoso do que o teste qui-quadrado.

Métodos de inferência similares para outras medidas ordinais

Os métodos de inferência para o gama também se aplicam para outras medidas ordinais de associação. Para um intervalo de confiança, tome o valor amostral e some e subtraia um escore-z vezes o erro padrão. Os resultados do teste são geralmente similares para qualquer medida ordinal baseada na diferença entre os números de pares concordantes e pares discordantes, como o gama e o tau-b de Kendall.

Tabelas de contingência mistas ordinais-nominais

Para uma classificação cruzada de uma variável ordinal com uma variável nominal que tem apenas duas categorias, as medidas ordinais de associação ainda são válidas. Neste caso, o sinal da medida indica qual nível da variável nominal está associado a níveis mais altos na variável ordinal.

OBS: Quando a variável nominal apresenta mais do que duas categorias, é inapropriado usar uma medida ordinal como o gama.

Resumindo

  • Para tabelas 2 x 2, a diferença das proporções é útil, como é a razão de chances, quociente das chances de duas linhas. Cada chance mensura a proporção de sucesso dividida pela proporção de fracassos. Quando existe independência, a diferença das proporções é igual a 0 e a razão de chances é igual a 1. Quanto mais forte a associação, mais longe estão as medidas desses valores básicos.

  • Muitas medidas ordinais de associação usam os números de pares concordantes (os sujeitos maiores em x são também maiores em y) e pares discordantes (os sujeitos maiores de x são os menores de y).

  • Dos pares que são concordantes ou discordantes, o gama é igual à diferença entre as proporções dos dois tipos. Gama está entre -1 e +1, com valores absolutos maiores indicando uma associação mais forte. Quando as variáveis são independentes, gama é igual a 0.

REGRESSÃO LINEAR E CORRELAÇÃO
CAPITULO 9

Regressão Linear e Correlação

O capítulo apresenta métodos para analisar variáveis quantitativas resposta explicativa. Os autores utilizarão dos dados do Resumo Estatístico dos Estados Unidos para os 50 estados e o Distrito de Columbia (D.C)

  • Taxa de assassinato: o número de assassinatos por 100000 habitantes.

  • Taxa de crimes violentos: o número de assassinatos, estupros violentos, assaltos e agressão com circunstâncias agravantes por 100000 habitantes.

  • Percentual da população com renda abaixo do nível de pobreza

  • Percentual de famílias chefiadas por um único progenitor.

A relação entre duas variáveis quantitativas

Para as variáveis quantitativas analisaremos os relacionamentos entre essas variáveis

Variáveis respostas (y) Variáveis explicativas (x)
Crimes violentos Assassinatos
Pobreza Famílias com um progenitor

Analisaremos três aspectos diferentes, porém relacionados:

  1. Investigamos se existe uma associação entre as variáveis, testando a hipótese de independência estatística;

  2. Estudamos a força de sua associação usando a medida de correlação da associação.

  3. Estimamos a equação da regressão que prevê̂ o valor da variável resposta a partir do valor da variável explicativa. Por exemplo, tal equação prevê̂ a taxa de assassinatos do estado usando o percentual da população que está vivendo abaixo do nível de pobreza.

As análises são coletivamente chamadas de análises de regressão

Dados sobre crimes violentos

STATE VI VI2 MU ME WH HS PO
AK 593 59 6 65.6 70.8 90.2 8.0
AL 430 43 7 55.4 71.4 82.4 13.7
AR 456 46 6 52.5 81.3 79.2 12.1
AZ 513 51 8 88.2 87.6 84.4 11.9
CA 579 58 7 94.4 77.2 81.3 10.5
CO 345 34 4 84.5 90.3 88.3 7.3

Relacionamentos Lineares

Considere y a representação da variável resposta e considere x a representação da variável explicativa.

Para variáveis quantitativas, uma fórmula matemática descreve como a distribuição condicional de y varia de acordo com o valor de x. Essa fórmula descreve:

como y = assassinatos estaduais, varia de acordo com o nível de x = percentual do nível de pobreza.

A taxa de assassinatos tende a ser maior para estados que tem níveis maiores de pobreza?

Função Linear

Capacidade de uma boa descrição de como y se relaciona com x. No capítulo será apresentado com uma linha reta. Para ela, é dito que y é a função linear de x.

A fórmula \(y=\alpha+\beta x\) expressa as obser- vações em y como uma função linear das observações em x. A fórmula tem um gráfico de uma reta com inclinação \(\beta\) (beta) e intercepto-y \(\alpha\) (alfa).

A formula \(y=3 + 2x\) é uma função linear. O intercepto-y é igual a 3 e a inclinação é igual a 2. Cada número real x, quando substituído na fórmula \(y = 3 + 2x\), gera um valor distinto de \(y\). Por exemplo, \(x = 0\) tem \(y = 3 + 2(0) = 3\), e \(x = 1\) tem \(y = 3 + 2(1) = 5\).

O eixo horizontal, o eixo x, lista os valores possíveis de x. O eixo vertical, o eixo y, lista os valores possíveis de y.

Gráfico da função linear

Interpretando o intercepto e a inclinação

O que é o intercepto-y?

O intercepto-y é o ponto onde a reta (ou linha) corta o eixo y em um gráfico cartesiano. Ou seja, é o valor de y quando x = 0.

Destrinchando:

A equação da reta é escrita na forma \(y = \alpha + \beta x\) onde:

  • \(\alpha\) é o intercepto-y (valor de y quando x = 0).

  • \(\beta\) é a inclinação ou o coeficiente angular (a taxa de variação de y em relação a x).

No exemplo:

  • A equação da reta é \(y = 3 + 2x\).

  • Quando x = 0, substituímos na equação: \(y=3+2(0) =3 y = 3 + 2(0) = 3y=3+2(0) =3\) Logo, o intercepto-y é 3.

Geometricamente

Geometricamente, isso significa que a reta cruza o eixo y no ponto 3.

Para representar graficamente a função \(y = 3 + 2x\), marcamos dois pontos no plano:

  1. (0, 3): Três unidades acima no eixo y.

  2. (1, 5): Movemos uma unidade à direita no eixo x e cinco unidades para cima no eixo y.

Após marcar os dois pontos, traçamos uma linha reta entre eles, representando a função no gráfico.

Exemplo 2

Para os 50 estados considere as variáveis:

Y = taxa de crimes violentos

X = taxa de pobreza

Veremos que: a linha \(y = 210 + 25x\) aproxima a relação. O intercepto-y é igual a 210. A inclinação é igual a 25.

Quando o percentual com renda abaixo do nível de pobreza aumenta de uma unidade, a taxa de crimes violentos aumenta aproximada- mente 25 crimes por ano para uma população de 100.000 habitantes. Um aumento de uma unidade no nível abaixo da pobreza corresponde a uma chance maior de crimes violentos do que um aumento de um no percentual urbano.

Exemplo 2 - continuação

Geralmente, quanto maior o valor absoluto de \(\beta\), mas inclinada será a linha.

Se \(\beta\) é positivo, então y aumenta à medida que x aumenta- a linha reta sobe.

Grandes valores de y ocorrem com grandes valores de x, e pequenos valores de y ocorrem com pequenos valores de x

Quando um relacionamento entre duas variáveis segue uma reta com \(\beta>0\), o relacionamento é dito positivo

Se \(\beta\) é negativo, então y diminui à medida que x aumenta. A linha, então, desce e o relacionamento é dito negativo

Equação de previsão pelos mínimos quadrados

Modelo é uma aproximação simples para o relacionamento entre as variáveis na população. A função linear fornece o modelo mais simples para o relacionamento entre duas variáveis quantitativas.

Usando dados amostrais, podemos estimar o modelo linear. O processo trata a e \(\beta\) na equação \(y = \alpha + \beta x\) como parâmetros desconhecidos e os estima. A função linear estimada, então, fornece os valores-y pré-vistos para valores fixos de x

Diagrama de dispersão entre a taxa de assassinatos estadual e o nível de pobreza

Interpretação

Para verificar se uma reta descreve bem o relacionamento, construímos um diagrama de dispersão para as 51 observações. Cada ponto na Figura 9.4 exibe os valores da taxa de pobreza e de assassinatos para um dado estado.

  • A Figura 9.4 indica que a tendência dos pontos parece ser bem aproximada por uma linha. Observe, entretanto, que um ponto está bem longe do resto. Este é o ponto do Distrito de Columbia (D.C.). Para ele, a taxa de assassinatos é muito mais alta do que para qualquer outro estado. Este ponto está longe da tendência geral.

  • O diagrama de dispersão fornece um auxílio visual para verificarmos se um relacionamento é aproximadamente linear.

Equação de previsão

A equação amostral \(\hat{y} = a + bx\) é chamada de equação de previsão, porque fornece uma previsão y para a variável resposta, dado qualquer valor de x. A equação da previsão é a melhor linha reta, estando mais próxima dos pontos do diagrama de dispersão.

Se qualquer observação tem ambos os valores x e y acima das suas médias ou ambos os valores x e y abaixo das suas médias, então \((x-\bar{x})(y-\bar{y})\) é positivo. A estimativa da inclinação b tende a ser positiva quando a maioria das observações são como essa, isto é, quando pontos com valores-x grandes também tendem a ter valores-y grandes e pontos com va- lores-x pequenos tendem a ter valores-y pequenos. A Figura 9.4 é um exemplo de tal caso.

Exemplo 9.4 Prevendo a taxa de assassinatos a partir da taxa de pobreza

As estimativas de a e \(\beta\) estão listadas sob o título “B”, o símbolo que o SPSS usa para representar um coeficiente de regressão estimado. O intercepto-y estimado é a= - 10,14, listado como “(Constante)”. A estimativa da inclinação é b= 1,32, listada no nome da variável da qual ela é o coeficiente na equação de previsão, “POBREZA”. Portanto, a equação de previsão é \(\hat{y} = a + bx = -10,14+1,32x\)

A inclinação b = 1,32 é positiva. Assim, quanto maior a taxa de pobreza, maior é a taxa de assassinatos prevista. O valor 1,32 indica que um aumento de um no percentual dos que vivem abaixo do nível de pobreza corresponde a um aumento de 1,32 na taxa prevista de assassinatos.

Efeito dos valores de atípicos na equação de previsão

Exemplo 9.4 sobre o diagrama de dispersão. O diagrama mostra que a observação para o D.C. é um valor atípico da regressão – ele está́ bem longe da tendência seguida pelo restante dos dados. Esta observação parece ter um efeito substancial. A linha parece ter sido puxada em sua direção e longe do centro da tendência geral dos pontos.

A observação atípica tem o impacto de mais do que dobrar a inclinação!

Efeito dos valores de atípicos na equação de previsão - continuação

Uma observação é influente se sua remoção causar uma grande alteração na equação de regressão (previsão). Isso ocorre principalmente em amostras pequenas, quando uma observação tem:

  1. Um valor-xxx muito baixo ou muito alto comparado ao resto dos dados.

  2. É um valor atípico (não segue a tendência da regressão).

Na análise dos dados incluir o D.C. (Distrito de Columbia) distorce a tendência observada nos 50 estados. Portanto, é mais prudente usar a equação baseada apenas nos dados dos 50 estados, pois essa equação representa melhor a tendência geral.

Erros de previsão são chamados de resíduos

Para os dados amostrais, uma comparação das taxas de assassinato reais com os valores previstos verifica a qualidade da equação de previsão. Os erros de previsão são chamados de resíduos.

Para uma observação, a diferença entre um valor observado e o valor previsto da variável resposta, \(y-\hat{y}\), denominado resíduo.

Quanto menor for o valor absoluto do resíduo, melhor é a previsão. Isso significa que o valor previsto está muito próximo do valor observado.

Em um diagrama de dispersão, o resíduo para uma observação é a distância vertical entre seu ponto e a linha de previsão.

A equação de previsão tem a propriedade dos mínimos quadrados

\[SQE = \sum(y - \hat{y})^2\]

O resíduo é calculado para cada observação da amostra, cada resíduo é elevado ao quadrado e, então, SQE é a soma desses quadrados.

SQE= Soma dos Quadrados dos Erros se refere ao resíduo sendo uma medida de prever o erro usando para prever y. Alguns softwares (como o SPSS) chamam o SQE de soma dos quadrados dos resíduos.

Quanto melhor a equação de previsão, menores tendem a ser os resíduos e, portanto, menor tende a ser a SQE. A linha de previsão \(\hat{y}=a+bx\) é chamada de linhas dos mínimos quadrados, porque ela é a linha com a menor soma dos quadrados dos resíduos.

9.3 O MODELO DE REGRESSÃO LINEAR

  • Leva em consideração a variabilidade dos dados em torno da linha de regreção.

  • A distribuição se refere à variabilidade nos valores \(y\) para um valor fixo de \(x\).

A regressão linear é uma técnica estatística utilizada para modelar a relação entre uma variável dependente (ou resposta) e uma ou mais variáveis independentes (ou preditoras). Seu principal objetivo é ajustar uma linha reta que melhor represente a relação entre essas variáveis, minimizando a soma dos erros quadráticos entre os valores observados e os valores previstos pelo modelo. Dessa forma, é utilizada para prever valores, identificar tendências e entender a força e a direção das associações entre variáveis. Além disso, os coeficientes estimados no modelo oferecem insights sobre como mudanças nas variáveis independentes impactam a variável dependente.

Função de Regressão Linear

Descreve como a média da variável resposta muda de acordo com o valor da variável explicativa.

Para \(y\) = renda anual e \(x\) = número de anos de escolaridade, suponha que \(E(y) = 5000 + 3000x\). Por exemplo, aqueles com ensino médio completo \((x = 12)\) têm uma renda média de \(E(y) = 5000 + 3000(12) = 31000\) dólares. O modelo determina que a renda média é de 31000, em vez de determinar que cada sujeito com x = 12 tem uma renda de 31000 dólares.

EXEMPLO 9.5: Descrevendo como a renda varia para um dado nível de escolaridade

Novamente, suponha que \(E(y) = 5000 + 3000x\) descreve o relacionamento entre a renda média anual e o número de anos de escolaridade. Suponha, também, que a distribuição condicional da renda é normal é igual a 13000. Aqueles tendo o ensino médio completo (x = 12) têm uma renda média de \(E(y) = 5000 + 3000(12) = 31000\) dólares e um desvio padrão de 13000 dólares. Assim, aproximadamente 95% dos rendimentos estão dentro de dois desvios padrão da média, isto é, entre 31000 - 2(13000) = 5000 e 31000 + 2(13000) = 57000 dólares. Aqueles com ensino superior completo (x = 16) têm uma renda média anual de \(E(y) = 5000 + 3000(16) = 43000\) dólares, com aproximadamente 95% das rendas estando entre $17000 e $69000.

A inclinação igual 3000 implica que a renda média aumenta $3000 para cada ano de aumento da escolaridade.

Erro quadrático médio: estimando a variação condicional: O Erro Quadrático Médio (EQM) é uma forma de medir o quão boas são essas previsões.

É definido pela média dos quadrados das diferenças entre os valores preditos por um modelo e os valores reais observados, ou seja, a variabilidade amostral amostral sobre a linha dos mínimos quadrados.

\[s = \sqrt{\frac{SQE}{n-2}} = \sqrt{\frac{\sum({y - \hat{y}})^2}{n-2}}\] Vamos imaginar que você está tentando prever a nota de um aluno em uma prova, com base no número de horas que ele estudou. Você cria um modelo para fazer essas previsões. O Erro Quadrático Médio (EQM) é uma forma de medir o quão boas são essas previsões.

Como o EQM funciona na prática? 1. Você faz previsões com seu modelo: Por exemplo, se o aluno estudou 5 horas, seu modelo diz que ele provavelmente tirará 8,5 na prova. Mas, na realidade, ele tirou 9.

  1. Você calcula o erro para cada previsão: \((9 - 8,5)^2\) (Ao elevar ao quadrado, você garante que erros positivos e negativos não se anulem e dá mais peso para erros grandes).

  2. Depois de repetir isso para todos os alunos, você tira a média de todos os erros ao quadrado. Esse número final é o EQM.

Por que o EQM é útil? O EQM te ajuda a entender o quanto seu modelo está errando, em média: Se o EQM for pequeno, significa que suas previsões estão bem próximas da realidade. Se for grande, tem algo errado com o modelo.

EXEMPLO 9.6: Assistir à televisão e rendimento acadêmico(GPA – Grade Point Averages)

Um levantamento de dados com 50 estudantes universitários em uma classe de psicologia introdutória observou autorrelatos de y = GPA do ensino médio e x = número semanal de horas assistindo à televisão. O estudo relatou \(\hat{y} = 3,44 - 0,03x\). Para esses dados, um software informa o seguinte:

A soma dos quadrados dos resíduos ao se utilizar x para prever y foi SQE = 11,66. O desvio padrão condicional estimado é:

\(s = \sqrt{\frac{SQE}{n-2}} = \sqrt{\frac{11,66}{50-2}} = 0,49\).

Para qualquer valor fixo de assistir à televisão (x), o modelo prevê que os GPAs variam em torno da média de 3,44 - 0,03x com um desvio padrão de 0,49. Para x = 20, por exemplo, a distribuição condicio- nal do GPA é estimada como tendo uma média de 3,44 - 0,03(20)= 2,83 e um des- vio padrão de 0,49.

A variação condicional tende a ser menor do que a variação inalmarginal

  • Distribuição Marginal: refere-se à distribuição de uma única variável, sem considerar a relação com outras variáveis. É o comportamento geral de uma variável no conjunto de dados, isolada de qualquer dependência. Por exemplo, a distribuição marginal da variável dependente Y descreve a frequência dos valores de Y em toda a amostra, sem levar em conta os valores das variáveis independentes.

  • Distribuição Condicional: descreve a distribuição de uma variável dependente, Y, dado um valor específico ou um intervalo da variável independente, X. Na regressão linear, essa distribuição expressa a relação funcional.

Como a regressão linear busca explicar parte da variância de Y com base em X, a variância marginal (Var(Y)) é composta pela variância explicada pelo modelo (Var(Ypredito)) e pela variância residual (Var(Y∣X)). Assim, a variação condicional tende a ser menor do que a variação marginal, pois a parte explicada pelas variáveis independentes é removida, reduzindo a incerteza sobre Y dada a informação de X.

A variação condicional tende a ser menor do que a variação marginal

Por exemplo, a distribuição marginal dos GPAs da universidade (y) na sua faculdade pode, primeiramente, estar entre 1,0 e 4,0. Talvez uma amostra tenha um desvio padrão de 0,60. Suponha que você poderia prever perfeitamente o GPA da universidade usando x = GPA do ensino médio, com a equação de previsão = 0,40 + 0,90x. Então, SQE seria 0 e o desvio padrão condicional seria 0. Na prática, uma previsão perfeita não acontece. Entretanto, quanto mais forte a associação em termos de um menor erro de previsão, menor será a variabilidade condicional. Veja a Figura 9.9 que exibe uma distribuição marginal que é muito mais dispersa do que cada distribuição condicional.

9.4 MENSURANDO A ASSOCIAÇÃO LINEAR: A CORRELAÇÃO

Medidas da força da associação entre as variáeis

Inclinação Ordinária (Coeficiente Não Padronizado): É o valor que aparece em uma equação de regressão quando as variáveis estão em suas unidades originais. Ele indica o quanto a variável dependente muda, em média, para cada unidade de aumento na variável independente. Interpretação: “Para cada aumento de 1 unidade na variável X, a variável Y muda em média pela quantidade indicada pela inclinação.” Exemplo: Imagine que você está modelando o impacto do número de horas estudadas (X, em horas) na nota de um aluno (Y, em uma escala de 0 a 10). Se a inclinação ordinária for 0,5, significa que: A cada hora adicional de estudo, a nota média aumenta em 0,5 ponto. A inclinação ordinária depende das unidades das variáveis. Por isso, se mudarmos as unidades (por exemplo, de horas para minutos), o valor da inclinação também mudará.

Inclinação Padronizada (Coeficiente Beta): É calculada após padronizar as variáveis (subtraindo a média e dividindo pelo desvio padrão). Ela mede a relação em termos de desvios padrão, não em unidades originais. Interpretação: “Para cada aumento de 1 desvio padrão em X, Y muda, em média, por um número de desvios padrão igual ao coeficiente padronizado.” Exemplo: Se o coeficiente padronizado é 0,6, significa que: Quando o número de horas estudadas aumenta em 1 desvio padrão, a nota do aluno aumenta, em média, em 0,6 desvios padrão.

A correlação, Versão padronizada da inclinação (Correlação de Pearson):

  • A correlação é útil para comparar associações para variáveis com diferentes unidades;

  • A correlação é o valor que a inclinação assumiria para unidades tais que as variáveis tenham desvios padrão iguais.

  • Considere sx e sy a representação dos desvios padrão amostrais marginais de x ey:

\[S_x = \sqrt{\frac{\sum(x - \bar{x})^2}{n-1}} \text{ e } S_y = \sqrt{\frac{\sum(y - \bar{y})^2}{n-1}}\]

A corelação, representada por r, se relaciona com a inclinação b da equação de previsão \(y = a + bx\) por:

\[r = {\frac{S_x}{S_y}\times b}\]

Quando as dispersões da amostra são iguais (sx = sy), r = b.

EXEMPLO 9.7: A correlação entre as taxas de assassinatos e de pobreza.

Para os dados dos 50 estados na Tabela 9.1, a equação de previsão relacionando y = taxa de assassinatos com x = taxa de pobreza é = 0,86 + 0,58x. O software nos diz que sx = 4,29 para a taxa de pobreza e sy = 3,98 para a taxa de assassinatos. A correlação é igual a:

\[r = {\frac{4,29}{3,98}\times 0,58} = 0,63\]

Propriedades da correlação

  • Visto que r é proporcional à inclinação de uma equação de previsão linear, ele mensura a força da associação linear entre x e y.
  • A correlação, diferente da inclinação b, deve estar entre -1 e +1.
  • O r tem o mesmo sinal da inclinação b. Visto que r é igual a b multiplicado pela razão de dois desvios padrão (positivos), o sinal é preservado. Portanto, r > 0 quando as variáveis estão relacionadas positivamente e r< 0 quando as variáveis estão relacionadas negativamente.
  • r = 0 para aquelas linhas tendo b = 0. Quando r = 0, não existe uma tendência de um aumento ou diminuição linear dos dados.
  • r =+/-1 quando todos os pontos da amostra estão exatamente sobre a linha de previsão. Eles correspondem a associações lineares perfeitas tanto positivas quanto negativas.
  • Quanto maior o valor absoluto de r, mais forte a associação linear.
  • A correlação, diferente da inclinação b, trata x e y simetricamente.
  • O valor de r não depende das unidades das variáveis.

Correlação implica regressão em direção à média

Quando há uma correlação entre duas coisas (como altura dos pais e altura dos filhos), os valores extremos em uma variável (pais muito altos ou muito baixos) tendem a ser acompanhados por valores na outra variável que estão mais próximos da média geral, e não tão extremos. Em cada caso, Galton destacou a regressão em direção à média. Essa é a origem do nome da análise de regressão.

Por que isso acontece?

  1. Nem tudo é perfeitamente correlacionado: A altura dos filhos não é determinada apenas pela altura dos pais; outros fatores, como genética da mãe, nutrição e ambiente, também influenciam. Isso faz com que os filhos, em geral, se aproximem da altura média da população, em vez de ficarem nos extremos.

  2. A força da correlação importa: Se a correlação for perfeita (ou seja, r=1r = 1r=1), não haveria regressão em direção à média — os filhos teriam exatamente a mesma altura relativa que os pais. Mas, no mundo real, a correlação nunca é perfeita, então sempre há um “ajuste” para a média.

EXEMPLO 9.8 A altura da criança regride em direção da média

O cientista britânico Sir Francis Galton descobriu as ideias básicas da regressão e da correlação em 1880. Após multiplicar a altura de cada mulher por 1,08 para explicar diferenças de gênero, ele notou que a correlação entre x = altura dos pais (a média d aaltura do pai e da mãe) e y = altura da criançaa é aproximadamente 0,5.

\(r^2\): redução proporcional no erro de previsão

Definição:

SQT = \(\sum(y - \bar{y})^2\) é a soma dos quadrados totais

SQE = \(\sum(y - \hat{y})^2\) é a soma dos quadrados dos resíduos

\(\frac{E_1-E_2}{E_1}\) é a redução proporcional no erro de previsão

A notação r2 é usada para esta medida porque, na verdade, a redução proporcional no erro é igual ao quadrado da correlação r.

Definição:

  • É igual ou maior que - 1 e igual ou menor a 1

  • Como a correlação, r² informa a força de associação linear. Quanto mais próximo de 1, maior é a força.

  • Quando o SQE é 0, a valor final é igual a 1, ou seja, não exite erro no modelo de previsão (todos os pontos da amostra estão sobre a linha de previsão).

  • Quando a regra de previsão da média de y e \(\hat{y}\) é igual, \(r^2 = 0\).

EXEMPLO 9.9. \(r^2\) para a taxa de assassinatos e a taxa de pobreza.

A correlação entre a taxa de pobreza e a taxa de assassinatos para os 50 estados é \(r = 0,629\). Portanto, \(r^2 = (0,629)^2 = 0,395.\) Para prever a taxa de assassinatos, a equação de previsão linear = 0,86 + 0,58x tem 39,5% menos erro do que a média dos valores de Y.

\[ r^2 = \frac{SQT - SQE}{SQT} = \frac{777,7 - 470,4}{777,7} = 0,395 \]

9.5 INFERÊNCIAS PARA A INCLINAÇÃO E A CORRELAÇÃO

  1. Relação entre duas variáveis quantitativas.

  2. Correlação para descrever a força da associação.

Inferências para o modelo de regressão

Um teste para verificar se duas variáveis quantitativas são estatisticamente independentes tem o mesmo objetivo do teste qui-quadrado para variáveis categóricas. Um intervalo de confiança para a inclinação da equação de regressão ou da correlação nos informa sobre o tamanho do efeito. Essas inferências nos permitem julgar se as variáveis estão associadas e estimar a direção e a força da associação.

Suposições para a inferência estatística

  • O estudo usou a aleatorização, como uma amostra aleatória simples.

  • A média da distribuição condicional de y para cada valor de x é uma linha reta.

\[E(y) = \alpha + \beta_x\]

  • O desvio padrão condicional \(\sigma\) é o mesmo para cada valor-x.

  • A distribuição condicional de \(y\) para cada valor \(x\) é normal.

Na prática, nenhuma destas suposições é verdadeira, mas a regressão linear é robusta à violações de algumas dessas suposições.

Teste de independência

Duas variáveis quantitativas são estatísticamente independentes se a distribuição condicional normal de \(y\) é a mesma em cada valor-x.

\(H_0: \beta = 0\)

\(H_a: \beta \neq 0\) ou \(H_a: \beta > 0\) ou \(H_a: \beta < 0\)

A estatística de teste é:

\[t = \frac{b}{ep}\] Onde \(ep\) é o erro padrão da inclinação amostral \(b\)

Essa estatística de teste segue uma distribuição t de Student com n-2 graus de liberdade.

O erro padrão da inclinação é: \[ep = \frac{s}{\sqrt{\sum(x - \bar{x})^2}}\]

Onde \(s\), o desvio padrão condicional estimado é calculado como:

\[s = \sqrt{\frac{SQE}{n-2}}\]

  • quanto menor for \(s\), mais precisamente \(b\) estimas \(\beta\).

  • quanto maior a amostram, mais precisamente \(b\) estima \(\beta\) mais precisamente.

EXEMPLO 9.10 Regressão para os preços de vendas de casas

O conjunto de dados house.selling.price contém informações sobre o preço de venda e o tamanho de 100 casas.

O que afeta o preço de venda de uma casa?

Modelo simples onde y = preço de venda e x = tamanho da casa.

Hipóteses:

\(H_0: \beta = 0\)

\(H_a: \beta \neq 0\)

O modelo \(Y = \alpha + \beta X\) parece apropriado.

Interpretação do teste de independência

We fitted a linear model (estimated using OLS) to predict Price with Size
(formula: Price ~ Size). The model explains a statistically significant and
substantial proportion of variance (R2 = 0.70, F(1, 98) = 223.52, p < .001,
adj. R2 = 0.69). The model's intercept, corresponding to Size = 0, is at
-50926.25 (95% CI [-80487.62, -21364.89], t(98) = -3.42, p < .001). Within this
model:

  - The effect of Size is statistically significant and positive (beta = 126.59,
95% CI [109.79, 143.40], t(98) = 14.95, p < .001; Std. beta = 0.83, 95% CI
[0.72, 0.94])

Standardized parameters were obtained by fitting the model on a standardized
version of the dataset. 95% Confidence Intervals (CIs) and p-values were
computed using a Wald t-distribution approximation.

A equação de previsão é: \(\hat{y} = - 50926 + 126,6x\)

Para testar a hipótese de que o tamanho da casa não afeta o preço de venda, o teste de hipótese é:

Para testar independência, \(H_0: \beta = 0\) a estatística de teste é \(t = 14,95\) com 98 graus de liberdade.

O valor-p é \(< 0,0001\).

Isso sugere que o preço de venda é afetado pelo tamanho da casa. Em média, o preço da casa aumenta à medida que o tamanho da casa aumenta.

\(r^2 = 0,70\) indica que 70% da variabilidade no preço de venda é explicada pelo tamanho da casa.

Intervalo de confiança para a inclinação

  • Um valor-p pequeno sugere que a inclinação é significativamente diferente de 0.

  • Entranto deveríamos está mais preocupados com o tamanho da inclinação \(\beta\) do que saber que ela é diferente de 0. Assim, podemos calcular um intervalo de confiança para a inclinação:

\[b \pm t_{\alpha/2} \times ep\]

Para os dados das casas, o intervalo de confiança para a inclinação é \([\$109.79, \$143.40]\).

Podemos estar 95% confiantes de que o preço de venda aumenta entre \([\$109.79, \$143.40]\) para cada pé quadrado adicional de espaço.

E se quisessemos um intervalo de confiança para a média do preço de venda para casas de 100 pés quadrados?

Estimando o intervalo de confiança para a média do preço de uma casa de 100 pés quadrados

  • A equação de previsão é \(\hat{y} = - 50926 + 126,6x\).

  • A mudança na média de \(y\) é \(100\beta\)

  • Assim o intervalo de 95% de confiança para \(100\beta\) tem pontos de extremidade \(100(110) = 11100\) e \(100(143) = 14300\).

Assim, inferimos que o preço médio de venda aumenta por, pelo menos, $11100 e no máximo $14300, para um aumento no tamanho da casa de 100 pés quadrados. Por exemplo, assumindo que o modelo de regressão linear é válido, concluímos que o preço médio está entre $11100 e $14300 acima para casas com 1700 pés quadrados do que para casa com 1600 pés quadrados.

Inferência para a correlação: \(\rho\)

A correlação \(\rho\) é uma medida da força da associação linear entre duas variáveis. Um teste de \(H_0:\rho = 0\) usando o valor amostral \(r\) é equivalente ao teste t de \(H: \beta =0\) usando o valor amostral \(b\).

A estatística de teste para a correlação é:

\[t = \frac{r}{\sqrt{\frac{1-r^2}{n-2}}}\]

Isso fornece o mesmo que \(t = b/ep\) para a inclinação. Com isso, podemos utilizar qualquer uma dessas estatísticas para testar \(H_0\); independência, uma vez que cada uma delas tem a mesma distribuição t de Student com \(gl=n-2\) e produzem o mesmo valor-p.

Por exemplo, para os dados das casas, \(r = 0,834\) e \(t = 14,95\) com 98 graus de liberdade. O valor-p é \(< 0,0001\).

9.6 SUPOSIÇÕES DO MODELO E VIOLAÇÕES

O modelo de regressão linear assume que o relacionamento entre x e a média de y se- gue uma linha reta (Agresti & Finlay’s, 2011).

Quais suposições são importantes?

A primeira suposição que deve ser respeitado é a linearidade dos parâmetros, ou seja, deve-se esperar que a relação entre as variáveis independentes e a variável dependente possa ser representada por uma função linear.

Relação linear entre x e y

Provavelmente o teste t de \(H_0: \beta = 0\) será rejeitado, mas a relação entre x e y não é linear. Por essa razão devemos sempre verificar a relação com gráfico de dispersão entre as variáveis antes de realizar a regressão.

Amostragem Aleatória

A segunda suposição diz que existe uma amostra aleatória de tamanho N, \(f(X_i ,Y_i), i=1…N\), proveniente de um modelo populacional.

Pode-se pensar no exemplo de retornos salariais do investimento em capital humano. Em geral, em base de dados com informações individuais, como a PNAD e o Censo Demográfico, observam-se os rendimentos do trabalho apenas para aqueles trabalhadores que estão ocupados, ou seja, empregados, logo, a amostra de rendimentos pode apresentar um viés de seleção, sob a hipótese de que os trabalhadores ocupados são aqueles mais produtivos (Chein, 2019).

Variação amostral da variável independente (X)

O terceiro pressuposto estabelece que os resultados amostrais de X não têm todos o mesmo valor. Essa hipótese também é conhecida como a hipótese de variabilidade do regressor. Na maior parte das aplicações, esta hipótese sempre estará presente. Faz pouco sentido tentar explicar a variação de y por variações em X, se X não varia.

A extrapolação é perigosa

É perigoso aplicar uma equação de previsão aos valores de x fora do intervalo dos valores observados. O relacionamento pode não ser linear fora desse intervalo. Podemos obter previsões ineficientes ou até mesmo absurdas extrapolando além do intervalo observado dos valores de x.

Informações influentes

Uma única observação pode ter um grande efeito se ela é um valor atípico da regressão – tendo um valor-x relativamente grande ou relativamente pequeno e ficando distante da tendência que o restante dos dados segue(Agresti & Finlay’s, 2011).

Exemplo Taxa de natalidade

A Figura 9.17 mostra as equações de previsão com e sem os Estados Unidos. A equação de previsão muda de \(\hat{y} = 29,8 - 0,024x\) para \(\hat{y} = 31,2 - 0,195x\). Acrescentar apenas um ponto ao conjunto de dados acarretou uma dramática inclina- ção, para baixo, na linha de previsão ão (Agresti & Finlay’s, 2011).

Fatores que influenciam a correlação

Além de ser influenciada por valores atípicos, a correlação depende do intervalo dos valores-x amostrados. Quando uma amostra tem um intervalo bem menor de variação em x do que a população, a correlação da amostra tende a subestimar drasticamente (em valor absoluto) a correlação da população (Agresti & Finlay’s, 2011).

Exemplo 9.12: O SAT prevê o GPA da faculdade?

Considere a associação entre \(x = escore\) do SAT para admissão na universidade e \(y = GPA\) (rendimento) da faculdade ao final do segundo ano. A força da correlação depende da variabilidade nos escores do SAT na amostra. Se estudarmos a associação somente para os estudantes da Universidade de Harvard, a correlação será, provavelmente, fraca, porque os escores do SAT da amostra estarão bem concentrados na parte superior da escala.

A correlação faz mais sentido, entretanto, quando ambos x e y são aleatórios, em vez de somente y (Agresti & Finlay’s, 2011).

Modelo de regressão com termos erro

Para cada valor fixo de x, o modelo de regressão permite aos valores de y flutuar em torno da sua média, \(E(y) = \alpha + \beta x\). Qualquer observação pode estar acima da média (isto é, acima da linha de regressão) ou abaixo (abaixo da linha de regressão). O desvio padrão \(\sigma\) resume o tamanho típico dos desvios da mé dia (Agresti & Finlay’s, 2011).

O modelo determinista \(y = \alpha + \beta x\) não é realista porque não permite a variabilidade dos valores-y.

Para permitir essa variabilidade, incluímos um termo para o desvio da observação y da média:

\[y = \alpha + \beta x + \epsilon\]

\(\epsilon\): representa o desvio entre y e sua média, \(\alpha + \beta x\).

Na prática não conhecemos os n valores de \(\epsilon\), mas podemos estimar a variabilidade dos erros com base nos resíduos amostrais.

\[y = a + bx + e\]

onde \(e = y - \hat{y}\) então, e é o resíduo, a diferença entre o valor observado e o valor predito.

Modelo de regressão com termos erro

Modelos e realidade

Por definição, os modelos meramente se aproximam da realidade.

O modelo de regressão linear é uma simplificação da realidade. Ele é útil para descrever a relação entre duas variáveis, mas não é perfeito. A realidade é mais complexa do que um modelo linear pode capturar. Por exemplo, a relação entre o tempo de estudo e o desempenho acadêmico pode ser afetada por muitos outros fatores, como a qualidade do sono, a saúde mental, a motivação e a qualidade do ensino. O modelo de regressão linear não pode capturar todas essas nuances (Agresti & Finlay’s, 2011).

Conclusoes para \(y = \alpha + \beta x + \epsilon\)

  • A regressão linear simples é uma ferramenta para modelar a relação entre duas variáveis quantitativas. \(E(y) = \alpha + \beta x + \epsilon\)

  • \(\beta\) é a inclinação da linha de regressão, que indica a mudança média em \(y\) para uma unidade de mudança em \(x\).

  • \(\alpha\) é o intercepto da linha de regressão, que indica o valor médio de \(y\) quando \(x = 0\).

  • \(\epsilon\) é o erro, que é a diferença entre o valor observado de \(y\) e o valor predito de \(y\).

  • Se \(\beta = 0\), não há associação linear entre \(x\) e \(y\). Mesmo assim precisamos verificar a relação entre as variáveis com um gráfico de dispersão.

  • A correlação é uma medida da força da associação linear entre duas variáveis.

  • O coeficiente de determinação \(r^2\) é a proporção da variabilidade na variável dependente que é explicada pela variável independente.

  • A inferência estatística para a inclinação e a correlação é baseada em testes de hipóteses e intervalos de confiança.

  • A regressão linear é uma simplificação da realidade e não pode capturar todas as nuances da relação entre duas variáveis.

Referências

AGRESTI, Alan. Métodos estatísticos para as ciências sociais. [S. l.]: Penso, 2011.

CHEIN, Flávia. Introdução aos modelos de regressão linear: um passo inicial para compreensão da econometria como uma ferramenta de avaliação de políticas públicas. [S. l.]: Enap, 2019.

FILHO, Dalson Figueiredo; NUNES, Felipe. O que Fazer e o que Não Fazer com a Regressão: pressupostos e aplicações do modelo linear de Mínimos Quadrados Ordinários (MQO)12. [s. l.], 2011.

OBRIGADO A TODOS PELA ATENÇÃO!!