1 Questão 1 a)

Derivacao Completa e Otimizacao: Modelo Transformado (β̃ = A⁻¹b)

Contexto do Modelo:

Partimos da funcao de perda do modelo transformado onde a matriz de regressores e dada por *X̃ = XA*, sendo A uma matriz nao singular:

Passo 1: Funcao de Perda (SQE) e Expansao Matricial

A Soma dos Quadrados dos Erros (SQE) a minimizar e:

S(β̃) = (y - X̃β̃)'(y - X̃β̃)

Substituindo *X̃ = XA* e expandindo os produtos matriciais termo a termo (usando *(AB)' = B'A'*):

S(β̃) = y'y - y'XAβ̃ - β̃'A'X'y + β̃'A'X'XAβ̃

Como os termos centrais sao escalares transpostos equivalentes (*y'XAβ̃ = β̃'A'X'y*), podemos somá-los:

S(β̃) = y'y - 2β̃'A'X'y + β̃'A'X'XAβ̃

Passo 2: Condicao de Primeira Ordem (CPO)

Derivamos a funcao em relacao a *β̃* e igualamos a zero para achar o ponto estacionario:

∂S / ∂β̃ = -2A'X'y + 2A'X'XAβ̃ = 0

Dividindo por 2 e isolando o termo das equacoes normais:

A'X'XAβ̃ = A'X'y

Pré-multiplicando ambos os lados pela inversa *(A'X'XA)⁻¹*:

β̃ = (A'X'XA)⁻¹ A'X'y

Passo 3: Condicao de Segunda Ordem (Matriz Hessiana)

**O que determina a CSO?** A CPO apenas garante inclinação zero (ponto estacionário). A Condição de Segunda Ordem analisa a *curvatura* da funcao objetivo através da **Matriz Hessiana (H)** para comprovar que o ponto encontrado e um **mínimo global**.

Derivando o gradiente mais uma vez em relacao a *β̃*:

H = ∂²S / ∂β̃∂β̃' = 2(A'X'XA)

**Definitividade Positiva:** Para garantir convexidade estrita (mínimo global único), testamos a forma quadrática com um vetor arbitrário não nulo *v*:

v' H v = 2 v' (A'X'XA) v = 2 (Av)' X'X (Av) = 2 ||X(Av)||^2 > 0

Como a norma ao quadrado é estritamente positiva, a Hessiana é **definida positiva**, validando o mínimo global.

Passo 4: Simplificação Algébrica até β̃ = A⁻¹ b

Aplicando a propriedade da inversa de um produto matricial *(MN)⁻¹ = N⁻¹M⁻¹* no termo *(A' (X'X) A)⁻¹*:

(A'X'XA)⁻¹ = A⁻¹ (X'X)⁻¹ (A')⁻¹

Substituindo de volta na expressao de *β̃* e agrupando os termos:

β̃ = A⁻¹ (X'X)⁻¹ [ (A')⁻¹ A' ] X'y

Como *(A')⁻¹A' = I* (Identidade) e *(X'X)⁻¹X'y = b* (o estimador MQO original), chegamos ao resultado final:

β̃ = A⁻¹ b

2 Questão 2 a)

Questão (b): Demonstração Formal da Equivalência dos Resíduos (Teorema de Frisch-Waugh-Lovell)

Enunciado:

Considere os modelos:

(3) y = Xβ + Zγ + ε
(4) MZ y = MZ Xβ + ε̃

Demonstre formalmente que a soma dos resíduos de MQO da regressão (3) é igual à soma dos resíduos de MQO da regressão (4).

Passo 1: Agrupamento Matricial, Função de Perda, Derivação e Substituição de g no Resíduo

Reescrevemos o modelo completo (3) agrupando as matrizes e parâmetros unificados:

y = [X : Z] [β' : γ']' + ε = Wg + ε

onde *W = [X : Z]* e *g* é o vetor unificado de parâmetros. A função de perda a minimizar é:

S(g) = ε'ε = (y - Wg)'(y - Wg) = y'y - 2g'W'y + g'W'Wg

Derivando em relação a *g* e igualando a zero (CPO), obtemos o estimador de MQO:

∂S / ∂g = -2W'y + 2W'Wg = 0 ⇒ W'Wg = W'y ⇒ g = (W'W)⁻¹ W'y

Substituindo *g* diretamente na equação do vetor de resíduos do modelo original *e = y - Wg*:

e = y - W (W'W)⁻¹ W'y

Colocando *y* em evidência, surge a matriz de projeção ortogonal completa *MW*, que ao detalhar a partição de W em X e Z e isolar por inversão em blocos, resulta explicitamente na matriz aniquiladora *MZ*:

e = [I - W (W'W)⁻¹ W'] y = [I - X(X'MZ X)⁻¹ X'MZ ...] y = MZ y

Passo 2: Definição Formal da Matriz Aniquiladora (MZ)

Definimos a matriz aniquiladora em relação a Z como:

MZ = I - Z(Z'Z)⁻¹Z'

Ela é chamada de aniquiladora porque anula o efeito linear de Z (pois *MZ Z = 0*), expurgando de *y* e de *X* a influência associada a *Z*.

Passo 3: Estimação por MQO da Regressão Transformada (4) e Substituição de g

Pré-multiplicando o modelo original (3) por *MZ*, o termo *Zγ* é eliminado, resultando na equação (4):

MZ y = MZ Xβ + ε̃

Aplicando o MQO na equação transformada (4), obtemos o estimador estrutural *b̃* substituindo a forma matricial correspondente:

b̃ = [(MZ X)' (MZ X)]⁻¹ (MZ X)' (MZ y) = (X' MZ X)⁻¹ X' MZ y = b

Passo 4: Igualdade dos Resíduos e Colocando y em Evidência

O vetor de resíduos da regressão auxiliar (4) é dado por substituindo *b̃* em função de *y*:

ε̃ = MZ y - MZ X [ (X' MZ X)⁻¹ X' MZ y ]

Colocando o vetor *y* em evidência na expressão acima, obtemos exatamente a estrutura da aniquiladora aplicada:

ε̃ = [MZ - MZ X (X' MZ X)⁻¹ X' MZ] y = MZ(y - Xb)

Como o vetor de resíduos do modelo completo original (3) derivado no Passo 1 por *y - Wg* resulta exatamente na mesma expressão, conclui-se formalmente que os resíduos são idênticos e, por consequência, suas somas são iguais:

ε̃ = e

3 questão 2 b)

Questão (b): Demonstração Formal da Equivalência dos Resíduos (Teorema de Frisch-Waugh-Lovell)

Enunciado:

Considere os modelos:

(3) y = Xβ + Zγ + ε
(4) MZ y = MZ Xβ + ε̃

Demonstre formalmente que a soma dos resíduos de MQO da regressão (3) é igual à soma dos resíduos de MQO da regressão (4).

Passo 1: Agrupamento Matricial, Função de Perda, Derivação e Substituição de g no Resíduo

Reescrevemos o modelo completo (3) agrupando as matrizes e parâmetros unificados:

y = [X : Z] [β' : γ']' + ε = Wg + ε

onde *W = [X : Z]* e *g* é o vetor unificado de parâmetros. A função de perda a minimizar é:

S(g) = ε'ε = (y - Wg)'(y - Wg) = y'y - 2g'W'y + g'W'Wg

Derivando em relação a *g* e igualando a zero (CPO), obtemos o estimador de MQO:

∂S / ∂g = -2W'y + 2W'Wg = 0 ⇒ W'Wg = W'y ⇒ g = (W'W)⁻¹ W'y

Substituindo *g* diretamente na equação do vetor de resíduos do modelo original *e = y - Wg*:

e = y - W (W'W)⁻¹ W'y

Colocando *y* em evidência, surge a matriz de projeção ortogonal completa *MW*, que ao detalhar a partição de W em X e Z e isolar por inversão em blocos, resulta explicitamente na matriz aniquiladora *MZ*:

e = [I - W (W'W)⁻¹ W'] y = [I - X(X'MZ X)⁻¹ X'MZ ...] y = MZ y

Passo 2: Definição Formal da Matriz Aniquiladora (MZ)

Definimos a matriz aniquiladora em relação a Z como:

MZ = I - Z(Z'Z)⁻¹Z'

Ela é chamada de aniquiladora porque anula o efeito linear de Z (pois *MZ Z = 0*), expurgando de *y* e de *X* a influência associada a *Z*.

Passo 3: Estimação por MQO da Regressão Transformada (4) e Substituição de g

Pré-multiplicando o modelo original (3) por *MZ*, o termo *Zγ* é eliminado, resultando na equação (4):

MZ y = MZ Xβ + ε̃

Aplicando o MQO na equação transformada (4), obtemos o estimador estrutural *b̃* substituindo a forma matricial correspondente:

b̃ = [(MZ X)' (MZ X)]⁻¹ (MZ X)' (MZ y) = (X' MZ X)⁻¹ X' MZ y = b

Passo 4: Igualdade dos Resíduos e Colocando y em Evidência

O vetor de resíduos da regressão auxiliar (4) é dado por substituindo *b̃* em função de *y*:

ε̃ = MZ y - MZ X [ (X' MZ X)⁻¹ X' MZ y ]

Colocando o vetor *y* em evidência na expressão acima, obtemos exatamente a estrutura da aniquiladora aplicada:

ε̃ = [MZ - MZ X (X' MZ X)⁻¹ X' MZ] y = MZ(y - Xb)

Como o vetor de resíduos do modelo completo original (3) derivado no Passo 1 por *y - Wg* resulta exatamente na mesma expressão, conclui-se formalmente que os resíduos são idênticos e, por consequência, suas somas são iguais:

ε̃ = e