Глава 2: Matrix Algebra

[2.22]

\[ \boldsymbol{A}=\begin{pmatrix} 3 & 6 & -1\\ 6 & 9 & 4\\ -1 & 4 & 3 \end{pmatrix} \]

(a) - Спектрална декомпозиција

Матрицата е симетрична, затоа има 3 сопствени вредности. Карактеристичната равенка изгледа вака:

\[ |\boldsymbol{A}-\lambda\boldsymbol{I}|=\begin{vmatrix} 3-\lambda & 6 & -1\\ 6 & 9-\lambda & 4\\ -1 & 4 & 3-\lambda \end{vmatrix}=\\(3-\lambda)\begin{vmatrix} 9-\lambda & 4\\ 4 & 3-\lambda \end{vmatrix}-6\begin{vmatrix} 6 & 4\\ -1 & 3-\lambda \end{vmatrix}-\begin{vmatrix} 6 & 9-\lambda\\ -1 & 4 \end{vmatrix}=\\ (3-\lambda)[(9-\lambda)(3-\lambda)-16]-6[6(3-\lambda)+4]-(24+9-\lambda)=\\ (9-\lambda)(3-\lambda)^2-16(3-\lambda)-36(3-\lambda)-57+\lambda=\\ (9-\lambda)(9-6\lambda+\lambda^2)-52(3-\lambda)-57+\lambda=\\ (81-54\lambda+9\lambda^2-9\lambda+6\lambda^2-\lambda^3)-213+53\lambda=\\ -\lambda^3+15\lambda^2-10\lambda-132 \]

Корените на равенката се:

lambdas_a = polyroot(z=c(-132, -10, 15, -1))
print(lambdas_a)

[1]  3.935277+0i -2.476994+0i 13.541717-0i

За да ги најдеме сопствените вектори, потребно ни е да го решиме системот равенки:

\[ \begin{pmatrix} 3-\lambda & 6 & -1\\ 6 & 9-\lambda & 4\\ -1 & 4 & 3-\lambda \end{pmatrix}\begin{pmatrix} x_1\\ x_2\\ x_3 \end{pmatrix}=\begin{pmatrix} 0\\ 0\\ 0 \end{pmatrix} \]

Во овој систем знаеме дека едната равенка е вишок. Затоа, претпоставувајќи дека \(x_3=1\), додавајќи ја последната равенка на првите две и решавајќи го системот:

\[ \begin{pmatrix} (3-\lambda)-1 & (6)+4\\ (6)-1 & (9-\lambda)+4 \end{pmatrix}\begin{pmatrix} x_1\\ x_2 \end{pmatrix}=\begin{pmatrix} -[(-1) + (3 - \lambda)]\\ -[(4)+(3-\lambda)] \end{pmatrix} \]

го добиваме општото решение за сопствениот вектор за дадената \(\lambda\), кое го има следниов облик:

\[ \nu=\begin{pmatrix} x_1x_3\\ x_2x_3\\ x_3 \end{pmatrix} \]

а нормализираниот сопствен вектор го има обликот:

\[ |\nu|=\sqrt{(x_1x_3)^2+(x_2x_3)^2+x_3^2}\\ \hat\nu=\begin{pmatrix} \frac{x_1x_3}{|\nu|}\\ \frac{x_2x_3}{|\nu|}\\ \frac{x_3}{|\nu|} \end{pmatrix} \]

Системот ќе го решиме со помош на R.

solve_equations <- function(a, b) {
  a <- matrix(data=a, nrow=2, ncol=2, byrow=TRUE)
  b <- matrix(data=b, nrow=2, ncol=1, byrow=FALSE)
  sol <- solve(a, b)
  nu <- c(sol[1], sol[2], 1)
  nu_length <- sqrt(sum(nu ^ 2))
  return(nu / nu_length)
}

solve_a <- function(l) {
  a <- c(
    3 - l - 1, 6 + 4, 
    6 - 1, 9 - l + 4)
  b <- c(
    1 - (3 - l), 
    -4 - (3 - l)
  )
  return(solve_equations(a, b))
}

Сопствениoт вектор за \(\lambda_1\) со модул 1 e:

nu_1_a = solve_a(lambdas_a[1])
print(nu_1_a)

[1] -0.58020965+0i  0.04509354+0i  0.81321789+0i

Сопствениoт вектор за \(\lambda_2\) со модул 1 e:

nu_2_a = solve_a(lambdas_a[2])
print(nu_2_a)

[1]  0.6754275+0i -0.5313250+0i  0.5113622-0i

Сопствениoт вектор за \(\lambda_3\) со модул 1 e:

nu_3_a = solve_a(lambdas_a[3])
print(nu_3_a)

[1] 0.4551422-0i 0.8459671-0i 0.2778225+0i

Конечно ги добиваме \(C\) и \(D\) (оцде се користи %*% за множење матрици со цел да се провери дека \(CDC'\) е исто со почетната матрица):

C_a = matrix(
  data=as.numeric(c(nu_1_a, nu_2_a, nu_3_a)), 
  nrow=3, 
  ncol=3, 
  byrow=FALSE
)

imaginary parts discarded in coercion

D_a = diag(x=as.numeric(lambdas_a), nrow=3, ncol=3)

imaginary parts discarded in coercion

C_a %*% D_a %*% t(C_a)

     [,1] [,2] [,3]
[1,]    3    6   -1
[2,]    6    9    4
[3,]   -1    4    3

(b) - Спектрална декомпозиција на \(A^2\)

\(A^2\) го наоѓаме со помош на R:

A <- matrix(data=c(
  3, 6, -1,
  6, 9, 4,
  -1, 4, 3
), nrow=3, ncol=3, byrow=TRUE)
A %*% A

     [,1] [,2] [,3]
[1,]   46   68   18
[2,]   68  133   42
[3,]   18   42   26

Матрицата е симетрична, затоа има 3 сопствени вредности. Карактеристичната равенка изгледа вака:

\[ |\boldsymbol{A}-\lambda\boldsymbol{I}|= \begin{vmatrix} 46-\lambda & 68 & 18\\68 & 133-\lambda & 42\\18 & 42 & 26-\lambda \end{vmatrix}=\\ (46-\lambda)\begin{vmatrix}133-\lambda & 42\\42 & 26-\lambda\end{vmatrix} -68\begin{vmatrix}68 & 42\\18 & 26-\lambda\end{vmatrix} +18\begin{vmatrix}68 & 133-\lambda\\18 & 42\end{vmatrix}=\\ (46-\lambda)[(133-\lambda)(26-\lambda)-1764]-68[68(26-\lambda)-756]+18[2856-18(133-\lambda)]=\\ (46-\lambda)(1694-159\lambda+\lambda^2)-(68816-4624\lambda)+(8316+324\lambda)=\\ -\lambda^3+205\lambda^2-4060\lambda+17424 \]

Корените на равенката се:

lambdas_a2 = polyroot(z=c(17424, -4060, 205, -1))
print(lambdas_a2)

[1]   6.135498+0i  15.486403-0i 183.378098+0i

За да се најдат сопствените вектори ја користиме функцијата:

solve_a2 <- function(l) {
  a <- c(
    46 - l + 18, 68 + 42, 
    68 + 18, 133 - l + 42)
  b <- c(
    -18 - (26 - l), 
    -42 - (26 - l)
  )
  return(solve_equations(a, b))
}

Сопствениoт вектор за \(\lambda_1\) со модул 1 e:

nu_1_a2 = solve_a2(lambdas_a2[1])
print(nu_1_a2)

[1]  0.6754275+0i -0.5313250-0i  0.5113622-0i

Сопствениoт вектор за \(\lambda_2\) со модул 1 e:

nu_2_a2 = solve_a2(lambdas_a2[2])
print(nu_2_a2)

[1] -0.58020965-0i  0.04509354+0i  0.81321789-0i

Сопствениoт вектор за \(\lambda_3\) со модул 1 e:

nu_3_a2 = solve_a2(lambdas_a2[3])
print(nu_3_a2)

[1] 0.4551422+0i 0.8459671+0i 0.2778225-0i

Конечно ги добиваме \(C\) и \(D\) (оцде се користи %*% за множење матрици со цел да се провери дека \(CDC'\) е исто со почетната матрица):

C_a2 = matrix(
  data=as.numeric(c(nu_1_a2, nu_2_a2, nu_3_a2)), 
  nrow=3, 
  ncol=3, 
  byrow=FALSE
)

imaginary parts discarded in coercion

D_a2 = diag(x=as.numeric(lambdas_a2), nrow=3, ncol=3)

imaginary parts discarded in coercion

C_a2 %*% D_a2 %*% t(C_a2)

     [,1] [,2] [,3]
[1,]   46   68   18
[2,]   68  133   42
[3,]   18   42   26

Сега можеме да провериме дека \(D^2\) од под (а) и \(D\) од под (б) имаат исти вредности во дијагоналата:

D_a %*% D_a

        [,1]     [,2]     [,3]
[1,] 15.4864 0.000000   0.0000
[2,]  0.0000 6.135498   0.0000
[3,]  0.0000 0.000000 183.3781

D_a2

         [,1]    [,2]     [,3]
[1,] 6.135498  0.0000   0.0000
[2,] 0.000000 15.4864   0.0000
[3,] 0.000000  0.0000 183.3781

(c) - Спектрална декомпозиција на \(A^{-1}\)

\(A^2\) го наоѓаме со помош на R:

A <- matrix(data=c(
  3, 6, -1,
  6, 9, 4,
  -1, 4, 3
), nrow=3, ncol=3, byrow=TRUE)
solve(A)

            [,1]        [,2]        [,3]
[1,] -0.08333333  0.16666667 -0.25000000
[2,]  0.16666667 -0.06060606  0.13636364
[3,] -0.25000000  0.13636364  0.06818182

Матрицата е симетрична, затоа има 3 сопствени вредности. Карактеристичната равенка изгледа вака:

\[ |\boldsymbol{A}-\lambda\boldsymbol{I}|= \begin{vmatrix} -0.0833-\lambda & 0.1667 & -0.25\\ 0.1667 & 0.0606-\lambda & 0.1364\\ -0.25 & 0.1364 & 0.0682-\lambda \end{vmatrix}=\\ (-0.0833-\lambda)\begin{vmatrix}0.0606-\lambda & 0.1364\\0.1364 & 0.0682-\lambda\end{vmatrix} -0.1667\begin{vmatrix}0.1667 & 0.1364\\-0.25 & 0.0682-\lambda\end{vmatrix} -0.25\begin{vmatrix}0.1667 & 0.0606-\lambda\\-0.25 & 0.1364\end{vmatrix}=\\ (-0.0833-\lambda)[(0.0606-\lambda)(0.0682-\lambda)-0.0186] -0.1667[0.1667(0.0682-\lambda)+0.0341] -0.25[0.0227+0.25(0.0606-\lambda)]=\\ (-0.0833-\lambda)(-0.0145-0.1288\lambda+\lambda^2)-(0.0076-0.0278\lambda)-(0.0095-0.0625\lambda)=\\ -\lambda^3-0.7045\lambda^2+0.2121\lambda-0.005 \]

Корените на равенката се:

lambdas_ainv = polyroot(z=c(-0.005, 0.2121, -0.7045, -1))
print(lambdas_ainv)

[1]  0.02588024-0i  0.20626540+0i -0.93664564+0i

За да се најдат сопствените вектори ја користиме функцијата:

solve_ainv <- function(l) {
  a <- c(
    -0.0833 - l - 0.25, 0.1667 + 0.1364, 
    0.1667 - 0.25, 0.0606 - l + 0.1364)
  b <- c(
    0.25 - (0.0682 - l), 
    -0.1364 - (0.0682 - l)
  )
  return(solve_equations(a, b))
}

Сопствениoт вектор за \(\lambda_1\) со модул 1 e:

nu_1_ainv = solve_ainv(lambdas_ainv[1])
print(nu_1_ainv)

[1] -0.7092040-0i -0.6442526+0i  0.2863011+0i

Сопствениoт вектор за \(\lambda_2\) со модул 1 e:

nu_2_ainv = solve_ainv(lambdas_ainv[2])
print(nu_2_ainv)

[1] -0.09359219-0i  0.71733825-0i  0.69041027+0i

Сопствениoт вектор за \(\lambda_3\) со модул 1 e:

nu_3_ainv = solve_ainv(lambdas_ainv[3])
print(nu_3_ainv)

[1] -0.4424683+0i -0.6521770-0i  0.6155380+0i

Конечно ги добиваме \(C\) и \(D\) (овде се користи %*% за множење матрици со цел да се провери дека \(CDC'\) е исто со почетната матрица):

C_ainv = matrix(
  data=as.numeric(c(nu_1_ainv, nu_2_ainv, nu_3_ainv)), 
  nrow=3, 
  ncol=3, 
  byrow=FALSE
)

imaginary parts discarded in coercion

D_ainv = diag(x=as.numeric(lambdas_ainv), nrow=3, ncol=3)

imaginary parts discarded in coercion

C_ainv %*% D_ainv %*% t(C_ainv)

           [,1]       [,2]       [,3]
[1,] -0.1685510 -0.2723089  0.2365179
[2,] -0.2723089 -0.2815073  0.4733877
[3,]  0.2365179  0.4733877 -0.2544417

Има некоја грешка во множењата погоре, ама тешко е да се најде каде :)

[2.26]

Да се покаже дека \(A'A\) е симетрична (\(A\) e \(n \times p\)).

\[ A'A=\begin{pmatrix} a_{1,1} & \dots & a_{n,1}\\ \vdots & \ddots & \vdots \\ a_{1,p} & \dots & a_{n,p} \end{pmatrix}\begin{pmatrix} a_{1,1} & \dots & a_{1,p}\\ \vdots & \ddots & \vdots \\ a_{n,1} & \dots & a_{n,p} \end{pmatrix} \implies a_{i,j}=\sum_{t=1}^{n}a_{t,i}a_{t,j}=\sum_{t=1}^{n}a_{t,j}a_{t,i}=a_{j,i} \]

[2.27]

\(a, x_1, ..., x_n\) се \(p \times 1\)

\(A\) e \(p \times p\)

(a)

Да се покаже \(\sum_{i=1}^{n}a'x_i=a'\sum_{i=1}^{n}x_i\)

Важи поради дистрибутивното својство:

\[ a'\sum_{i=1}^{n}x_i=a'(x_1+\dots+x_n)=a'x_1+\dots+a'x_n=\sum_{i=1}^{n}a'x_i \]

(b)

Да се покаже \(\sum_{i=1}^{n}Ax_i=A\sum_{i=1}^{n}x_i\)

Небитно е што сега е \(A\) наместо \(a'\), пак важи дистрибутивното својство:

\[ А\sum_{i=1}^{n}x_i=А(x_1+\dots+x_n)=Аx_1+\dots+Аx_n=\sum_{i=1}^{n}Аx_i \]

(c)

Да се покаже \(\sum_{i=1}^{n}(a'x_i)^2=a'(\sum_{i=1}^{n}x_ix_i')a\)

Ќе го искорстиме фактот што \(a'x_i=x_i'a\) (бидејќи е скалар, а скаларот останува ист кога се транспонира).

\[ \sum_{i=1}^{n}(a'x_i)^2=\sum_{i=1}^{n}(a'x_i)(a'x_i)=\sum_{i=1}^{n}(a'x_i)(x_i'a)=\sum_{i=1}^{n}a'(x_ix_i')a=a'(\sum_{i=1}^{n}x_ix_i')a \]

(d)

Да се покаже \(\sum_{i=1}^{n}Ax_i(Ax_i)'=A(\sum_{i=1}^{n}x_ix_i')A'\)

Ќе го искористиме својството \((AB)'=B'A'\).

\[ \sum_{i=1}^{n}Ax_i(Ax_i)'=\sum_{i=1}^{n}Ax_ix_i'A'=A(\sum_{i=1}^{n}x_ix_i')A' \]

[2.28]

\(A=\begin{pmatrix}a_1\\a_2\end{pmatrix}\) е \(2 \times p\)

\(x\) e \(p \times 1\)

\(S\) e \(p \times p\)

(a)

Да се покаже \(Ax=\begin{pmatrix}a_1'x\\a_2'x\end{pmatrix}\)

\[ Ax= \begin{pmatrix}a_{1,1} & \dots & a_{1,p}\\a_{2,1} & \dots & a_{2,p}\end{pmatrix} \begin{pmatrix}x_1\\ \vdots \\ x_p\end{pmatrix}= \begin{pmatrix} \sum_{i=1}^{p}a_{1,i}x_i \\ \sum_{i=1}^{p}a_{2,i}x_i \end{pmatrix} =\begin{pmatrix}a_1'x\\a_2'x\end{pmatrix} \]

(b)

Да се покаже дека \(ASA'=\begin{pmatrix}a_1'Sa_1 & a_1'Sa_2\\a_2'Sa_1 & a_2'Sa_2\end{pmatrix}\)

\[ a_k'Sa_l=\begin{pmatrix}a_{k,1} & \dots & a_{k,p}\end{pmatrix}\begin{pmatrix} S_{1,1} & \dots & S_{1,p}\\ \vdots & \ddots & \vdots\\ S_{p,1} & \dots & S_{p,p} \end{pmatrix}\begin{pmatrix}a_{l,1} \\ \vdots \\ a_{l,p}\end{pmatrix}=\\ \begin{pmatrix}\sum_{i=1}^{p}a_{k,i}S_{i,1} & \dots & \sum_{i=1}^{p}a_{k,i}S_{i,p}\end{pmatrix}\begin{pmatrix}a_{l,1} \\ \vdots \\ a_{l,p}\end{pmatrix}=\sum_{j=1}^{p}\sum_{i=1}^{p}a_{k,i}S_{i,j}a_{l,j}\\ \implies \begin{matrix} a_1'Sa_1=\sum_{j=1}^{p}\sum_{i=1}^{p}a_{1,i}S_{i,j}a_{1,j}\\ a_1'Sa_2=\sum_{j=1}^{p}\sum_{i=1}^{p}a_{1,i}S_{i,j}a_{2,j}\\ a_2'Sa_1=\sum_{j=1}^{p}\sum_{i=1}^{p}a_{2,i}S_{i,j}a_{1,j}\\ a_2'Sa_2=\sum_{j=1}^{p}\sum_{i=1}^{p}a_{2,i}S_{i,j}a_{2,j} \end{matrix} \\ \implies ASA'= \begin{pmatrix}a_{1,1} & \dots & a_{1,p}\\a_{2,1} & \dots & a_{2,p}\end{pmatrix} \begin{pmatrix} S_{1,1} & \dots & S_{1,p}\\ \vdots & \ddots & \vdots\\ S_{p,1} & \dots & S_{p,p} \end{pmatrix} \begin{pmatrix} a_{1,1} & a_{2,1}\\ \vdots & \vdots\\ a_{1,p} & a_{2,p}\end{pmatrix}=\\ \begin{pmatrix} \sum_{i=1}^{p}a_{1,i}S_{i,1} & \dots & \sum_{i=1}^{p}a_{1,i}S_{i,p}\\ \sum_{i=1}^{p}a_{2,i}S_{i,1} & \dots & \sum_{i=1}^{p}a_{2,i}S_{i,p} \end{pmatrix}\begin{pmatrix} a_{1,1} & a_{2,1}\\ \vdots & \vdots\\ a_{1,p} & a_{2,p}\end{pmatrix}=\\ \begin{pmatrix} \sum_{j=1}^{p}\sum_{i=1}^{p}a_{1,i}S_{i,j}a_{1,j} & \sum_{j=1}^{p}\sum_{i=1}^{p}a_{1,i}S_{i,j}a_{2,j}\\ \sum_{j=1}^{p}\sum_{i=1}^{p}a_{2,i}S_{i,j}a_{1,j} & \sum_{j=1}^{p}\sum_{i=1}^{p}a_{2,i}S_{i,j}a_{2,j}\end{pmatrix}=\\ \begin{pmatrix}a_1'Sa_1 & a_1'Sa_2\\a_2'Sa_1 & a_2'Sa_2\end{pmatrix} \]

[2.29]

Редиците на \(A\) се \(a'_i\), a колоните \(a_{(j)}\).

(a)

Да се покаже дека \(A'A=\sum_{i=1}^{n}a_ia_i'\)

\[ A'A=\begin{pmatrix}a_1 & \dots & a_n\end{pmatrix}\begin{pmatrix}a'_1 \\ \dots \\ a'_n\end{pmatrix}=\sum_{i=1}^{n}a_ia_i' \]

(b)

Да се покаже дека \(AA'=\sum_{i=1}^{p}a_{(j)}a_{(j)}'\)

\[ AA'=\begin{pmatrix}a_{(1)} & \dots & a_{(j)}\end{pmatrix}\begin{pmatrix}a_{(1)} \\ \dots \\ a_{(j)}'\end{pmatrix}=\sum_{j=1}^{p}a_{(j)}a_{(j)}' \]

[2.30]

Да се покаже дека \((A')^{-1}=(A^{-1})'\)

\[ \begin{matrix}A'(A')^{-1}=I\\ A'(A^{-1})'=(A^{-1}A)'=I'=I\end{matrix}\implies (A')^{-1}=(A^{-1})' \]

[2.31]

Болдираните се матрици/вектори, другото се скалари.

Да се покаже дека

\[ \boldsymbol{A}=\begin{pmatrix}\boldsymbol{A_{11}} & \boldsymbol{a_{12}}\\\boldsymbol{a_{12}'} & a_{22}\end{pmatrix}\implies \begin{matrix} \boldsymbol{A^{-1}}=\frac{1}{b} \begin{pmatrix} b\boldsymbol{A_{11}^{-1}}+\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}} & -\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}}\\ -\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}} & 1 \end{pmatrix}\\ b=a_{22}-\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}} \end{matrix} \]

\[ \boldsymbol{A}\boldsymbol{A^{-1}}= \frac{1}{b} \begin{pmatrix} \boldsymbol{A_{11}} & \boldsymbol{a_{12}}\\ \boldsymbol{a_{12}'} & a_{22}\end{pmatrix} \begin{pmatrix} b\boldsymbol{A_{11}^{-1}}+\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}} & -\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}}\\ -\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}} & 1 \end{pmatrix}=\\ \frac{1}{b} \begin{pmatrix} \boldsymbol{A_{11}}(b\boldsymbol{A_{11}^{-1}}+\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}) - \boldsymbol{a_{12}}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}} & -\boldsymbol{A_{11}}\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}}+\boldsymbol{a_{12}}\\ \boldsymbol{a_{12}'}(b\boldsymbol{A_{11}^{-1}}+\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}})-a_{22}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}} & -\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}}+a_{22} \end{pmatrix}\\=\frac{1}{b}\begin{pmatrix}LU & RU\\LD & RD\end{pmatrix}\\ LU=\boldsymbol{A_{11}}(b\boldsymbol{A_{11}^{-1}}+\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}) - \boldsymbol{a_{12}}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}=\\ \boldsymbol{A_{11}}b\boldsymbol{A_{11}^{-1}}+\boldsymbol{a_{12}}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}-\boldsymbol{a_{12}}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}=b \\ RU=-\boldsymbol{A_{11}}\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}}+\boldsymbol{a_{12}}=0\\ LD=\boldsymbol{a_{12}'}(b\boldsymbol{A_{11}^{-1}}+\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}})-a_{22}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}=\\ \boldsymbol{a_{12}'}b\boldsymbol{A_{11}^{-1}}+\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}-a_{22}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}=\\ \boldsymbol{a_{12}'}b\boldsymbol{A_{11}^{-1}}-(b-a_{22})\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}-a_{22}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}=\\ b\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}-b\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}+a_{22}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}-a_{22}\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}=0 \\RD=-\boldsymbol{a_{12}'}\boldsymbol{A_{11}^{-1}}\boldsymbol{a_{12}}+a_{22}=b\\ \implies \boldsymbol{A}\boldsymbol{A^{-1}}=\frac{1}{b}\begin{pmatrix}LU & RU\\LD & RD\end{pmatrix}==\frac{1}{b}\begin{pmatrix}b & 0\\0 & b\end{pmatrix}=\boldsymbol{I} \]

[2.32]

Да се покаже дека

\[ (B + cc')^{-1}=B^{-1}-\frac{B^{-1}cc'B^{-1}}{1+c'B^{-1}c} \]

\[ (B + cc')(B + cc')^{-1}=\\ (B + cc')(B^{-1}-\frac{B^{-1}cc'B^{-1}}{1+c'B^{-1}c})=\\ I-\frac{cc'B^{-1}}{1+c'B^{-1}c}+cc'B^{-1}-\frac{cc'B^{-1}cc'B^{-1}}{1+c'B^{-1}c}=\\ \frac {1+c'B^{-1}c-cc'B^{-1}+cc'B^{-1}+c'B^{-1}ccc'B^{-1}-cc'B^{-1}cc'B^{-1}} {1+c'B^{-1}c}=\\ \frac {1+c'B^{-1}c(1+cc'B^{-1}-cc'B^{-1})} {1+c'B^{-1}c}=I \]

[2.33]

Да се покаже дека \(|cA|=c^n|A|\)

\[ |cA|=|cIA|=|cI||A|=c^n|A| \]

[2.34]

Да се покаже дека \(|A^{-1}|=1/|A|\)

\[ |I|=|AA^{-1}|=|A||A^{-1}|=1 \implies |A^{-1}|=1/|A| \]

[2.35]

Да се покаже дека \(|B+cc'|=|B|(1+c'B^{-1}c)\)

\[ |B+cc'|=\frac{1}{|(B+cc')^{-1}|}=\frac{1}{|B^{-1}-\frac{B^{-1}cc'B^{-1}}{1+c'B^{-1}c}|}=\frac{|B|}{|1-\frac{cc'B^{-1}}{1+c'B^{-1}c}|}= \frac{|B|(1+c'B^{-1}c)}{|1+c'B^{-1}c-cc'B^{-1}|}\\ p=c'B^{-1}c \rightarrow скалар \implies pc=cp \implies\\ |B+cc'|=\frac{|B|(1+c'B^{-1}c)|c|}{|c+c'B^{-1}cc-cc'B^{-1}c|}=\frac{|B|(1+c'B^{-1}c)|c|}{|c+pc-cp|}=\frac{|B|(1+c'B^{-1}c)|c|}{|c|}=|B|(1+c'B^{-1}c) \]

[2.36]

Да се покаже дека \(tr(A'A)=tr(AA')=\sum_{ij}a_{ij}^2\)

\[ (A'A)_{jj}=\sum_i a_{ij}^2 \implies tr(A'A)=\sum_{ij}a_{ij}^2\\ (AA')_{jj}=\sum_i a_{ji}^2 \implies tr(A'A)=\sum_{ij}a_{ji}^2=\sum_{ij}a_{ij}^2 \]

[2.37]

Да се покаже дека \(C'C=I \implies CC'=I\)

\[ |C'C|=|C'||C|=|I|=1 \implies |C'| \neq 0, |C| \neq 0 \implies C'^{-1} постои \\ CC'=C'CC'C'^{-1}=II=I \]

[2.38]

Да се покаже дека \(AB\) и \(BA\) имаат исти сопствени вредности.

\[ ABx=\lambda x \implies (BA)Bx=\lambda (Bx) \]

Од ова следи дека \(\lambda\) е сопствена вредност и на \(AB\) и на \(BA\), а на сопствениот вектор \(x\) на \(AB\) соодветствува сопствениот вектор \(Bx\) на \(BA\).

[2.39]

\(A^{1/2}=CD^{1/2}C'\)

(a)

Да се покаже дека \((A^{1/2})^2=A\)

\[ (A^{1/2})^2=(CD^{1/2}C')^2=CD^{1/2}C'CD^{1/2}C' \]

Колоните на \(C\) се нормализирани и ортогонални помеѓу себе, па затоа важи дека \(CC'=I\), од што следи дека:

\[ (A^{1/2})^2=CD^{1/2}C'CD^{1/2}C'=CD^{1/2}D^{1/2}C'=\\ C\begin{pmatrix} \sqrt \lambda_1 & 0 & \dots & 0\\ 0 & \sqrt \lambda_2 & \dots & 0\\ \vdots & \vdots & \ddots & \vdots\\ 0 & 0 & \dots & \sqrt \lambda_n \end{pmatrix}\begin{pmatrix} \sqrt \lambda_1 & 0 & \dots & 0\\ 0 & \sqrt \lambda_2 & \dots & 0\\ \vdots & \vdots & \ddots & \vdots\\ 0 & 0 & \dots & \sqrt \lambda_n \end{pmatrix}C'=\\ C\begin{pmatrix} \lambda_1 & 0 & \dots & 0\\ 0 & \lambda_2 & \dots & 0\\ \vdots & \vdots & \ddots & \vdots\\ 0 & 0 & \dots & \lambda_n \end{pmatrix}C'=CDC'=A \]

(b)

Да се покаже дека \(|A^{1/2}|^2=|A|\)

\[ |A^{1/2}|^2=|A^{1/2}A^{1/2}|=|A| \]

(c)

Да се покаже дека \(|A^{1/2}|=|A|^{1/2}\)

\[ |A|^{1/2}=(|A^{1/2}|^2)^{1/2}=|A^{1/2}| \]