연습문제 및 풀이(~Problem 1.2.10)

Problem 1.2.1

원점, $\bar{x}$, $\bar{y}$이 있을 때, $\lVert \bar{x}-\bar{y}\rVert\leq \lVert\bar{x}\rVert+\lVert\bar{y}\rVert$임을 증명하라.

Hint. Cauchy–Schwarz inequality를 사용하라

$a>0$, $b>0$이고 $a^2>b^2$이면 $a>b$이 성립함을 이용하자.

$\lVert \bar{x}-\bar{y}\rVert>0$이고 $\lVert\bar{x}\rVert>0$, $\lVert\bar{y}\rVert>0$이므로 norm의 정의를 활용하기 위해 양변을 제곱하여 비교하자.

$\begin{aligned}
\lVert \bar{x}-\bar{y}\rVert^2&=\left( \bar{x}-\bar{y}\right )\cdot\left( \bar{x}-\bar{y}\right )\\
&=\lVert\bar{x}\rVert^2-2\left(\bar{x} \cdot \bar{y}\right )+\lVert\bar{y}^2\rVert\\
&\leq\lVert\bar{x}\rVert^2+2\lvert\left(\bar{x} \cdot \bar{y}\right )\rvert+\lVert\bar{y}\rVert^2\\
&\leq\lVert\bar{x}\rVert^2+2\lVert\bar{x}\rVert\lVert\bar{y}\rVert+\lVert\bar{y}\rVert^2&&\cdots \text{By Cauchy-Schwarz inequality}\\
&\leq\left(\lVert\bar{x}\rVert+\lVert\bar{y}\rVert \right )^2
\end{aligned}$

이 성립하므로, 준식이 성립한다.

---

Problem 1.2.2

$n \times 1$ 행렬 $A$와 $1\times d$ 행렬 $B$에 대해 $n \times d$행렬 $C=A\bigotimes B$이 다음 조건을 만족시킴을 증명하라. 이 때, 증명의 편의를 위해 $C=\begin{bmatrix}a_1 \\ a_2 \\ \vdots \\ a_n\end{bmatrix}=\begin{bmatrix} b_1&b_2&\cdots&b_d\end{bmatrix}$라 하자.

(1) $\forall\,i\leq n~\exists\, j \neq i,~k\in\mathbb{R}\ :\ a_i=k a_j$

(2) $\forall\,i\leq d~\exists\, j \neq i,~k\in\mathbb{R}\ :\ b_i=k b_j$

(1)

편의를 위해 $A=\begin{bmatrix}x_1\\x_2\\\vdots\\x_n\end{bmatrix}$라 하자.

일단 $C$의 matrix 표기 중 첫번째를 먼저 활용하자.

외적의 성질에 의해(행렬의 곱에 의해) $C=\begin{bmatrix}Bx_1\\Bx_2\\\vdots\\Bx_n\end{bmatrix}$이 성립하게 되고, 따라서 $a_i=Bx_i$가 됨을 알 수 있다.

이 때 $\forall\, i\leq n\ :\ x_i\in \mathbb{R}$이므로 $\exists\,k\in\mathbb{R}$에 대해 $x_i=kx_j$로 표현이 가능하다.

따라서 $Bx_i=kBx_j$가 성립하고, $a_i=ka_j$가 성립한다.

---

(2) 

(1)과 같은 맥락으로 증명한다. 다른 방법으로는 $\left(AB\right)^T=B^TA^T$와 $\left(A^T\right)^T=A$임을 활용하여도 무관하다.

---

Problem 1.2.5

$D$가 각 열의 합이 $0$인 $n\times d$인 행렬이고, $A$는 임의의 $d\times d$행렬이라 하자. $DA$의 각 열의 합도 $0$임을 보이시오.

Hint. $D$의 열들에 대한 합을 $\bar{e}^TD$로 적을 수 있다. 이때, $\bar{e}$는 모든 항이 $1$인 column-vector이다.

$D$가 각 열의 합이 $0$이므로, $\bar{e}^TD$는 zero-vector가 된다.

따라서 $DA$가 각 열의 합이 $0$임을 보이고 싶으면, $\bar{e}^TDA$도 zero-vector임을 보이면 된다.

$\begin{aligned}
\bar{e}^T\left(DA\right) & =\left(\bar{e}^TD \right )A&&\cdots\text{By Associative law}\\
&=\bar{0}_dA\\
&=\bar{0}_d\end{aligned}$

따라서 $DA$도 각 열의 합이 $0$임을 알 수 있다.

---

Problem 1.2.6

행렬 $A_1,~A_2,~\cdots,~A_n$에 대해 다음 관계식이 성립함을 보이시오.

$\left(A_1A_2A_3\cdots A_n \right )^T=A_n^TA_{n-1}^T \cdots A_2^TA_1^T$

일반적으로 자연수 $n$에 대해 점차 확장해나가는 것은 수학적 귀납법을 사용한다.

Base Case) $n=2$

$\left(A_1A_2\right)^T=A_2^TA_1^T$가 성립함은 자명하다.

---

Induction) $n=k$일 때 성립한다 하자.

즉, $\left(A_1A_2A_3\cdots A_k \right )^T=A_k^TA_{k-1}^T \cdots A_2^TA_1^T$이다.

헷갈리지 않기 위해 $B:=\left(A_1A_2A_3\cdots A_k \right )$로 하자.

$\begin{aligned} \left(A_1A_2\cdots A_{k+1}\right)^T&=\left(BA_{k+1} \right )^T\\
&=\left(A_{k+1}\right)^TB^T\\
&=\left(A_{k+1} \right )^T\left(A_k^TA_{k-1}^T\cdots A_2^TA_1^T \right )\\
&=A_{k+1}^TA_k^T\cdots A_2^TA_1^T \end{aligned}$

이므로 $n=k+1$일 때도 성립한다.

따라서 수학적 귀납법에 의해 모든 자연수 $n$에 대해 준식이 항상 성립한다.

---

Problem 1.2.7

$A$와 $B$가 대칭행렬일 때, $AB=BA$와 $AB$가 대칭행렬임은 필요충분조건임을 보이시오.

ps) 실제 책에 표기된 ~~일 때만은 if and only if와 동일하다. 이는 필요충분조건을 의미

$A$와 $B$가 대칭행렬이므로 $A=A^T$와 $B=B^T$가 각각 성립한다.

($\Longrightarrow$)

$\begin{aligned}
BA&=B^TA^T\\
&=\left(AB \right )^T\\
&=AB
\end{aligned}$

이므로 $AB$도 대칭행렬이다.

($\Longleftarrow$)

$AB$가 대칭행렬이므로 $AB=\left(AB\right)^T$이다.

$\begin{aligned}
AB&=\left( AB\right )^T\\
&=B^TA^T\\
&=BA
\end{aligned}$

가 성립하므로, $AB=BA$가 성립한다.

---

Problem 1.2.8

$d\times d$ upper triangular matrix $R$에 대해 $R\bar{x}=\bar{e}_k$의 행들에 포함된 $d$개의 등식으로 이루어진 연립방정식이 있다 하자. 이 경우

(1) $\bar{x}=\begin{bmatrix}x_1&x_2&\cdots&x_d\end{bmatrix}^T$에 대해 풀 때, $x_d,~x_{d-1},~\cdots,~x_1$순서대로 풀면 쉬운데, 그 이유를 설명하시오.

(2) 또한 $R\bar{x}=\bar{e}_k$에 대한 해가 $i>k$에 대해서는 $x_i=0$이 되는 이유를 설명하시오

(3) 연립방정식의 해 $\bar{x}$가 $R$의 역행렬의 $k$번째와 같게 되는 이유를 설명하고, $R$의 역행렬이 왜 upper triangular matrix가 되는지 설명하시오.

이 때, $\bar{e}_{ki}=
\begin{cases} 1&\left(i=k \right )\\0&\left(i\neq k \right )\end{cases}$를 만족한다.

추후 증명의 편의를 위해 $R=\begin{bmatrix}\bar{a_1} \\ \bar{a_2}\\\vdots\\\bar{a_d}\end{bmatrix}$라 하자.

---

(1)

행렬 곱의 정의에 의해 $R\bar{x}$를 $\begin{bmatrix}
\bar{a_1}\bar{x}\\
\bar{a_2}\bar{x}\\
\vdots\\
\bar{a_d}\bar{x}
\end{bmatrix}$로 적을 수 있다.

여기서 $R$이 upper triangular matrix이므로 $\bar{a_i}$에서 $j<i$이면 $a_{ij}=0$임을 기억하라.

즉, $\bar{a_i}$에서는 $a_{ii}$항부터 계산하면 됨을 의미하고, 이는 $\bar{a_i}\bar{x}$의 계산량은 총 $d+1-i$개 임을 알려주는 것이다. 이는 $i$가 $d$일 때 최솟값 $1$을 가지며, 이때 계산되는 원소는 $x_d$가 된다. 이후부터 역순으로 계산하면 $x_i$항을 제외한 것들은 이미 계산이 되어있거나 $0$이 되어 사라지므로 계산량이 $1$로 고정이 된다.

---

(2)

(1)에 의해 $x_d$부터 계산을 하는 것이 효율적임이 증명이 되었다.

이에 따라 계산을 하면 $a_{dd}x_d=e_{kd}$가 되는데, 만일 $k\neq d$이면 $e_{kd}=0$이 된다.

$R$이 upper triangular matrix이므로 $a_{dd}\neq 0$이고 $x_d=0$이어야 함을 알 수 있다.

추가적으로 $i>k+1$에 대해 $j\geq i \,\Rightarrow\,x_j=0$이라 하자.

이제 $x_{i-1}$을 계산할 것인데, 식을 전개해보면 $\displaystyle\sum_{j=i-1}^d a_{\left(i-1 \right )j}x_j=0$이 된다.

가정에 의해 $\displaystyle\sum_{j=i}^d a_{\left(i-1\right)j}x_j=0$이므로 $a_{\left(i-1\right)\left(i-1\right)}x_\left(i-1\right)=0$이 되어야하고, $a_{\left(i-1\right)\left(i-1\right)}\neq0$이기 때문에 $x_{i-1}=0$이다.

반면에 $k=i$가 되는 순간부터는 계산한 값이 $0$이 아닌 $1$이 되어야 하기 때문에 위의 Induction은 성립하지 않는다.

---

(3)

어떤 행렬 $A$에 대해 $RA=I_d$가 성립한다하자. 이때 $R$은 upper triangular matrix 이므로 역행렬을 가지고 있고, 역행렬 정리에 의해 $A=R^{-1}$임을 기억하라.

$A=\begin{bmatrix} \bar{a_1}&\bar{a_2}&\cdots&\bar{a_d}\end{bmatrix}$라 하면 $RA=\begin{bmatrix} R\bar{a_1}&R\bar{a_2}&\cdots&R\bar{a_d}\end{bmatrix}$가 된다.

$I_d=\begin{bmatrix} \bar{e_1}&\bar{e_2}&\cdots&\bar{e_d}\end{bmatrix}$이므로 $\forall\,i\leq d\,:\,R\bar{a_i}=\bar{e_i}$가 성립하고, 역행렬을 가지는 행렬 $R$과 $d \times 1$ 벡터 $\bar{b}$에 대해 $R\bar{v}=\bar{b}$를 만족하는 벡터 $\bar{v}$는 유일해야하므로 $\bar{a_i}=\bar{x_i}$임을 알 수 있다.

즉, $A=\begin{bmatrix} \bar{x_1}&\bar{x_2}&\cdots&\bar{x_d}\end{bmatrix}$가 되고, (2)에 따라 $A$도 upper triangular matrix임이 따라온다.

---

Problem 1.2.9

대각선을 따라 블록 $B_1,~B-2,~\cdots,B_r$이 있는 블록 대각행렬 $B$가 있다고 하자. 블록 행렬들에 대한 함수들을 이용하여 다항식 함수 $f \left(B\,\right)$와 $B$의 역행렬을 표현하시오.

답:

$f\left(B\,\right)=\begin{pmatrix}
f\left(B_1 \right ) & \cdots & 0 \\
\vdots & \ddots & \vdots \\
0 & \cdots & f \left(B_r \right )
\end{pmatrix}$

$B^{-1}=\begin{pmatrix}
B_1^{-1} & \cdots & 0 \\
\vdots & \ddots & \vdots \\
0 & \cdots & B_r^{-1}
\end{pmatrix}$

증명:

블록대각행렬은 더 작은 블록대각행렬들로 쪼갤 수 있음을 이용하여, $2$개부터 $r$개까지에 대해 수학적 귀납법을 사용하여 증명하면 된다.

자세한 증명은 생략

---

Problem 1.2.10

행렬 $B$가 행렬 $A$의 역행렬이라고 하자. 임의의 양의 정수 $n$에 대해 행렬 $B^n$은 행렬 $A^n$의 역행렬임을 보이시오.

일단 먼저 $A^n$이 역행렬을 가진다라는 것을 보여야 하는데, 이는 행렬식을 이용하면 굉장히 쉽게 보일 수 있다.

임의의 양의 정수 $n$에 대해 보이는 것이므로 Induction을 활용하자.

Base case) $n=1$

가정에 의해 $B$가 $A$의 역행렬이라 했으므로 너무나도 자명

---

Induction) $n=k$일 때 성립한다 하자.

즉, $A^k$의 역행렬은 $B^k$이다. 우리가 보이고자 하는 것은 $A^{k+1}$의 역행렬이 $B^{k+1}$인 것이다.

$A^{k+1}$의 역행렬을 모르므로 $C$라 하자. 이를 이용하여 식을 쓰면 $CA^{k+1}=I$이다.

이때, $A^{k+1}=A\times A^k$이므로 $CA\times A^k=I$라 적을 수 있다.

$A^k$의 역행렬이 $B^k$이므로 양변의 우측에 $B^k$를 곱해주면 $CA=B^k$가 되고, $A$의 역행렬이 $B$이므로 한번더 양변의 우측에 $B$를 곱해주면 $C=B^{k+1}$이 된다.

역함수의 유일성과 교환법칙에 의해 $B^{k+1}$은 $A^{k+1}$의 역함수가 됨을 알 수 있다.

 

증명에 대한 질문, 피드백 언제나 환영합니다!!!!!!!