-Basic Linear Algebra-
8. 양정과 양반정(Positive definite and Positive semi-definite)
8.1. 정의(Definition)
실수 공간에 있는 모든 벡터 $\boldsymbol{x}$에 대해 $\boldsymbol{x}^{\mathsf{T}}\boldsymbol{A}\boldsymbol{x} \ge 0$이고 오직 $\boldsymbol{x}=0$일 때만 $\boldsymbol{x}^{\mathsf{T}}\boldsymbol{A}\boldsymbol{x}=0$을 만족한다면 이 이차 형식은 양정(positive definite)이라 한다. 또는 대칭 행렬 $\boldsymbol{A}$는 양정이라 한다.
\begin{align} &\boldsymbol{x}^{\mathsf{T}}\boldsymbol{A}\boldsymbol{x} \ge 0 \quad\quad \forall \boldsymbol{x} \in \mathbb{R} \\\\ &\boldsymbol{x}^{\mathsf{T}}\boldsymbol{A}\boldsymbol{x} = 0 \quad\quad \text{iff}\quad \boldsymbol{x} = 0 \end{align}
만약 어떤 0이 아닌 $\boldsymbol{x}$가 $\boldsymbol{x}^{\mathsf{T}}\boldsymbol{A}\boldsymbol{x} = 0$을 만족하는 경우가 존재하면 $\boldsymbol{A}$는 양반정(positive semi-definite)이라고 한다.
아래와 같이 어떤 행렬 $\boldsymbol{A}$에 대해 이차 형식을 써보자.
$$ \boldsymbol{A} = \begin{bmatrix} 1 & -1 \\ -1 & 1 \end{bmatrix} $$
이차 형식을 써보면,
\begin{align} \boldsymbol{x}^{\mathsf{T}}\boldsymbol{A}\boldsymbol{x} &= \langle\begin{matrix} x_1 & x_2 \end{matrix}\rangle \begin{bmatrix} 1 & -1 \\ -1 & 1 \end{bmatrix} \begin{Bmatrix} x_1 \\ x_2 \end{Bmatrix} \\\\ &= x_1^2 - x_1x_2 -x_1x_2 + x_2^2 \\\\ &= (x_1-x_2)^2 \ge 0 \quad \forall\boldsymbol{x} \in \mathbb{R}^2 \end{align}
이 행렬 $\boldsymbol{A}$는 어떤 $x_1 \neq x_2$인 모든 경우에 $\boldsymbol{x}^{\mathsf{T}}\boldsymbol{A}\boldsymbol{x} \geq 0$을 만족한다. 그러나 $x_1 = x_2$인 경우에는 $\boldsymbol{x}^{\mathsf{T}}\boldsymbol{A}\boldsymbol{x} = 0$이므로 양반정이다.
8.2. 정리(Theorem)
어떤 대칭 행렬 $\boldsymbol{A}$가 양정이면 모든 고유치(eigenvalue)는 양수(positive)이다. 역도 성립한다.
A symmetric matrix $\boldsymbol{A}$ is positive definite iff all eigenvalues are positive.
8.3 행렬의 형태(Form of matrix)
이차 형식 $f(\boldsymbol{x}) = \boldsymbol{x}^{\mathsf{T}}\boldsymbol{A}\boldsymbol{x}$의 형태는 다음과 같이 정리할 수 있다.
\begin{cases} &\text{1. Positive definite: } & f(\boldsymbol{x}) > 0 \quad\forall\boldsymbol{x} \neq 0 \\\\ &\text{2. Positive semi-definite: } & f(\boldsymbol{x}) \ge 0 \quad\forall\boldsymbol{x} \neq 0 \\\\ &\text{3. Negative definite: } & f(\boldsymbol{x}) < 0 \quad\forall\boldsymbol{x} \neq 0 \\\\ &\text{4. Negative semi-definite: } & f(\boldsymbol{x}) \leq 0 \quad\forall\boldsymbol{x} \neq 0 \\\\ &\text{5. Indefinite: } &\text{Positive for some } \boldsymbol{x} \text{ and negative for some others} \end{cases}
8.4. 고유치 검사(Eigevalue check)
고유치를 알면 행렬의 형태를 알 수 있다. 여인자 행렬을 이용하는 방법이 있지만 고유치를 이용하는 방법이 편리하다. $\lambda_i$를 행렬 $\boldsymbol{A}$의 $i$번째 고유치라고 하고 $i=1~n$이다.
\begin{cases} 1. f(\boldsymbol{x})\text{ is positive definite(p.d)}& \text{iff } \lambda_i > 0 \\\\ 2. f(\boldsymbol{x})\text{ is positive semi-definite(p.s.d)} & \text{iff } \lambda_i \geq 0 \\\\ 3. f(\boldsymbol{x})\text{ is negative definite(n.d)} & \text{iff } \lambda_i < 0 \\\\ 4. f(\boldsymbol{x})\text{ is negative semi-definite(n.s.d)} & \text{iff } \lambda_i \leq 0 \\\\ 5. f(\boldsymbol{x})\text{ is inefinite if some }\lambda_i > 0,\text{ and }\lambda_j < 0 \end{cases}
8.4.1. 행렬의 형태 판별
$$ \boldsymbol{A} = \begin{bmatrix} 2 & 0 & 0 \\ 0 & 4 & 0 \\ 0 & 0 & 3 \end{bmatrix} $$
위 행렬을 계수 행렬로 하여 이차 형식을 써보면,
$$ \boldsymbol{x}^{\mathsf{T}}\boldsymbol{A}\boldsymbol{x} = 2x_1^2 + 4x_2^2 + 3x_3^2 \geq 0 \quad \forall\boldsymbol{x} $$
그리고 $\boldsymbol{x}=0$일 때 $\boldsymbol{x}^{\mathsf{T}}\boldsymbol{A}\boldsymbol{x} = 0$이 성립하고 역도 성립한다. 즉, 오직 $\boldsymbol{x}=0$일 때에만 이차 형식이 0이 된다. 따라서 $\boldsymbol{A}$는 양정이다.
이제 고유치 검사를 해보자. $\boldsymbol{A}$는 대각 성분만 존재하는 대각 행렬이므로 고유치는 각 대각 성분들이 된다. 모든 대각 성분이 양수이므로 모든 고유치는 양수가 되어 양정 행렬임을 알 수 있다.
8.4.2. 이차 형식의 형태 판별
다음과 같은 이차 형식이 있다.
$$ f(\boldsymbol{x}) = 3x_1^2 + x_2^2 -x_1x_2 $$
이 함수를 대칭 행렬 형태의 이차 형식으로 써보자.
\begin{align} f(\boldsymbol{x}) &= \boldsymbol{x}^{\mathsf{T}}\begin{bmatrix} 3 & -1 \\ 0 & 1 \end{bmatrix}\boldsymbol{x} \\ &= \frac{1}{2} \boldsymbol{x}^{\mathsf{T}}\begin{bmatrix} 6 & -1 \\ -1 & 2 \end{bmatrix}\boldsymbol{x} \\ &= \boldsymbol{x}^{\mathsf{T}}\boldsymbol{A}\boldsymbol{x} \end{align}
$\boldsymbol{A}$의 고유치는 다음과 같이 구할 수 있다.
\begin{align} |\boldsymbol{A}-\lambda\boldsymbol{I}| &= \begin{vmatrix} 6-\lambda & -1 \\ -1 & 2-\lambda \end{vmatrix} \\\\ &= \lambda^2 - 8\lambda + 11 = 0 \end{align}
$$ \therefore \lambda = 4 \pm \sqrt{5} > 0 $$
행렬 $\boldsymbol{A}$의 모든 고유치가 0보다 크다. 따라서 위 이차 형식은 양정이다.
최근댓글