기초 선형대수 - 선형 결합과 선형 독립(Linear Combination and Linear Independence)

-Basic Linear Algebra-

 

3. Linear Combination (선형 결합)

3.1. Linear Combination (선형 결합)

 아래와 같이 일련의 항들을 상수배하여 더한 것을 선형 결합이라 한다.

$$ c = \sum_{i=1}^{n}x_iy_i = x_1y_1 + x_2y_2 + \cdots + x_ny_n $$

 

 아래와 같은 선형 방정식이 있다고 하자. 아래 방정식에서 $\boldsymbol{x}$와 $\boldsymbol{y}$는 $(n\times 1)$ 크기를 갖고 $\boldsymbol{A}$는 $(n\times n)$ 크기를 갖는 정사각 행렬(square matrix)이다.

$$ \boldsymbol{y} = \boldsymbol{A}\boldsymbol{x}  \Longleftrightarrow \ y_i = \sum_{j=1}^{n}a_{ij}x_j = a_{i1}x_1 + a_{i2}x_2 +\cdots +a_{in}x_n $$

 

 위 식에서 $\boldsymbol{A}$를 다시 아래처럼 열벡터(column vector)를 원소로 갖는 행벡터(row vector)로 생각할 수 있다.

$$ \boldsymbol{A} = \left[ \boldsymbol{a}_1, \boldsymbol{a}_2, \cdots, \boldsymbol{a}_n \right] $$

 

 따라서 다시 위의 선형 방정식을 아래와 같이 열벡터의 선형 결합으로 나타낼 수 있다. 여기에서 선형 결합의 계수는 $\boldsymbol{x}$의 원소이다.

$$ \boldsymbol{y} = \boldsymbol{A}\boldsymbol{x} = \boldsymbol{a}_1 x_1 + \boldsymbol{a}_2\ x_2 +\cdots+\boldsymbol{a}_n x_n $$

 

3.2. Linear Independence (선형 독립)

 벡터 집합 $(\boldsymbol{a}_1, \boldsymbol{a}_2, \cdots, \boldsymbol{a}_n), \boldsymbol{a}_i \in \mathbb{R}^n$이 아래 선형 결합을 만족하는 유일한 해가 모든 계수 $\alpha_i = 0, \quad (i=1~n)$일 때 이 벡터 집합은 선형 독립이다. 이것은 선형 독립의 정의이다.

$$ \alpha_1\boldsymbol{a}_1 + \alpha_2\boldsymbol{a}_2 + \cdots + \alpha_k\boldsymbol{a}_k = 0 $$

 

3.3. Theorem (정리)

 어떤 벡터 집합 $(\boldsymbol{a}_1, \boldsymbol{a}_2, \cdots, \boldsymbol{a}_k)$이 선형 종속일 때 이 집합의 한 벡터는 나머지 벡터들의 선형 결합으로 나타낼 수 있다. 역(conversion)도 성립한다.

 A set of vectors $(\boldsymbol{a}_1, \boldsymbol{a}_2, \cdots, \boldsymbol{a}_k)$ is linearly dependent, iff one of the vectors from the set is a linear combination of the remaining vectors.

 

3.3.1. Proof (증명): $\Rightarrow$ (only if)

 나열된 벡터 $\left\{\boldsymbol{a}_1, \boldsymbol{a}_2, \cdots, \boldsymbol{a}_k\right\}$가 선형 종속이라고 하자 그러면 아래 선형 결합을 만족하는 계수들 중 최소한 한 개 이상이 0이 아닌 경우가 존재한다.

$$ \alpha_1\boldsymbol{a}_1 + \alpha_2\boldsymbol{a}_2 + \cdots + \alpha_n\boldsymbol{a}_n = 0 $$

 

 단 하나의 계수가 0이 아닌 경우를 생각해 $\alpha_i \neq 0$이라하자. 그러면,

$$ \boldsymbol{a}_i = -\frac{\alpha_1}{\alpha_i}\boldsymbol{a}_1-\frac{\alpha_2}{\alpha_i}\boldsymbol{a}_2-\cdots-\frac{\alpha_k}{\alpha_i}\boldsymbol{a}_k $$

 

 $\boldsymbol{a}_i$를 나머지 항들의 선형 결합으로 표현할 수 있으므로 참이다.

 

3.3.2. Proof (증명): $\Leftarrow$ (if)

 어떤 항 $\boldsymbol{a}_i$가 나머지 항들의 선형 결합으로 나타낼 수 있다고 하자.

$$ \boldsymbol{a}_i = \alpha_1\boldsymbol{a}_1 + \alpha_2\boldsymbol{a}_2 + \cdots + \alpha_k\boldsymbol{a}_k = 0 $$

 

 이항을 이용해 항을 한쪽으로 옮겨서 정리하면,  

$$(-1)\boldsymbol{a}_i + \alpha_1\boldsymbol{a}_1 + \alpha_2\boldsymbol{a}_2 + \cdots + \alpha_k\boldsymbol{a}_k = 0$$

 

$\therefore$ 이 벡터 집합은 선형 종속이다.

 

직교성(orthogonality)의 공학적 의미