[KOCW 선형대수] 7강. 벡터의 선형독립과 기저벡터

제 7강. 벡터의 선형독립과 기저벡터

~이어서

Ax=b(≠0)$\mathrm{}$ 일 때,

⎡⎣⎢⎢1 2 −136−3393274⎤⎦⎥⎥⎡⎣⎢⎢⎢⎢u v w z⎤⎦⎥⎥⎥⎥=⎡⎣⎢⎢b1 b2 b3⎤⎦⎥⎥$$\begin{array}{cccc}\mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}\\ \mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}\\ \mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}\end{array}\begin{array}{c}\\ \\ \\ \end{array}\begin{array}{c}{}_{\mathrm{}}\\ {}_{\mathrm{}}\\ {}_{\mathrm{}}\end{array}$$

첫 번째 G.E를 하면

⎡⎣⎢⎢⎢1 0 0300336236⋮⋮⋮b1b2−2b1b1+b3⎤⎦⎥⎥⎥$$\begin{array}{cccccc}\mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}& & {}_{\mathrm{}}\\ \mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}& & {}_{\mathrm{}}\mathrm{}{}_{\mathrm{}}\\ \mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}& & {}_{\mathrm{}}{}_{\mathrm{}}\end{array}$$

그리고 3번째식을 다 0으로 만들어주면

⎡⎣⎢⎢⎢1 0 0300330230⋮⋮⋮b1b2−2b1b3−2b2+5b1⎤⎦⎥⎥⎥$$\begin{array}{cccccc}\mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}& & {}_{\mathrm{}}\\ \mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}& & {}_{\mathrm{}}\mathrm{}{}_{\mathrm{}}\\ \mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}& & {}_{\mathrm{}}\mathrm{}{}_{\mathrm{}}\mathrm{}{}_{\mathrm{}}\end{array}$$

b3−2b2+5b1=0${}_{\mathrm{}}\mathrm{}{}_{\mathrm{}}\mathrm{}{}_{\mathrm{}}\mathrm{}$ -> Solution이 종재한다.

Ax=b$$  b∈ℂ(A)$\mathbb{}$

(linear combination이고) / column vector A에 존재해야한다.

Coulmn vector들의 조합이 평면위의 점이 되야한다.

b=⎡⎣⎢⎢1 2 −1⎤⎦⎥⎥$$\mathbf{}\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}$$

Column space = 3개의 숫자는 평면의 점이다.

->  b3−2b2+5b1=0${}_{\mathrm{}}\mathrm{}{}_{\mathrm{}}\mathrm{}{}_{\mathrm{}}\mathrm{}$ => Solution이 존재하는 첫 번째 조건

b=⎡⎣⎢⎢1 5 5⎤⎦⎥⎥$$\mathbf{}\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}$$

=>

⎡⎣⎢⎢⎢1 0 0300330230⋮⋮⋮1=b13=b2−2b10=b3−2b2+5b1⎤⎦⎥⎥⎥$$\begin{array}{cccccc}\mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}{}_{\mathrm{}}\\ \mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}{}_{\mathrm{}}\mathrm{}{}_{\mathrm{}}\\ \mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}{}_{\mathrm{}}\mathrm{}{}_{\mathrm{}}\mathrm{}{}_{\mathrm{}}\end{array}$$

"Row Reduced form"만들기 ( Pivots = 1, pivots위는 0으로 )

⎡⎣⎢⎢⎢1 0 0300010−110⋮⋮⋮−210⎤⎦⎥⎥⎥$$\begin{array}{cccccc}\mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}\\ \mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}\\ \mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}\end{array}$$

(1식-3식)의 결과로 (1,3,0,-1)을 얻은 것이다.

{u+3v−z=−2 w+z=1={u=−3v+z−2 w=−z+1$$\begin{array}{l}\mathrm{}\mathrm{}\\ \mathrm{}\end{array}\begin{array}{l}\mathrm{}\mathrm{}\\ \mathrm{}\end{array}$$

⎡⎣⎢⎢⎢⎢u v w z⎤⎦⎥⎥⎥⎥=v⎡⎣⎢⎢⎢⎢−3 1 0 0⎤⎦⎥⎥⎥⎥+z⎡⎣⎢⎢⎢⎢1 0 −1 1⎤⎦⎥⎥⎥⎥+⎡⎣⎢⎢⎢⎢−2 0 1 0⎤⎦⎥⎥⎥⎥$$\begin{array}{c}\\ \\ \\ \end{array}\mathbf{}\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}\mathbf{}\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}$$

v,z$$가 붙은 식이 free variable로 special solution이다.

맨오른쪽의 상수는 Pivot variable에 있어서 해당위치에 쓴다.

X=Xn+Xp$${}_{}{}_{}$$

• 무수히 많은 Solution의 해집합이다

Xn${}_{}$은 null-space(원점을 지나는 평면)

Xp${}_{}$는 particular solution이다.

Xp${}_{}$때문에 원점과 평행한 위치로 이동한다.

(l,m,n)$$이 방향벡터라면, 다음과 같다

• (l,m,n)$$만 알면 Ax=b(=0)$\mathrm{}$을 구한 것이다
• (x1,y1,z1)${}_{\mathrm{}}{}_{\mathrm{}}{}_{\mathrm{}}$ 점 추가하면 Ax=b(≠0)$\mathrm{}$을 구한 것이다

x−x1l+y−y1m+z−z1n$\frac{{}_{\mathrm{}}}{}\frac{{}_{\mathrm{}}}{}\frac{{}_{\mathrm{}}}{}$

x1,y1,z1${}_{\mathrm{}}{}_{\mathrm{}}{}_{\mathrm{}}$만큼 평행이동 시키는 것이다. (특정한 점을 지나는 평면이 되는 것)

G.E$$를 통해 Special solution(null-space) / Particular solution(평행이동) 구하는 것

정리해보자면

Ax=A(Xn+xp)$${}_{}{}_{}$$

=Axn(=0)+Axp=b$${}_{}\mathrm{}{}_{}$$

순서대로 총정리!

Finding the solution Ax=b$$

(1) [A:b]−>G.E−>[R:l]$$

R( Reduced form ) 만들기.

(2) Separate Pivot variables / Free variables

(3) Find the Special solutions for null space from ℝ$\mathbb{}$

변수가 7개, 식이 5개 일때, 예를들어 1,3,4,7 열에 Pivot이 존재하고 나머지 2,5,6은 free variable인 U$$모양의 행렬이라고 하자.

=>

x3⎡⎣⎢⎢⎢⎢   ⎤⎦⎥⎥⎥⎥+x5⎡⎣⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢320−1100⎤⎦⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥+x6⎡⎣⎢⎢⎢⎢   ⎤⎦⎥⎥⎥⎥$$\mathbf{}\mathbf{}\begin{array}{c}\\ \\ \\ \end{array}\mathbf{}\mathbf{}\begin{array}{c}\mathrm{}\\ \\ \mathrm{}\\ \\ \mathrm{}\\ \\ \mathrm{}\\ \\ \mathrm{}\\ \\ \mathrm{}\\ \\ \mathrm{}\end{array}\mathbf{}\mathbf{}\begin{array}{c}\\ \\ \\ \end{array}$$

의 형태로 나타낼 수 있다. free variable이 계수로 나오고 pivot variable이 위치에 맞게 들어간다.

(4) Find Particular solution

열벡터로 나타냈을 때, free variable의 위치는 "0"으로 나타낸다.

Linear Independence ( 선형독립 )

Basis(vectors) , Dimension

Linear independent

C1V1+C2V2+⋯+CnVn=0${}_{\mathrm{}}{}_{\mathrm{}}{}_{\mathrm{}}{}_{\mathrm{}}{}_{}{}_{}\mathrm{}$( 0은 영벡터)

only C1=C2=⋯=Cn=0${}_{\mathrm{}}{}_{\mathrm{}}{}_{}\mathrm{}$ 만이 solution

• 스칼라 값이 0이 될때만, 그 벡터들을 선형 결합해 만들 수 있을 때 V1,V2${}_{\mathrm{}}{}_{\mathrm{}}$를 Linear independent 하다고 말한다. 

ex)

C1⎡⎣⎢⎢1 0 0⎤⎦⎥⎥+ C2⎡⎣⎢⎢0 1 0⎤⎦⎥⎥+C3⎡⎣⎢⎢0 0 1⎤⎦⎥⎥=⎡⎣⎢⎢0 0 0⎤⎦⎥⎥$$\mathbf{}\mathbf{}\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}\mathbf{}\mathbf{}\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}\mathbf{}\mathbf{}\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}$$

• C1,C2,C3=0${}_{\mathrm{}}{}_{\mathrm{}}{}_{\mathrm{}}\mathrm{}$ 이어야 0이된다. 이럴 때 세 벡터는 linear independent하다고 말한다. 

• If G.E$$ of A$$ generates 'm' non-zero rows, 

U$$ 형태에서 Pivot을 포함해 적어도 0이 아닌 수가 하나 있어야함.

"m"개의 independent한 vectors가 column에 존재한다 (in A$$)

다 0이 아닌게 한 개씩 존재하면 linear independent 한것

non-zero 행만큼이 = independent m의 개수

Rank of A$$

numbers of independent column vectors

numbers of independent row vectors ( row = column 개수 )

G.E$$해서 나온 Pivots의 numbers와 같다.

== Dimension of ℂ(A)$\mathbb{}$

( independent 한 vector의 개수가 몇 개냐? => column space의 dimension )

⎡⎣⎢⎢1 2 −136−3393274⎤⎦⎥⎥$$\begin{array}{cccc}\mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}\\ \mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}\\ \mathrm{}& \mathrm{}& \mathrm{}& \mathrm{}\end{array}$$

1번째 열 * 3 = 2번째 열

3번째 열 - 1번째 열 = 4번째 열

=> Pivot variable이 위치한 vector가 independent한 vector이다. 나머지 free variable이 있는 vector는 조합을 통해 나타낼 수 있다.

Spanning

Vector의 온갖 종류의 linear combination을 이요해서 벡터공간을 만드는 것. 특정 벡터는 특정 벡터공간을 span한다라고 말함.

"All linear combination of vectors {V1,V2,⋯,Vn${}_{\mathrm{}}{}_{\mathrm{}}{}_{}$} construct a vector space"

=> {V1,V2,⋯,Vn${}_{\mathrm{}}{}_{\mathrm{}}{}_{}$} span " Vector Space "

⎡⎣⎢⎢1 0 0⎤⎦⎥⎥⎡⎣⎢⎢0 1 0⎤⎦⎥⎥$$\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}$$

-> x,y 2차원 평면만 만들 수 있다.

⎡⎣⎢⎢1 0 0⎤⎦⎥⎥⎡⎣⎢⎢1 1 0⎤⎦⎥⎥$$\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}$$

둘다 linear independent하고 2차원 평면을 만든다. 하지만 서로 모양이 다르다. 조합이 Unique하지 않다는 것이다!!!

⎡⎣⎢⎢2 2 0⎤⎦⎥⎥$$\begin{array}{c}\mathrm{}\\ \mathrm{}\\ \mathrm{}\end{array}$$

를 만들기 위해서는 방법이 다 다르다.

똑같은 Vector space를 span한다고 해도 다 다르다 ( Unique X )

Basis ( Vectors )

numbers of minimum linearly independent vectors( 로만 구성 ) to span the vector span

• Linear combination is "unique" from basis ( basis 벡터이면 그렇다 / 1:1 선형관계를 갖는다는 것이다.)

• Basis is not Unique for a vector space

C1[10]+C2[01]$$\mathbf{}\mathbf{}\begin{array}{c}\mathrm{}\\ \mathrm{}\end{array}\mathbf{}\mathbf{}\begin{array}{c}\mathrm{}\\ \mathrm{}\end{array}$$

위 아래 둘 다 basis vector이다

C1[10]+C2[11]$$\mathbf{}\mathbf{}\begin{array}{c}\mathrm{}\\ \mathrm{}\end{array}\mathbf{}\mathbf{}\begin{array}{c}\mathrm{}\\ \mathrm{}\end{array}$$

Basis 자체는 Unique하지않지만, Basis가 정해지면 Basis가 만드는 C1,C2${}_{\mathrm{}}{}_{\mathrm{}}$는 Unique하다.

Basis끼리 수직하면 C1,C2${}_{\mathrm{}}{}_{\mathrm{}}$를 더 쉽게 찾을 수 있다.

"식 > 미지수" 인 상황이라면

=> 다 만족하는 미지수는 없다. (해가 X) ||Ax−b||$$ -> distance가 최소가 되도록 근사하는 x를 구한다.