[KOCW 선형대수] 4강. 역행렬과 전치행렬

제 4강. 역행렬과 전치행렬

Inverse ( 역행렬 )

Ax=b−>A−1b=x$${}^{\mathrm{}}$$

AA−1=A−1A=I$${}^{\mathrm{}}{}^{\mathrm{}}$$

모든 A행렬이 역행렬을 가지는 것은 아니다!

det(A)≠0$\mathrm{}$ 일 때 행렬 A$$에 대해 역행렬이 존재한다.

(1) The Inverse (A−1${}^{\mathrm{}}$) exists

Elimination이 n_pivots를 만들어 낼 때, ( Diagnoal element ≠ 0 )

(2) The Inverse is unique!

A−1=B,A−1=C$${}^{\mathrm{}}{}^{\mathrm{}}$$

(BA)C=B(AC)=>C=B$$$$

결국 행렬 A에 대한 역행렬은 하나만 존재한다.

(3) If A is invertible

행렬 A의 역행렬이 있을 때,

Ax=b$$$$

A−1Ax=A−1b$${}^{\mathrm{}}{}^{\mathrm{}}$$

x=A−1b$${}^{\mathrm{}}$$

(하나만 나옴)

결국 x$$도 unique하다! ( 1:1 대응관계를 유지한다 ) linear 관계에서 입력, 출력신호를 1:1 대응관계를 통해 정확하게 유추 가능

(4) Assume that there is a non-zero vector x$$ such that Ax=0$\mathrm{}$

그렇다면 A$$는 역행렬을 가질 수 없다.

Ax=0$\mathrm{}$ -> x=0$\mathrm{}$ for invertible A

X가 0인 경우에는 항상 Solution이 존재하지만 의미가 없다 ( Trivial solution )

(5) If Det(A)≠0$\mathrm{}$ A is is invertible

A=[acbd]$$\mathbf{}\begin{array}{cc}& \\ & \end{array}$$

A−1=1ad−bc[d−c−ba]$$\mathbf{}\mathbf{}\mathbf{}\mathbf{}\mathbf{}\mathbf{}\mathbf{}\mathbf{}\mathbf{}\begin{array}{cc}& \\ & \end{array}$$

Det(A)=ad−bc≠0$\mathrm{}$ -> "Invertible"

(6) Diagnoal Matrix

A=⎡⎣⎢⎢⎢⎢d1 0 0 00d20000⋱0000dn⎤⎦⎥⎥⎥⎥−>A−1=⎡⎣⎢⎢⎢⎢⎢1d1 0 0 001d20000⋱00001dn⎤⎦⎥⎥⎥⎥⎥$$\mathbf{}\begin{array}{cccc}{}_{\mathrm{}}& \mathrm{}& \mathrm{}& \mathrm{}\\ \mathrm{}& {}_{\mathrm{}}& \mathrm{}& \mathrm{}\\ \mathrm{}& \mathrm{}& & \mathrm{}\\ \mathrm{}& \mathrm{}& \mathrm{}& {}_{}\end{array}\mathbf{}\mathbf{}\mathbf{}\begin{array}{cccc}\frac{\mathrm{}}{{}_{\mathrm{}}}& \mathrm{}& \mathrm{}& \mathrm{}\\ \mathrm{}& \frac{\mathrm{}}{{}_{\mathrm{}}}& \mathrm{}& \mathrm{}\\ \mathrm{}& \mathrm{}& & \mathrm{}\\ \mathrm{}& \mathrm{}& \mathrm{}& \frac{\mathrm{}}{{}_{}}\end{array}$$

Πni=1di≠0${\mathrm{}}_{\mathrm{}}^{}{}_{}\mathrm{}$

* The inverse come in reverse order

(AB)−1=B−1A−1$${}^{\mathrm{}}{}^{\mathrm{}}{}^{\mathrm{}}$$

(ABC)−1=C−1B−1A−1$${}^{\mathrm{}}{}^{\mathrm{}}{}^{\mathrm{}}{}^{\mathrm{}}$$

* Calculation of A−1${}^{\mathrm{}}$ : Gauss-Jordan Method

AA−1=I${}^{\mathrm{}}$, A−1=[x1,x2,⋯,xn]${}^{\mathrm{}}{}_{\mathrm{}}{}_{\mathrm{}}{}_{}$

Ex)

⎡⎣⎢⎢2 4 −21−67102⎤⎦⎥⎥⎡⎣⎢⎢ x1 x2x3⎤⎦⎥⎥=⎡⎣⎢⎢1 0 0010001⎤⎦⎥⎥$$\begin{array}{ccc}\mathrm{}& \mathrm{}& \mathrm{}\\ \mathrm{}& \mathrm{}& \mathrm{}\\ \mathrm{}& \mathrm{}& \mathrm{}\end{array}\begin{array}{ccc}& & \\ {}_{\mathrm{}}& {}_{\mathrm{}}& {}_{\mathrm{}}\\ & & \end{array}\begin{array}{ccc}\mathrm{}& \mathrm{}& \mathrm{}\\ \mathrm{}& \mathrm{}& \mathrm{}\\ \mathrm{}& \mathrm{}& \mathrm{}\end{array}$$

Elimination process at the same time for 3 system equations ( 동시에 진행 )

=> Gauss-Jordan method

A=U$$$$

E32E31E21A=U$${}_{\mathrm{}}{}_{\mathrm{}}{}_{\mathrm{}}$$

I=L−1I$${}^{\mathrm{}}$$

L−1A=U$${}^{\mathrm{}}$$

L−1=UA−1(가우스소거법첫번째과정)$${}^{\mathrm{}}{}^{\mathrm{}}$$

U−1L−1=A−1$${}^{\mathrm{}}{}^{\mathrm{}}{}^{\mathrm{}}$$

[A,e1,e2,e3]=⎡⎣⎢⎢⎢⎢⎢⎢24−21−67102⋮⋮⋮100010001⎤⎦⎥⎥⎥⎥⎥⎥$$\mathbf{}\mathbf{}\mathbf{}{\mathbf{}}_{\mathbf{}}\mathbf{}{\mathbf{}}_{\mathbf{}}\mathbf{}{\mathbf{}}_{\mathbf{}}\mathbf{}\begin{array}{ccccccc}\mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\\ \\ \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\\ \\ \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\end{array}$$

첫 번째 Pivot = 2 를 이용하여 GE하기 ( 1번식 -2 + 2번식 / 1번식 1 + 3번식 )

Pivot=2=⎡⎣⎢⎢⎢⎢⎢⎢2001−881−23⋮⋮⋮1−21010001⎤⎦⎥⎥⎥⎥⎥⎥$$\mathbf{}\mathbf{}\mathbf{}\mathbf{}\mathbf{}\mathbf{}\mathbf{}\begin{array}{ccccccc}\mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\\ \\ \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\\ \\ \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\end{array}$$

첫 번째 Pivot을 이용하여 GE를 수행하였다. ( 양쪽 모든 식에 똑같은 방식으로 진행 )

다음으로는 2nd Pivot을 이용하여 GE를 진행한다

Pivot=−8=⎡⎣⎢⎢⎢⎢⎢⎢2001−801−21⋮⋮⋮1−2−1011001⎤⎦⎥⎥⎥⎥⎥⎥$$\mathbf{}\mathbf{}\mathbf{}\mathbf{}\mathbf{}\mathbf{}\mathbf{}\mathbf{}\begin{array}{ccccccc}\mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\\ \\ \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\\ \\ \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\end{array}$$

2번식 + 3번식으로 GE가 진행되어 오른쪽 식도 2번식 + 3번식을 통해 -1, 1, 1이 나왔다.

이는 곧 다음의 형태와 같다!

=[UL−1]$${}^{\mathrm{}}$$

U−1${}^{\mathrm{}}$을 곱함으로써 다음과 같아진다.

U−1[UL−1]=[IU−1L−1]$${}^{\mathrm{}}{}^{\mathrm{}}{}^{\mathrm{}}{}^{\mathrm{}}$$

=[IA−1]$${}^{\mathrm{}}$$

좌측 3x3 부분을 I$$로 변환 = U−1${}^{\mathrm{}}$을 곱하는 과정 ( 같다 ) 먼저 row1 - row3 그리고 row2 + 2 * row3을 해준다.

⎡⎣⎢⎢⎢⎢⎢⎢2001−80001⋮⋮⋮2−4−1−131−121⎤⎦⎥⎥⎥⎥⎥⎥$$\begin{array}{ccccccc}\mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\\ \\ \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\\ \\ \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\end{array}$$

그리고 row1 + 1/8 * (row2) 를 해준다. ( 2,1 ) 성분을 없애기 위해서다.

⎡⎣⎢⎢⎢⎢⎢⎢2000−80001⋮⋮⋮32−4−1−5831−3421⎤⎦⎥⎥⎥⎥⎥⎥$$\begin{array}{ccccccc}\mathrm{}& \mathrm{}& \mathrm{}& & \frac{\mathrm{}}{\mathrm{}}& \frac{\mathrm{}}{\mathrm{}}& \frac{\mathrm{}}{\mathrm{}}\\ \\ \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\\ \\ \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\end{array}$$

그리고 (1,1) (2,2)를 1로 바꾸기 위해 각각의 Pivot을 Pivot으로 나눈다.

⎡⎣⎢⎢⎢⎢⎢⎢⎢100010001⋮⋮⋮3412−1−516−381−38−141⎤⎦⎥⎥⎥⎥⎥⎥⎥$$\begin{array}{ccccccc}\mathrm{}& \mathrm{}& \mathrm{}& & \frac{\mathrm{}}{\mathrm{}}& \frac{\mathrm{}}{\mathrm{}}& \frac{\mathrm{}}{\mathrm{}}\\ \\ \mathrm{}& \mathrm{}& \mathrm{}& & \frac{\mathrm{}}{\mathrm{}}& \frac{\mathrm{}}{\mathrm{}}& \frac{\mathrm{}}{\mathrm{}}\\ \\ \mathrm{}& \mathrm{}& \mathrm{}& & \mathrm{}& \mathrm{}& \mathrm{}\end{array}$$

[IU−1L−1]=[IA−1]$${}^{\mathrm{}}{}^{\mathrm{}}{}^{\mathrm{}}$$

@ detA=$$ the product of the Pivots ( Pivot들의 곱 ) = -2x-8x1 = 16

Remark 1. LC=b$$ and Ux=c$$ 는 A−1b=x${}^{\mathrm{}}$ 보다 낫다.

Invertible 하다는 것은 non-singular 하다는 것이다. ( n Pivots )

* Transpose ( 전치행렬 )

ATij=Aji$${}_{}^{}{}_{}$$

(A+B)T=AT+BT$${}^{}{}^{}{}^{}$$

(AB)T=BT•AT$${}^{}{}^{}{}^{}$$

(A−1)T=(AT)−1$${}^{\mathrm{}}{}^{}{}^{}{}^{\mathrm{}}$$

정사각행렬일때 해당한다.

(A+B)−1≠A−1+B−1$${}^{\mathrm{}}{}^{\mathrm{}}{}^{\mathrm{}}$$

* Symmetric Matrix ( 대칭행렬 )

AT=A$${}^{}$$

aij=aji${}_{}{}_{}$ 를 충족하는

Square Matrix 형태여야함.

• 행렬 A$$가 Symmetric 하고 역행렬도 존재한다면 A−1${}^{\mathrm{}}$ 도 마찬가지다

AA−1=I$${}^{\mathrm{}}$$

(AA−1)T=IT=I$${}^{\mathrm{}}{}^{}{}^{}$$

(A−1)TAT=(A−1)TA=I$${}^{\mathrm{}}{}^{}{}^{}{}^{\mathrm{}}{}^{}$$

따라서 

A−1=(A−1)T$${}^{\mathrm{}}{}^{\mathrm{}}{}^{}$$

A=LU=LDU$$$$

AT=A$${}^{}$$

LDU=UTDTLT=UTDLT$${}^{}{}^{}{}^{}{}^{}{}^{}$$

* Correlation Matrix ( 상관행렬 )

서로간에 얼마만큼 성분들을 갖고 있는지, 상관성을 나타내는지 나타냄, 아무 상관 없으면 0으로 나타남

R=ATA$${}^{}$$

XTX${}^{}$는 결국 벡터들 끼리의 내적이다.

대각선 성분은 자기 자신들끼리 내적하는 것이고, 대각선 기준 반대의 성분들은 서로 값이 동일하다.

RT=R$${}^{}$$