MIT_Linear_Algebra

MIT 18.06 Linear Algebra, Spring 2005 chkout: 2010년강의
Gilbert Strang
선형대수,linear_algebra 강좌
http://web.mit.edu/18.06
Textbook: Introduction to Linear Algebra
[ISBN-0961408855] 2e, 1강 보면 칠판에 놓여있는 책
[ISBN-0980232775] 5e
Playlist: https://www.youtube.com/watch?v=ZK3O402wf1c&list=PL49CF3715CB9EF31D

1


Linear algebra의 fundamental problem: Solving a system of linear equations (선형방정식계, 연립일차방정식,system_of_linear_equations)
  • row picture
  • column picture
  • matrix form

    $2x-y=0$
    $-x+2y=3$
을,
$\begin{bmatrix}2&-1\\-1&2\end{bmatrix}\begin{bmatrix}x\\y\end{bmatrix}=\begin{bmatrix}0\\3\end{bmatrix}$
$Ax=b$ 또는
$A\vec{x}=\vec{b}$
(이것 등등을 보면 행렬은 대문자로, 벡터는 소문자로 표기하는 게 주류인 듯)
column을 보면, 벡터,vector가 나옴
$x\begin{bmatrix}2\\-1\end{bmatrix}+y\begin{bmatrix}-1\\2\end{bmatrix}=\begin{bmatrix}0\\3\end{bmatrix}$
이것은 linear combination of columns (선형결합,linear_combination)
$1\begin{bmatrix}2\\-1\end{bmatrix}+2\begin{bmatrix}-1\\2\end{bmatrix}=\begin{bmatrix}0\\3\end{bmatrix}$
즉 1·(column 1) + 2·(column 2) = (0, 3)

$\begin{matrix}2x&-&y&&&=&0\\-x&+&2y&-&z&=&-1\\&-&3y&+&4z&=&4\end{matrix}$
다시 표현하면
$A=\begin{bmatrix}2&-1&0\\-1&2&-1\\0&-3&4\end{bmatrix},\;b=\begin{bmatrix}0\\-1\\4\end{bmatrix}$
평면,plane의 교점이 solution?

$x\begin{bmatrix}2\\-1\\0\end{bmatrix}+y\begin{bmatrix}-1\\2\\-3\end{bmatrix}+z\begin{bmatrix}0\\-1\\4\end{bmatrix}=\begin{bmatrix}0\\-1\\4\end{bmatrix}$

Can I solve Ax=b for every b? (algebra question)
Do the linear combinations of the columns fill 3-D(three-dimensional) space? (linear combination question)
For this matrix A, the answer is YES.

2 Elimination with Matrices


예제로 쓸 식:
$Ax=b$
$\begin{matrix}x&+2y&+z&=&2\\3x&+8y&+z&=&12\\&4y&+z&=&2\end{matrix}$

$x$ 를 먼저 eliminate한다.

$\begin{matrix}1&2&1\\3&8&1\\0&4&1\end{matrix}$

왼쪽 위 1은 pivot이라 한다. (1st pivot)

첫 행에 3을 곱하면 3 6 3 인데 이것을 두번째 행에서 빼주면,
i.e.
첫 행에 -3을 곱하면 -3 -6 -3 인데 이것을 두번째 행에 더해주면, (이게 더 편한 것 같다)

$\begin{matrix}1&2&1\\0&2&-2\\0&4&1\end{matrix}$

두번째 행에 -2를 곱하면 0 -4 4 인데 세번째 행에 더해주면,

$\begin{matrix}1&2&1\\0&2&-2\\0&0&5\end{matrix}$

이것을 U라고 하자 (upper triangular에서)

1st pivot이 0이면 행을 바꾸면 된다. (switch rows)


주어진 식의 첨가행렬,augmented_matrix는 다음과 같다.
$\begin{matrix}1&2&1&2\\3&8&1&12\\0&4&1&2\end{matrix}$
이것에 위의 steps를 적용하면,

$\begin{matrix}1&2&1&2\\0&2&-2&6\\0&4&1&2\end{matrix}$

$\begin{matrix}1&2&1&2\\0&2&-2&6\\0&0&5&-10\end{matrix}$

그리고 $c=\begin{bmatrix}2\\6\\-10\end{bmatrix}$ 로 둔다.


행렬곱을 생각한다.
$K\begin{bmatrix}1&2&1\\3&8&1\\0&4&1\end{bmatrix}=\begin{bmatrix}1&2&1\\0&2&-2\\0&4&1\end{bmatrix}$
일 때 K는 무엇인가?

$\begin{bmatrix}1&0&0\\-3&1&0\\0&0&1\end{bmatrix}\begin{bmatrix}1&2&1\\3&8&1\\0&4&1\end{bmatrix}=\begin{bmatrix}1&2&1\\0&2&-2\\0&4&1\end{bmatrix}$
이라는데 알아낸 방법이 잘 이해가 안 간다.

아무튼 K는 elementary matrix라고 하고 E21 로 나타낸다.

Step 1: 3*(row 1)을 (row 2)에서 뺀다

Step 2: 2*(row 2)를 (row 3)에서 뺀다

$\begin{bmatrix}1&0&0\\0&1&0\\0&-2&1\end{bmatrix}\begin{bmatrix}1&2&1\\0&2&-2\\0&4&1\end{bmatrix}=\begin{bmatrix}1&2&1\\0&2&-2\\0&0&5\end{bmatrix}$
왼쪽 행렬은 E32

식으로는
E32(E21A)=U

(...)A=U
일 때 왼쪽을 어떻게 알아낼 것인가?

(E32E21) 인데, associative law(결합법칙,associativity)에 의해 그렇다.


permutation matrix

exchange rows 1 and 2
$\begin{bmatrix}0&1\\1&0\end{bmatrix}\begin{bmatrix}a&b\\c&d\end{bmatrix}=\begin{bmatrix}c&d\\a&b\end{bmatrix}$

그리고
E-1 E = I
라고 한다.

3 Multiplication and Inverse Matrices



A: m×n행렬, B: n×p행렬이면, C: m×p행렬이고
AB=C에서,
C34= (row 3 of A) · (column 4 of B)
C34= (A의 3열) · (B의 4행)
= a31 b14 + a32 b24 + …
$\sum_{k=1}^n a_{3k} b_{k4}$

Block
$\left[\begin{array}{c|c}A_1&A_2\\\hline A_3&A_4\end{array}\right]\left[\begin{array}{c|c}B_1&B_2\\\hline B_3&B_4\end{array}\right]=\left[\begin{array}{c|c}A_1B_1+A_2B_3&{ETC,}\\\hline {ETC,}&{ETC.}\end{array}\right]$

역행렬,inverse_matrix, 가역행렬,invertible_matrix
If ∃(A-1), A-1A=AA-1=I.
If ∃(A-1), A는 invertible, nonsingular.

참고. 용어가 혼란스러운데 invertible과 singular는 정반대라는 것만 알면 될듯.
가역행렬 invertible matrix = 비특이행렬 nonsingular matrix = 정칙행렬
: 역행렬이 존재하는 행렬.
특이행렬 singular matrix = 비정칙행렬(非正則行列, 일본어?)
: 역행렬이 존재하지 않는 행렬. No inverse.

$AA^{-1}=I$ 가 이러할 때,
$\begin{bmatrix}1&3\\2&7\end{bmatrix}\begin{bmatrix}a&c\\b&d\end{bmatrix}=\begin{bmatrix}1&0\\0&1\end{bmatrix}$
A × (column j of A-1) = (column j of I)

Gauss-Jordan (solve 2 equations at once) (see 가우스_소거,Gaussian_elimination)
$\begin{bmatrix}1&3\\2&7\end{bmatrix}\begin{bmatrix}a\\b\end{bmatrix}=\begin{bmatrix}1\\0\end{bmatrix}$
$\begin{bmatrix}1&3\\2&7\end{bmatrix}\begin{bmatrix}c\\d\end{bmatrix}=\begin{bmatrix}0\\1\end{bmatrix}$
elimination steps
$\left[\begin{array}{cc|cc}1&3&1&0\\2&7&0&1\end{array}\right]\quad(A|I)$
$\rightarrow\left[\begin{array}{cc|rr}1&3&1&0\\0&1&-2&1\end{array}\right]$
$\rightarrow\left[\begin{array}{cc|rr}1&0&7&-3\\0&1&-2&1\end{array}\right]\quad(I|A^{-1})$

5 Transposes, Permutations, Spaces R^n

6 는 시험인가?


7 Solving Ax = 0: Pivot Variables, Special Solutions

MIT Linear Algebra 2010 Class Notes

http://theyearlyprophet.com/linalg.html - PDF 노트정리, 영문, by jongman