determinant의 응용에 대해 다룬다. determinant를 이용한 inverse matrix의 계산 determinant는 cofactor matrix로 계산될 수 있다. 먼저 각 entry가 $a,b,c,d$인 $2 \times 2$ matrix $A$의 inverse matrix $A^-1$를 생각해 보자. 먼저 포착할 수 있는 사실은, denominator가 $A$의 determinant라는 점이다. 그럼 그 뒤의 matrix는 뭘까? 뒤의 matrix는 original matrix $A$의 각 entry의 cofactor다. 예를 들어, $(1,1)$의 $a$의 cofactor는 $d$이고, 이게 $(1,1)$ position에 들어가 있다. $(1,2)$의 $b$의 cofactor인 $..

Formulas for the Determinant determinant에 대한 formula를 만들어 보자. 먼저 $2\times 2$ 사이즈의 matrix부터 확인한다. 따라서 $2 \times 2$ matrix의 determinant는 ad-bc임을 보일 수 있다. 비슷한 방법으로 $ 3 \times 3$ matrix의 determinant formula도 구할 수 있다. 이때 어차피 같은 column에 0이 두 번 이상 나오면 singular하므로 0이 되어 사라지므로, 모든 row와 모든 column이 각 한 번씩만 나와야 한다. 이렇게 하면 각 row에서 하나의 column을 정하고, 두 번째 row가 $n-1$개의 column 중 하나를 정하는 식의 형태가 반복된다. 즉, permutatio..

Determinants determinant는 matrix의 항들로 구성된 scalar 값을 가지는 function이다. 1. $\det A \neq 0$이면 matrix $A$는 invertible하고, $\det A = 0$ 이면 matrix $A$는 singular하다. 2. $A$의 determinant는 n-dimensional space에서의 $A$의 부피 값과 같다. 3. determinant는 pivot의 곱으로 이루어져 있다. 이때 sign은 달라질 수 있다. 이 말인 즉슨, row elimination의 순서와 상관 없이 pivot의 곱은 항상 일정하다는 뜻이다. 중요한 점은 determinant가 matrix에 대한 많은 특징들을 explicit한 공식으로 가지고 있는 것이 아니라, ..

Linear Independence Suppose $A$ is $m \times n$ matrix with $m < n$. Then there are nonzero solutions to $A\vec{x} = \vec{0}$. (more unknown than equations). There will be free variables. Given a set of vectors $v_1, ..., v_k$, we can think about linear combinations of these vectors, $c_1 v_1 + c_2 v_2 + \cdots + c_k v_k$. The vectors are linearly independent iff $c_1 v_1 + c_2 v_2 + \cdots + c_..

Solving Ax=b, Ux=c, and Rx=d Unlike last time, suppose we have a linear system that have non-zero right-hand-side. The case $b \neq 0$ is quite different from $b = 0$. Right hand side terms will be changed as we do elimination process on left hand side. Let's think we have a linear system like below : This whole system can be represented as an augmented matrix form $\left[A|\vec{b}\right]$ - whi..

Solving Ax=0 Suppose we have a square, invertible matrix $A$. It is supposed to have $n$ pivots in $n$ columns. But what if we have rectangular matrix that may not have full set of pivots? let's think about a rectangular matrix $A$ and a corresponding linear system $A\vec{x}=\vec{0}$. We can do Gaussian elimination on this matrix $A$ and get $U$. Since the third row is a sum of the first and sec..

Vector spaces A vector space is a space that satisfies two requirements : 1. $\vec{v}+\vec{w}$ and $c\vec{v}$ are in the space. 2. all combinations $c\vec{v} + d\vec{w}$ are in the space. So, a real vector space is a set of vectors together with rules for vector addition and multiplication by real numbers. Examples of three spaces 1. The inifinite-dimensional space $\mathbb{R}^\infty$ is a space..

Guassian elimination와 upper triangular matrix non-singular $3 \times 3$ matrix $A$가 row exchange없이 upper-triangular matrix $U$로 변환 가능하다고 하자. 예를 들어 다음의 matrix $A$가 있다. $$ A = \begin{bmatrix} 2 & 1 &1 \\ 4 & 3 & 7 \\ -2 &1 & 3 \end {bmatrix} $$ 이 matrix에 대한 equation $Ax=b$가 다음과 같다. $$\begin{align} Ax &= b\\ \begin{bmatrix} 2 & 1 &1 \\ 4 & 3 & 7 \\ -2 &1 & 3 \end {bmatrix} \begin{bmatrix}u \\v\\w \..

Matrix Multiplication 두 matrix $A$, $B$를 곱하는 상황을 생각해 보자. 이때 matrix $A$는 $2 \times 2$ 인 square matrix이고, $B$는 $2 \times 3$인 rectangular matrix이라고 하자. 즉, 다음과 같다. $$ A = \begin{bmatrix} 2 & 3 \\ 4 & 0 \end{bmatrix} \text {, } B = \begin{bmatrix} 1 & 2 & 0 \\ 5 & 1 & 0 \end{bmatrix}$$ 이때 두 matrix의 multiplication은 다음과 같이 될 것이다. $$ AB = \begin{bmatrix} 2 & 3 \\ 4 & 0 \end{bmatrix} \begin{bmatrix} 1 & ..