(선형대수와 통계학으로 배우는 머신러닝 with 파이썬) 3. 머신러닝을 위한 선형대수

← 이전 글로 　 다음 글로 →

기초

행렬, Matrix은 스칼라, Scalar 혹은 벡터, Vector로 구성되어 있다.

스칼라, Scalar는 행렬을 구성하는 각 숫자를 의미하며 크기만을 가진다, 요소, 원소라고 한다.

벡터, Vector는 스칼라, Scalar의 집합이며 크기와 방향을 가진다, 행벡터(Row Vector)와 열벡터(Column Vector) 두가지로 나뉜다.

텐서, Tensor는 n차원으로 일반화한 행렬을 뜻한다.

대각 행렬, Diagonal matrix란 대각( \ ) 이외의 모든 성분이 0인 행렬

단위 행렬, Identity matrix란 정사각 행렬, Square matrix로서 주 대각선 원소가 모두 1이며, 나머지 원소는 0이다.

전치 행렬, Transposed matrix란 기존의 행과 열을 바꾼 행렬

스칼라 곱의 의미

스칼라와 행렬을 곱하면 행렬의 모든 원소를 스칼라 배 한다.

$$x\cdot \left[\begin{array}{cc}{A}_{11}& A_{12}\\ A_{21}& A_{22}\\ A_{31}& A_{32}\end{array}\right]\to \left[\begin{array}{cc}x{A}_{11}& x{A}_{12}\\ x{A}_{21}& x{A}_{22}\\ x{A}_{31}& x{A}_{32}\end{array}\right]$$ Scalar $x$, matrix $A$, 스칼라 행렬 곱

스칼라 행렬 곱은 단순히 행렬에 정수배하는 것만이 아닌 벡터로서의 의미도 가진다.

$$\left[\begin{array}{cc}{A}_{11}& A_{12}\\ A_{21}& A_{22}\\ A_{31}& A_{32}\end{array}\right]\to \left[\begin{array}{cc}{A}_{11}& A_{12}\end{array}\right],\left[\begin{array}{cc}{A}_{21}& A_{22}\end{array}\right],\left[\begin{array}{cc}{A}_{31}& A_{32}\end{array}\right]$$

행렬 $A$는 벡터 3개로 나뉠 수 있다. 각 벡터는 기저로서 독립된 방향을 가진다.

$$x\cdot (\left[\begin{array}{cc}{A}_{11}& A_{12}\end{array}\right],\left[\begin{array}{cc}{A}_{21}& A_{22}\end{array}\right],\left[\begin{array}{cc}{A}_{31}& A_{32}\end{array}\right])\to \left[\begin{array}{cc}x{A}_{11}& x{A}_{12}\end{array}\right],\left[\begin{array}{cc}x{A}_{21}& x{A}_{22}\end{array}\right],\left[\begin{array}{cc}x{A}_{31}& x{A}_{32}\end{array}\right]$$

스칼라 배 된 벡터는 동일한 방향에서 스칼라 배 만큼 커진 크기를 가진다.

행렬곱, matrix Multiplication

행렬간 서로 곱하는 것을 의미하며, 특정 조건을 만족해야 연산이 가능하다.

$$A_{m,r}\cdot B_{r,n}=A{B}_{m,n}$$

행렬 $A$의 열과 행렬 $B$의 행의 수가 같아야한다.

역행렬, Inverse matrix

행렬 $A$에 대해서 $AB=I$를 만족하는 행렬 $B$가 존재한다.

여기서 $B$는 $A^{-1}$로 표기한다.

$$A{A}^{-1}=A^{-1}A=I$$

역행렬이 존재하는 조건은 행렬식이 0이 아니되어야 한다.

역행렬이 존재하는 행렬을 가역행렬, Invertible matrix라고 한다.

내적, Inner Product

적은 ‘쌓는다’는 뜻의 한자이고, 여기서는 ‘곱한다’는 뜻이다. 벡터의 곱하기는 두 가지 정의가 있는데, 내적은 벡터를 마치 수처럼 곱하는 개념이다.^[1]

벡터의 내적 결괏값은 스칼라이다.

$$<u,v>=u\cdot v=u_1{v}_1+u_2{v}_2+\cdots +u_n{v}_n$$

두 열벡터 중 하나의 벡터를 전치(Transpose)시켜 행벡터로 변환한 후 벡터 곱 연산을 한다.

$$<u,v>=u^{T}v$$

내적을 통해 노름, norm을 구하거나 벡터 사이의 관계를 파악할 수 있다.

삼각비를 통한 내적 해석

삼각비란 직각삼각형의 세 변의 길이 중 두 변의 길이간의 비례 관계를 나타내는 값이다^[2]

삼각비 공식

$$Sin\text{seta}$$

---

참고문헌

1. 042. 내적 vs 외적, 수학 용어를 알면 개념이 보인다, https://wikidocs.net/22384

2. 삼각비, 나무위키, https://namu.wiki/w/삼각비