선형대수에 대해 정리합니다.
선형대수에 대해 정리합니다.
16 items under this folder.
f: \mathbb{R}^n \rightarrow \mathbb{R}인 함수 f에 대한 이차미분을 모아놓은 행렬 정의 f(x_1, x_2, \dots, x_n) (스칼라를 출력하는 함수에 대하여) \mathbf{H}{(f)(\mathbf x)_{i,j}= \frac{\partial^2}{\partial x_i \partial x_j}}{f(\mathbf x)} \mathbf{H} = \begin{bmatrix} \frac{\partial^2 f}{\partial x_1^2} & \frac{\partial^2 f}{\part...
벡터 -> 벡터에 대한 함수의 편미분을 모아놓은 행렬 정의 \mathbf{f}(\mathbf{x}) = \begin{bmatrix} f_1(x_1, x_2, \dots, x_n) \\ f_2(x_1, x_2, \dots, x_n) \\ \vdots \\ f_m(x_1, x_2, \dots, x_n) \end{bmatrix} f: \mathbb{R}^n \rightarrow \mathbb{R}^m인 함수 f에 대한 편미분을 모아놓은 행렬 J \in \mathbb{R}^{m \times n} J_{ij} = \frac{\part...
함수나 행렬이 입력 값의 작은 변화에 얼마나 민감하게 반응하는지를 측정하는 값 Matrix Norm을 사용한 정의 κ(A) = \left \| A \right\| \left\| A^{-1} \right\| Eigenvalue를 사용한 정의 κ(A) = \frac{\left| \lambda_{\text{max}} \right|}{\left| \lambda_{\text{min}} \right|} 행렬 A가 대칭이고 양의 정부호일 때, 행렬의 Norm은 그 행렬의 가장 큰 고유값과 일치한다.
Av=λv를 만족하는, λ를 A의 고윳값 혹은 고유치(eigenvalue)라 부른다. 의미 행렬이 벡터에 작용할 때 그 벡터의 방향을 바꾸지 않으면서 벡터의 크기만을 변화시키는 스칼라 값이다. Reference Eigenvector 고유치 문제 .
행렬의 “크기”나 “길이”를 수치적으로 나타내는 척도 만족해야 하는 성질 비음수성 (Non-negativity) \|A\| \geq 0 이고, \|A\| = 0 이면 A = 0 동차성 (Homogeneity) 스칼라 \alpha 에 대해 \|\alpha A\| = |\alpha| \|A\| 삼각 부등식 (Triangle Inequality) \|A + B\| \leq \|A\| + \|B\| Induced Norm 행렬이 벡터에 작용할 때 그 벡터의 크기가 얼마나 변화하는지 측정하는 노름 \|A\| = \sup_{\mathbf{x...
Types of Matrix A\;=\;[a_{ij}] i = m , row size j = n, column size Square Matrix m = n \begin{bmatrix} 0 & 1 & 0\\ 0 & 2 & 0\\ 0 & 0 & 3 \end{bmatrix} Rectangular Matrix m\; \ne\;n \begin{bmatrix} 0 & 1 & 2\\ -1 & 0 & 3\\ -2 & -3 & 0\\ 9 & 3 & ...
Determinant det(I)\;=\;1\\ \;\\ det(A^T)\;=\;det(A)\\ \;\\ det(AB)\;=\;det(A)det(B)\\ \;\\ det(cA)\;=\;c^ndet(A).
Inverse Matrix Definition 정사각행렬에서 정의된다. AA^{-1}\;=\;A^{-1}A\;=\;I Determinant 에 따른 구분, 그리고 의미 Determinant 가 존재한다. 역행렬이 존재한다.
Orthogonal Matrix A^TA\;=\;AA^T\;=\;I\\ \;\\ A\;=\;A^{-1}\\.
Linear Independence 하나의 행렬은 공간을 나타낸다고 볼 수 있다.
Rank 행렬은 하나의 공간을 매핑한다고 했다. 방금은 3 x 3 의 행렬에 대해 봤기 때문에, 열벡터 공간과 행벡터 공간이 동일하게 3차원 공간을 매핑하고 있었다. 하지만 행렬이 꼭 정사각행렬이라는 법은 없다.
Gauss Elimination 가우스 소거법은, 연립방정식의 해를 행렬을 이용해 쉽게 구하는 방법이다. 기본적으로 행벡터의 계수를 조작하여 구하는 방법으로, Upper Triangle Matrix, Lower Triangle Matrix 를 만들어 구하는 방법이다.
Motivation of Pivoting 가우스 소거법과, 가우스-조르당 방법에서 대각행렬을 기준으로 수행한다는 것은 명백하다. 우리는 그래서 이 대각 행렬의 요소를 Pivot 이라 부른다.
LU Decomposition LU 분해는 근본적으로 가우스 소거법의 방법을 차용한다. 가우스 소거법은 행의 조작을 통해, Upper Triangle Matrix 를 만드는 것이 핵심이다.
원소의 측면 R이 결과 행렬이라고 한다면, \begin{bmatrix} 1 & 2\\ 4 & 3 \end{bmatrix} \begin{bmatrix} 1 & 1\\ 0 & 3 \end{bmatrix}\;=\; \begin{bmatrix} 1\times1+2\times0 & 1\times1+2\times3\\ 4\times1+3\times0 & 4\times1+3\times3 \end{bmatrix}\;=\; \begin{bmatrix} 1 & 7\\ 4 & 13 \end{bm...
QR Decomposition QR 분해의 근본적인 이유는 무엇일까? 기존의 선형대수에 대한 글에서, 행렬은 하나의 공간을 매핑한다고 했다. 그리고 행렬 size가 정사각행렬이고, full rank일 때 n차원 공간을 매핑한다.