Matrix Norm

행렬의 “크기”나 “길이”를 수치적으로 나타내는 척도

만족해야 하는 성질

• 비음수성 (Non-negativity)
  • $\Vert A\Vert \ge 0$ 이고,  $\Vert A\Vert =0$ 이면  $A=0$
• 동차성 (Homogeneity)
  • 스칼라  $\alpha$ 에 대해  $\Vert \alpha A\Vert =|\alpha |\Vert A\Vert$
• 삼각 부등식 (Triangle Inequality)
  • $\Vert A+B\Vert \le \Vert A\Vert +\Vert B\Vert$

Induced Norm

행렬이 벡터에 작용할 때 그 벡터의 크기가 얼마나 변화하는지 측정하는 노름

$$\Vert A\Vert =\underset{\mathbf{x}\ne 0}{\sup }\frac{\Vert A\mathbf{x}\Vert }{\Vert \mathbf{x}\Vert }$$

L1 Norm

열의 절대값의 합 중 가장 큰 값

$$\Vert A{\Vert }_1=\underset{j}{\max }\sum _{i=1}^m|a_{ij}|$$

L2 Norm

행렬의 Eigenvalue 중 가장 큰 값

• 스펙트럼 노름(Spectral Norm)이라고도 한다.

$$\Vert A{\Vert }_2=\sqrt{{\lambda }_{\text{max}}(A^{T}A)}$$

Infinity Norm

행의 절대값의 합 중 가장 큰 값

$$\Vert A{\Vert }_{\infty }=\underset{i}{\max }\sum _{j=1}^n|a_{ij}|$$

Frobenius Norm

행렬의 각 원소의 제곱의 합의 제곱근

$$\Vert A{\Vert }_F=\sqrt{\sum _{i=1}^m\sum _{j=1}^n|a_{ij}{|}^2}$$

Max Norm

행렬의 원소 중 가장 큰 값

$$\Vert A{\Vert }_{\max }=\underset{i,j}{\max }|a_{ij}|$$