6건의 항목

  • Train/Test Dataset 정확도를 측정하는데 있어서 앞에서는, 모델을 훈련하는 데 사용했던 데이터를 가지고서 평가했다. 그런데 사실은 그렇게 수행하면 안되는 것이 당연하다.

  • 실수 표현 부동 소수점으로 표현한다. 지표 + 가수로 표현된다. 왜 쓰는가? 고정 소수점으로 쓸 경우, 큰 수 (10^23) 과 같은 수를 표현하기 위해 많은 양의 비트가 필요하게 된다.

  • 반올림 때문에 값이 너무 커져서 표현할 수 없는 현상을 말한다. 이번에는 값이 너무 커져서 ∞, -∞로 근사되는 현상을 말한다. 마찬가리로 NaN으로 처리된다.

  • 디지털 컴퓨터에서 연속적인 대상을 다루는 수학을 처리할 경우 근본적인 문제가 있다. 무한에 가까운 정보를 정해진 비트 패턴으로 표현해야 한다는 것이다. 이는 거의 모든 실수의 경우 근사 오차가 발생한다는 것을 암시한다.

  • 반올림 때문에 값이 0이 되는 현상을 말한다. 값이 잘못해서 정확히 0이 되면 문제소지가 많다. 0으로 나누기. log0 계산. (값이 발산함) log0은 음의 무한대로 발산한다. 근데 실제 계산에서는 NaN(Not a Number)로 처리한다.

  • Motivation of Pivoting 가우스 소거법과, 가우스-조르당 방법에서 대각행렬을 기준으로 수행한다는 것은 명백하다. 우리는 그래서 이 대각 행렬의 요소를 Pivot 이라 부른다.