수학의 여러 문제를 푸는 방법인 수치 해석학에 대해 정리합니다.
수학의 여러 문제를 푸는 방법인 수치 해석학에 대해 정리합니다.
3 items under this folder.
반올림 때문에 값이 너무 커져서 표현할 수 없는 현상을 말한다. 이번에는 값이 너무 커져서 ∞, -∞로 근사되는 현상을 말한다. 마찬가리로 NaN으로 처리된다.
디지털 컴퓨터에서 연속적인 대상을 다루는 수학을 처리할 경우 근본적인 문제가 있다. 무한에 가까운 정보를 정해진 비트 패턴으로 표현해야 한다는 것이다. 이는 거의 모든 실수의 경우 근사 오차가 발생한다는 것을 암시한다.
반올림 때문에 값이 0이 되는 현상을 말한다. 값이 잘못해서 정확히 0이 되면 문제소지가 많다. 0으로 나누기. log0 계산. (값이 발산함) log0은 음의 무한대로 발산한다. 근데 실제 계산에서는 NaN(Not a Number)로 처리한다.