3건의 항목

  • XOR 문제에서 이제 NN을 공부하는데 있어서 sigmoid 함수를 통과했던 것을 우리는 Activate Function이라고 부를 것이다.

  • \sigma(x) = \frac{1}{1 + e^{-x}} Bernoulli Distribution의 파라미터 \phi를 추정할 때 쓰인다. 이는 아마 이 함수의 치역이 (0, 1)이기 때문이다. 크기가 큰 수를 넣으면 크기 변화가 거의 없다.

  • Bernoulli Distribution을 따르는 이진 분류 문제에 사용되는 함수 Logistic Function f(x) = \frac L{1 + e^{(-k(x - x_0))}} L: 함수의 최댓값 k: 함수의 경사도 (로지스틱 성장률) x_0: 함수의 중심 Standard Logistic Function (Sigmoid Function) logit^{-1}(x) = \sigma(x) = \frac{1}{1 + e^{-x}} Logit 함수의 역함수 의미 어떠한 성장의 단계를 나타내는 함수 초기에는 기하급수적, 포화가 시작되면...