주 메뉴 열기
로지스틱 곡선

시그모이드 함수는 S자형 곡선 또는 시그모이드 곡선을 갖는 수학 함수이다. 종종 시그 모이드 함수는 첫 번째 그림에 표시된 로지스틱 함수의 특수한 경우를 지칭하며 수식으로 정의된다.

목차

정의편집

시그모이드 함수는 실함수로써 유계이며 미분가능한 함수이며, 모든 점에서의 미분값은 양수이다. [1]

성질편집

일반적으로 시그모이드함수는 단조함수이며종 종 모양의 1차 미분 그래프를 가진다. 시그모이드 함수는  일 때, 한 쌍의 수평 점근선으로 수렴한다. 시그모이드 함수는 0보다 작은 값에서 볼록하고 0보다 큰 값에서 오목하다.

예시편집

 
일부 시그모이드 함수에 대한 비교. 그림에서 모든 함수는 원점에서의 기울기가 1이되도록 정규화를 함.
 
 
 
 
 

연속적이고 음이 아닌 "범프 모양"함수의 적분은 S자형이므로, 많은 일반적인 확률 분포에 대한 누적 분포 함수역시 S자형이다. 한 가지 예가 정규 분포의 누적 분포 함수와 관련된 오류 함수이다.

응용편집

 
밀 수확량과 토양 염분 사이의 관계를 모델링 한 역 시그모이드 곡선. [2]

복잡한 학습 곡선과 같은 많은 자연적인 과정은 시간이 지남에 따라 낮은 시작점에서부터 최종단계까지 증가함따라 가속화하여 접근한다. 특정 수학적 모델이 부족할 때, 시그모이드 함수가 자주 사용된다. [3]

인공 신경망에서는 매끄럽지 않은 함수가 효율성 대신 사용된다. 이들은 hard Sigmoids로 알려져 있다.

같이 보기편집

참고 문헌편집

  1. Han, Jun; Morag, Claudio (1995). 〈The influence of the sigmoid function parameters on the speed of backpropagation learning〉. Mira, José; Sandoval, Francisco. 《From Natural to Artificial Neural Computation》. Lecture Notes in Computer Science 930. 195–201쪽. ISBN 978-3-540-59497-0. doi:10.1007/3-540-59497-3_175. 
  2. Software to fit an S-curve to a data set [1]
  3. Gibbs, M.N. (Nov 2000). “Variational Gaussian process classifiers”. 《IEEE Transactions on Neural Networks》 11 (6): 1458–1464. PMID 18249869. doi:10.1109/72.883477. 
  • Mitchell, Tom M. (1997). 《Machine Learning》. WCB–McGraw–Hill. ISBN 978-0-07-042807-2. . In particular see "Chapter 4: Artificial Neural Networks" (in particular pp. 96–97) where Mitchell uses the word "logistic function" and the "sigmoid function" synonymously – this function he also calls the "squashing function" – and the sigmoid (aka logistic) function is used to compress the outputs of the "neurons" in multi-layer neural nets.
  • Humphrys, Mark. “Continuous output, the sigmoid function”.  Properties of the sigmoid, including how it can shift along axes and how its domain may be transformed.