정보: 두 판 사이의 차이

내용 삭제됨 내용 추가됨
편집 요약 없음
18번째 줄:
 
== 수학적 정의 ==
정보는 상대방에게 사건을 알릴 때 전달되는 내용이다. 예를 들어 아들이 아버지에게 집에 불이 났는지 아닌지 알리는 것도 정보 전달의 한 예이다. 전달 형태가 불이 "났는지 또는 안 났는지"의 두 가지 방법만 존재한다면 1 비트로 전달이 가능하다. 동전도 마찬가지다. 던진 동전이 앞면인지 뒷면인지를 알려 주면 되기 때문에 1 비트로 표현된다. 16가지의 경우가 나오는 회전 룰렛을 사용하여 경기를 한다면, 그 결과를 위해 4 비트를 할당해야 한다. 앞서 말한 3가지 사건에서 사건 요소인 <math>s_i, i=1,2,3</math>는 불이 났는지, 앞면이 던져졌는지d던져졌는지, 회전 룰렛에서 1번 칸이 선택되었는지에 해당한다. 각각의 확률을 생각해 보면, 각 사건의 경우의 수가 가지는 확률인 <math>p_i</math>이 동일하다고 가정하면 순서대로 1/2, 1/2 그리고 1/16이 된다. 이때 비트 단위 정보량은
:<math>I(s_i) = log_2 \left( \frac{1}{p_i} \right)</math>
와 같이 구해지고 각각 값은 1, 1, 4가 된다. 물론 불이 날 확률<math>(p_2)</math>이 불이 나지 않을 확률<math>(p_1)</math>보다 높은 경우가 있다. 이 경우 불이 나지 않을 확률 <math>p_1 < \frac{1}{2} </math>이 되어, 이를 나타내는 정보량도 <math>I(s_1) > 1</math>이 된다.