정보 엔트로피: 두 판 사이의 차이

[[확률론]]과 [[통계학]]에서, '''정보 엔트로피'''({{llang|en|information entropy}})는 또는 '''섀넌 엔트로피'''({{llang|en|Shannon entropy}})는 어떤 확률 분포에 담긴 불확실성의 한 척도이며, [[통계역학]]에서의 [[엔트로피]]의 일반화이다.일반화이