codeword
length of the output sequence. (Moser)
tmp
{
정보량 amount of information
: 어떤 정보에 의해 대상에 관한 불확실성(엔트로피)이 어느 정도 감소하는가를 나타내는 양. (
src(https://terms.naver.com/entry.naver?docId=815042&ref=y&cid=50376&categoryId=50376))
평균 정보량 average information content
: 제한된 완전 사상계 중에서 어떤 사상이 발생했는가를 앎으로써 전해지는 정보 측도의 평균값. 수학적으로는 확률 p(x
1), ···, p(x
n)인 사상 집합 x
1, ···, x
n에 대한 엔트로피 H(x)는 개개의 사상 정보량 I(x
1)의 기댓값(평균값)과 같다.
(완전 사상계란, 그것을 구성하는 사상이 서로 배반이며, 모든 사상의 합집합이 전 사상과 일치하는 사상계를 말한다. - 표본공간의
분할,partition?)
(
src(https://terms.naver.com/entry.naver?docId=815886&ref=y&cid=42344&categoryId=42344))
}