>>142
情報量やエントロピーと言う概念が情報理論では用いられる

そこら辺を調べりゃ判るよ