基礎理論
コインを1枚投げる。表が出る確率が3/4、裏が出る確率が1/4のとき、この情報源のエントロピーH（ビット）に最も近い値はどれか。（log₂(3)≒1.585、log₂(4)=2とする）
ア.0.5
イ.0.81正解
ウ.1.0
エ.1.5
解説
エントロピーは「驚き度の平均」。コインが公平（1/2・1/2）なら最大1bit。片方に偏るほど結果が読めてきて驚きが減る——3/4・1/4の不公平コインは0.81bitと少し予測しやすい。
なぜ イ が正解か
イが正解。H = -Σp_i log₂(p_i) = -(3/4)log₂(3/4) - (1/4)log₂(1/4)。計算：log₂(3/4)=log₂3-log₂4=1.585-2=-0.415、log₂(1/4)=-2。H=-(3/4)×(-0.415)-(1/4)×(-2)=0.311+0.5=0.811≈0.81ビット。
出典: AI生成問題（学習用）