基礎理論
生起確率がすべて等しい8種類の事象がある。1事象あたりの情報量(自己情報量)は何ビットか。
ア.2ビット
イ.4ビット
ウ.8ビット
エ.3ビット正解
解説
情報量 = log₂(選択肢の数)。8種類なら 2³=8 なので答えは3ビット。「Yes/No 何回で当てられるか」の回数と思えば直感的です。
なぜ エ が正解か
自己情報量は I = log₂(1/p) で計算します。p = 1/8 なので I = log₂(8) = 3ビット。これは「8個の中から1つを当てるのに、二択質問が最低3回必要」という意味と完全に一致します。よってエが正解です。
出典: AI生成問題(学習用)