メインコンテンツへ
基礎理論

生起確率がすべて等しい8種類の事象がある。1事象あたりの情報量(自己情報量)は何ビットか。

ア.2ビット
イ.4ビット
ウ.8ビット
エ.3ビット正解

解説

情報量 = log₂(選択肢の数)。8種類なら 2³=8 なので答えは3ビット。「Yes/No 何回で当てられるか」の回数と思えば直感的です。

なぜ エ が正解か

自己情報量は I = log₂(1/p) で計算します。p = 1/8 なので I = log₂(8) = 3ビット。これは「8個の中から1つを当てるのに、二択質問が最低3回必要」という意味と完全に一致します。よってエが正解です。

なぜ ア は間違いか

2ビットだと 2² = 4種類しか区別できません。8種類のうち半分しか識別できない、情報量を1段少なく見積もった答えです。

なぜ イ は間違いか

4ビットは 2⁴ = 16種類を区別できる量。今回の8種類を超えて余分に見積もっており、ちょうど1段多い「過剰見積もり」です。

なぜ ウ は間違いか

8ビットは「8」という数字に引っ張られて log を取らずにそのまま答えた典型ミス。情報量は「種類数」ではなく「log₂(種類数)」です。

出典: AI生成問題(学習用)