基礎理論
固定小数点表現において、小数点以下のビット数を増やした場合の影響として正しいものはどれか。
ア.表現できる数の絶対値の最大値が増加する
イ.演算速度が向上する
ウ.表現できる最小単位(分解能)が小さくなり、より細かい値を表せる正解
エ.整数部のビット数も自動的に増加する
解説
固定小数点のビット配分は「定規の目盛り」みたいなもの。全長(=総ビット数)が固定の定規で、ミリ単位(=小数部)の目盛りを増やすと、1目盛りがより細かくなる(精度UP)が、測れる最大長(整数部)は短くなる。精度と範囲はトレードオフ関係にある!
なぜ ウ が正解か
固定小数点は「整数部Nビット+小数部Mビット」の固定割り当て。総ビット数が同じなら:①小数部ビット数を増やす→最小単位(LSB)が2^(-M)と小さくなる→細かい値を表現可能②その分、整数部ビット数が減る→表現できる最大絶対値は減少。精度(resolution)と範囲(range)のトレードオフがポイント。
出典: AI生成問題(学習用)