ビジネスインダストリ
生成AI(LLM:大規模言語モデル)の基本概念に関する説明として、最も適切なものはどれか。
ア.LLMは、大量のテキストデータを学習してパラメータに統計的パターンを記録し、次に来るトークン(単語片)を確率的に予測することで文章を生成するニューラルネットワークモデルである。正解
イ.LLMは、事前に答えを辞書に登録しておき、質問と完全一致したときにその答えを返す検索型AIシステムである。
ウ.LLMは、インターネットをリアルタイムで検索した結果だけを基に回答を生成するため、学習データの影響を受けない。
エ.LLMは答えを完全に理解した上で出力するため、誤った情報(ハルシネーション)を生成することは原理的にない。
解説
LLMは「次の単語を当てるゲームの超上手な選手」。何千億もの文章を学習して「この文脈なら次はこの言葉が来そう」を確率で判断する。理解しているのではなく、パターンマッチングの達人。
なぜ ア が正解か
アが正解。LLM(Large Language Model)はTransformerアーキテクチャ(Attention機構)ベースの大規模ニューラルネットワーク。事前学習(Pretraining)で膨大なテキストからパラメータ(重み)にパターンを圧縮記録し、推論時に入力トークン列から次トークンの確率分布を計算して文章を生成。RLHF(人間フィードバック強化学習)でさらに有用な応答に調整される。
出典: AI生成問題(学習用)