メインコンテンツへ
ビジネスインダストリ最新動向

生成AI(LLM:大規模言語モデル)の基本概念に関する説明として、最も適切なものはどれか。

ア.LLMは、大量のテキストデータを学習してパラメータに統計的パターンを記録し、次に来るトークン(単語片)を確率的に予測することで文章を生成するニューラルネットワークモデルである。正解
イ.LLMは、事前に答えを辞書に登録しておき、質問と完全一致したときにその答えを返す検索型AIシステムである。
ウ.LLMは、インターネットをリアルタイムで検索した結果だけを基に回答を生成するため、学習データの影響を受けない。
エ.LLMは答えを完全に理解した上で出力するため、誤った情報(ハルシネーション)を生成することは原理的にない。

解説

LLMは「次の単語を当てるゲームの超上手な選手」。何千億もの文章を学習して「この文脈なら次はこの言葉が来そう」を確率で判断する。理解しているのではなく、パターンマッチングの達人。

なぜ ア が正解か

アが正解。LLM(Large Language Model)はTransformerアーキテクチャ(Attention機構)ベースの大規模ニューラルネットワーク。事前学習(Pretraining)で膨大なテキストからパラメータ(重み)にパターンを圧縮記録し、推論時に入力トークン列から次トークンの確率分布を計算して文章を生成。RLHF(人間フィードバック強化学習)でさらに有用な応答に調整される。

なぜ イ は間違いか

辞書型は古典的なルールベースシステム。LLMは事前に答えを登録しておくのではなく、パラメータに埋め込まれたパターンから動的に生成する。

なぜ ウ は間違いか

LLMはリアルタイム検索ではなく学習データに依存する。Web検索機能を追加した構成(RAG等)は存在するが、基本のLLMは学習時のデータ範囲が知識の限界。

なぜ エ は間違いか

ハルシネーション(hallucination:もっともらしい誤情報の生成)はLLMの主要な問題。確率的に最も自然な続きを生成するため、事実と異なる内容を自信を持って出力することがある。

出典: AI生成問題(学習用)