メインコンテンツへ
基礎理論

大規模言語モデルを用いた自然言語処理において、事前学習済みのモデルに対して 行う、ファインチューニングに関する記述として、最も適切なものはどれか。

ア.強化学習を行い、最適な結果が得られるようにする。
イ.事前学習と同じデータを繰り返し用いて学習を行い、モデルの精度を高めるよう にする。
ウ.大量のテキストデータを用いて学習を行い、モデルの精度を高めるようにする。
エ.特定のデータを用いて追加で学習を行い、目的とするタスクに適用できるように する。正解

解説

事前学習は「大学でいろんな知識を詰め込む」段階、ファインチューニングは「配属先の業務マニュアルだけで特訓する」OJTのこと。汎用→特化への二段ロケットです。

なぜ エ が正解か

エが正解。ファインチューニングとは、大量データで基礎力を養ったモデルに対し、特定タスク向けの(比較的少量の)データを使って「追加で」学習させる手法です。例えば医療診断AIにしたいなら医療テキストだけで追加学習させる、という具合。「特定のデータ」「追加で」「目的タスクに適用」の3点がキーワードで、エはこれを過不足なく言い表しています。

なぜ ア は間違いか

強化学習はRLHFのようにファインチューニングと組み合わせることはありますが、ファインチューニングの定義そのものではありません。「RLHF知ってるオレ」を狙い撃ちにした巧妙な罠です。

なぜ イ は間違いか

同じデータを繰り返すのはファインチューニングではなく、ただの「復習」です。しかも事前学習データを使い続けると汎用性が高まるだけで、特定タスクへの特化とは真逆——新しいスキルを身に付けず同じ教科書を100回読むイメージです。

なぜ ウ は間違いか

「大量のテキストデータで学習」は事前学習(プレトレーニング)の説明そのもの。ファインチューニングの特徴は「少量・特定」であり「大量・汎用」ではありません。この選択肢、堂々と事前学習の話をしています。

出典: 基本情報技術者試験 令和7年 公開問題