モデル調整またはプロンプト調整？臨床概念と関係抽出のための大規模言語モデルに関する研究
カテゴリ：医療現場の業務効率化
公開日：2026年2月19日
タイトル：Model tuning or prompt Tuning? a study of large language models for clinical concept and relation extraction.
雑誌名：J Biomed Inform. 2024 May; 153: 104630.
概 要：
本研究は、大規模言語モデル（LLMs）のためのソフトプロンプトベースの学習アーキテクチャを開発し、凍結・非凍結のLLMsを用いたプロンプト調整の能力を評価することを目的としています。具体的には、ファインチューニング、ハードプロンプティング、ソフトプロンプティングの4つの戦略を比較し、GatorTronという臨床LLMを用いて、臨床概念と関係抽出の性能を2つのベンチマークデータセットで評価しました。
方 法：
本研究では、GatorTron（最大8.9億パラメータ）を用い、4つの戦略（1. プロンプトなしのファインチューニング、2. 非凍結LLMsによるハードプロンプティング、3. 非凍結LLMsによるソフトプロンプティング、4. 凍結LLMsによるソフトプロンプティング）を比較しました。少数ショット学習能力と異なる機関間での一般化能力も評価しました。
結 果：
非凍結のLLMsを使用した場合、GatorTron-3.9Bはソフトプロンプティングにより概念抽出で最良のF1スコア0.9118を達成し、従来のファインチューニングやハードプロンプトモデルを上回りました。また、GatorTron-345Mは関係抽出で最良のF1スコア0.8332を達成しました。凍結LLMsでは、数十億のパラメータを持つモデルが競争力を持つことが示され、GatorTron-8.9Bは機関間評価で最良の性能を示しました。
結 論：
本研究は、機械が人間が作成したハードプロンプトよりもソフトプロンプトを学習する能力が高いこと、凍結LLMsが良好な少数ショット学習能力を持つこと、計算コストを大幅に削減できることを示しました。また、良好な性能を得るためには数十億のパラメータを持つ大規模モデルが必要であることが確認されました。