CoRTEx:説明を通じて用語を表現するための対照学習とバイオメディカル知識グラフ構築への応用
カテゴリ:医学教育
公開日:2026年2月19日
タイトル:CoRTEx: contrastive learning for representing terms via explanations with applications on constructing biomedical knowledge graphs.
雑誌名:J Am Med Inform Assoc. 2024 Sep 01; 31(9): 1912-1920. doi: 10.1093/jamia/ocae115.
概 要:
本研究は、バイオメディカル知識グラフの構築における用語クラスタリングの重要性に着目し、従来の対照学習モデルが抱える課題を克服するために、説明を通じて用語を表現する新たな手法「CoRTEx」を提案します。この手法は、大規模言語モデル(LLM)からの知識を活用し、用語の表現を強化することで、用語クラスタリングの精度を大幅に向上させることを目指しています。
方 法:
モデルの訓練には、ChatGPTを用いてクリーンなUMLS用語のサブセットに対する説明を生成し、用語と説明の埋め込みを同時に考慮した対照学習を実施しました。また、効率的な新しいオントロジーのクラスタリングのために、ChatGPTを活用したBIRCHアルゴリズムを設計しました。
結 果:
我々はクラスタリングテストセットとハードネガティブテストセットを設定し、CoRTExモデルは常に最高のF1スコアを達成しました。CoRTExの埋め込みと修正されたBIRCHアルゴリズムを用いて、35,580,932の用語を22,104,559のクラスタにグループ化しました。ケーススタディでは、説明から得られる情報により、モデルが困難なサンプルを扱う能力を示しました。
結 論:
用語をその説明に整合させることで、CoRTExはベンチマークモデルに対して優れた精度と訓練セットを超えた堅牢性を示し、大規模なバイオメディカルオントロジーの用語クラスタリングに適した手法であることが確認されました。