クラス不均衡下におけるXAI技術の評価：CPRDデータを用いて
カテゴリ：公衆衛生・予防医療
公開日：2026年2月19日
タイトル：Evaluating XAI techniques under class imbalance using CPRD data
雑誌名：Front Artif Intell. 2025; 8: 1682919.
概 要：
本研究は、医療における説明可能な人工知能（XAI）の必要性が高まる中、特にクラス不均衡がXAI技術の信頼性と一貫性に与える影響を評価することを目的としています。LIME、SHAP、PDPなどのポストホックXAI技術を用いて、肺癌リスク予測のために構築した機械学習モデルの説明の一貫性を、バランスの取れたデータセットと比較して評価しました。この研究は、実世界の臨床データを用いて、クラス不均衡下での説明の一貫性を評価した初の試みです。
方 法：
本研究では、UKの臨床実践研究データリンク（CPRD）から得たデータを用いて、肺癌リスクを予測するためにXGBoost、ランダムフォレスト、マルチレイヤパーセプトロンの3つの機械学習モデルを訓練しました。クラス不均衡がLIME、SHAP、PDPによるモデル説明の一貫性に与える影響を評価するための比較評価フレームワークを設計しました。
結 果：
クラス不均衡が訓練データに存在すると、LIMEおよびSHAPによる説明の信頼性と一貫性に有意な影響を及ぼすことが明らかになりました。また、PDPも不均衡データセットとバランスの取れたデータセットでのモデル間で臨床的に関連する特徴に関して顕著な変動を示しました。
結 論：
クラス不均衡下でのXAI技術の解釈可能性が大きく影響を受けることが示され、医療データにおけるクラス分布の偏りが一般的であることから、信頼性のある機械学習の展開において一貫したモデル説明の重要性が強調されました。