MEDICINE & AI

タイトル：Can physician judgment enhance model trustworthiness? A case study on predicting pathological lymph nodes in rectal cancer. 雑誌名：Artif Intell Med. 2024 Aug; 154: 102929. 概　要： 本研究は、医療における人工知能の信頼性を高めるために、説明可能性が重要であることを示しています。しかし、医師の期待と実際のモデルの挙動との間には大きなギャップが存在します。このギャップは、医師中心の評価フレームワークの欠如から生じており、効果的な説明可能性が実務者に提供すべき実際的な利点を定量的に評価する必要があります。本研究では、優れた注意マップが医師の焦点と一致することで、予測の不確実性を減少させ、モデルの信頼性を高めると仮定しました。 方　法： 本研究では、臨床データと磁気共鳴画像を使用して直腸癌のリンパ節転移を予測するためにマルチモーダルトランスフォーマーを用いました。注意マップを視覚化し、医師の理解との一致度を評価しました。また、予測確率の分散のみを使用したスタンドアロン推定と、予測確率の分散と合意の定量化を考慮したヒューマン・イン・ザ・ループ推定の2つのアプローチを比較しました。 結　果： 研究の結果、ヒューマン・イン・ザ・ループアプローチはスタンドアロンアプローチに対して有意な利点を示しませんでした。このケーススタディは、説明がモデルの信頼性を高めるという期待された利益を確認できませんでした。 結　論： 表面的な説明は、医師が不確実な予測に依存することを誤解させる可能性があり、現在の注意メカニズムの状態はモデルの説明可能性において過大評価されるべきではないことが示されました。