不良な人工知能予測を抑制する監査モデルは、人間と人工知能の協働パフォーマンスを向上させる
カテゴリ：災害・救急医療
公開日：2026年2月19日
タイトル：Auditor models to suppress poor artificial intelligence predictions can improve human-artificial intelligence collaborative performance.
雑誌名：J Am Med Inform Assoc. 2026 Jan 13; doi: 10.1093/jamia/ocaf235. Epub 2026 Jan 13.
概 要：
本研究は、機械学習（ML）を用いた医療決定が不公平な結果をもたらすことがある中で、MLの予測を抑制する監査モデルの効果を評価することを目的としています。MLの過信によるパフォーマンスの問題を軽減するための抑制手法が有望であることが示されています。この研究では、抑制が協働の公平性に与える影響と、MLの不確実性を監査の要件として評価します。
方 法：
バンダービルト大学医療センターの電子健康記録データ（n=58,817）とMIMIC-IV-EDデータセット（n=363,145）を使用し、死亡または集中治療室への転送の可能性、30日以内の再入院の可能性を予測しました。勾配ブースティング木と人工的に高性能なオラクルモデルを用いて、臨床医の決定をデータセットから直接導出し、臨床決定支援アラートの受け入れに関する以前の実証研究に基づいてML予測の受け入れをシミュレーションしました。パフォーマンスは受信者動作特性曲線の下の面積（AUC）で測定し、公平性は絶対平均オッズ差を用いて評価しました。
結 果：
MLが人間よりも優れている場合、抑制は人間単独よりも優れ（P < 8.2 × 10^-6）、公平性を損なうことはありません。人間がMLよりも優れている場合、人間は抑制よりも公平であるか（P < 8.2 × 10^-4）、公平性に統計的に有意な差はありません。抑制アプローチに不確実性の定量化を組み込むことで、パフォーマンスが向上する可能性があります。
結 論：
不良なML予測を監査モデルを通じて抑制することは、人間とAIの協働パフォーマンスと公平性を向上させる可能性があることが示されました。