不良な人工知能予測を抑制する監査モデルは、人間と人工知能の協働パフォーマンスを向上させる可能性がある
カテゴリ：災害・救急医療
公開日：2026年1月29日
タイトル：Auditor models to suppress poor artificial intelligence predictions can improve human-artificial intelligence collaborative performance.
雑誌名：J Am Med Inform Assoc. 2026 Jan 13; doi: 10.1093/jamia/ocaf235. Epub 2026 Jan 13.
概 要：
本研究は、医療における機械学習（ML）の利用が進む中で、MLの不公平性を抑制するための監査モデルの影響を評価することを目的としています。MLの予測に対する過剰依存がパフォーマンスの問題を引き起こすことがあり、これを抑制することで協働の公平性を改善できる可能性があります。具体的には、Vanderbilt大学医療センターの電子健康記録とMIMIC-IV-EDデータセットを用いて、死亡または集中治療室への転送の可能性、30日以内の再入院の可能性を予測しました。
方 法：
本研究では、Vanderbilt大学医療センターの電子健康記録（n=58,817）とMIMIC-IV-EDデータセット（n=363,145）を使用し、勾配ブースティング木を用いて予測を行いました。臨床医の決定はデータセットから直接導出し、ML予測の受け入れをシミュレーションしました。パフォーマンスは受信者動作特性曲線の下の面積（AUC）で測定し、公平性は絶対平均オッズ差を用いて評価しました。
結 果：
MLが人間よりも優れている場合、抑制は人間単独よりも優れた結果を示し（P < 8.2×10^-6）、公平性を損なうことはありませんでした。人間がMLよりも優れている場合、人間は抑制よりも公平であるか（P < 8.2×10^-4）、公平性に有意差はありませんでした。抑制アプローチに不確実性の定量化を組み込むことで、パフォーマンスが向上することが示されました。
結 論：
不良なML予測を抑制する監査モデルは、人間とAIの協働パフォーマンスと公平性を改善する可能性があることが示されました。