メンタルヘルスのための会話型エージェントの説明可能性と安全性に関するレビュー
カテゴリ：災害・救急医療
公開日：2026年2月19日
タイトル：A review of the explainability and safety of conversational agents for mental health to identify avenues for improvement.
雑誌名：Front Artif Intell. 2023; 6: 1229805.
概 要：
このレビューは、仮想メンタルヘルスアシスタント（VMHA）の説明可能性と安全性に焦点を当て、メンタルヘルスケアの向上に向けた改善点を特定することを目的としています。VMHAは、認知行動療法（CBT）を支援するために臨床心理学者やAI研究者によって開発され、精神的健康状態を持つ個人をサポートするために重要な情報を提供し、意味のある会話を行うことを目指しています。しかし、彼らは患者やメンタルヘルス専門家に対して意思決定を説明できないため、信頼性が低下しています。また、安全でない応答を提供する可能性もあり、これが信頼性をさらに損なっています。本レビューでは、VMHAのユーザー向けの説明可能性と安全性の現状を評価し、技術的進歩の機会を特定します。
方 法：
本研究は、仮想メンタルヘルスアシスタント（VMHA）の説明可能性と安全性に関する文献レビューです。特に、AI駆動モデルであるGPT-3.5およびGPT-4に基づく会話エージェントであるChatGPTの使用を検討し、メンタルヘルスサービスにおけるその適用可能性を評価しています。
結 果：
VMHAは、メンタルヘルス専門家との信頼できる会話を促進するために、説明可能で安全な行動を含む能力を備える必要があることが示されました。技術的進歩の機会が特定され、これによりVMHAの信頼性が向上する可能性があります。
結 論：
VMHAの説明可能性と安全性の向上は、メンタルヘルスケアの信頼性を高めるために重要であり、技術の進歩がこの分野での信頼できる会話を促進することが期待されます。