自殺念慮を検出し管理するメンタルヘルスチャットボットエージェントの性能
カテゴリ：災害・救急医療
公開日：2026年2月19日
タイトル：Performance of mental health chatbot agents in detecting and managing suicidal ideation
雑誌名：Sci Rep. 2025 Aug 27; 15(1): 31652.
概 要：
本研究は、メンタルヘルス問題を抱える個人を支援するために設計されたAIチャットボットエージェントの安全性を評価しました。特に、自殺危機にある個人に対する対応能力を検証しました。29のAIチャットボットエージェントを対象に、コロンビア自殺重症度評価尺度に基づく標準化されたシナリオを用いてテストを行い、緊急連絡先情報の提供能力などの基準に基づいて評価しました。結果として、全てのエージェントが初期基準を満たさず、51.72%が緩和基準を満たす限界的な応答を示し、48.28%は不十分と評価されました。これらの結果は、適切な臨床検証なしにAIチャットボットを敏感な健康文脈で展開することへの懸念を示しています。
方 法：
本研究では、29のAIチャットボットエージェントを対象に、コロンビア自殺重症度評価尺度に基づく標準化されたプロンプトを使用して自殺リスクシナリオを模擬しました。アプリのリポジトリを検索し、メンタルディストレス時に有益であると主張するアプリを選定しました。応答は、緊急連絡先情報の提供能力などの事前定義された基準に基づいて評価されました。
結 果：
テストした全てのエージェントは初期基準を満たさず、51.72%が緩和基準を満たす限界的な応答を示し、48.28%は不十分と評価されました。一般的なエラーとしては、緊急連絡先情報の提供ができないことや文脈理解の欠如がありました。
結 論：
AIチャットボットエージェントは、自殺危機に対する適切な応答を提供できないことが明らかになりました。これにより、適切な臨床検証なしにメンタルヘルスの敏感な文脈での展開に対する懸念が生じています。