医薬品安全監視およびその他の医療安全における大規模言語モデルのガードレールの必要性
カテゴリ：公衆衛生・予防医療
公開日：2026年2月19日
タイトル：The need for guardrails with large language models in pharmacovigilance and other medical safety critical settings.
雑誌名：Sci Rep. 2025 Jul 31; 15(1): 27886.
概 要：
本研究は、大規模言語モデル（LLM）が医薬品安全監視などの高リスクな医療環境での使用において直面する課題を探求しています。特に、LLMが生成する虚偽情報（「幻覚」）が患者に害を及ぼす可能性があるため、これを軽減するためのガードレールの開発が重要です。提案されたガードレールは、異常な文書の検出、不適切なデータの取り込み防止、誤った薬剤名や有害事象用語の特定、生成コンテンツの不確実性の伝達を含みます。これにより、医薬品安全監視のプロセスにおいて、LLMの安全な使用が可能となります。
方 法：
この研究では、LLMを用いたテキストからテキストへのタスクに特化したガードレールの概念実証を行いました。具体的には、有害事象報告書内の構造化データと非構造化データを自然言語に変換する方法を適用し、個別のケース安全報告を翻訳しました。これにより、医薬品安全監視の処理タスクにおける効果的な応用が示されました。
結 果：
提案されたガードレールは、医薬品安全監視における誤った用語生成を防ぎ、医療安全における厳格な規制および品質基準を遵守するためのツールを提供します。これにより、LLMが高リスクな状況で安全に使用されることが保証されます。
結 論：
本研究は、医薬品安全監視などの医療安全におけるLLMの使用において、ガードレールの導入が不可欠であることを示しています。これにより、LLMの導入がもたらすリスクを軽減し、医療環境での安全性を向上させることが期待されます。