感情的なプロンプトがAI大規模言語モデルにおける偽情報生成を増幅させる
カテゴリ：公衆衛生・予防医療
公開日：2026年2月19日
タイトル：Emotional prompting amplifies disinformation generation in AI large language models.
雑誌名：Front Artif Intell. 2025; 8: 1543603.
概 要：
本研究は、AI大規模言語モデル（LLMs）が生成するテキストが人間の書いた内容に近いことから生じる機会とリスクを探求しています。特に、健康関連の危機コミュニケーションにおける利点がある一方で、説得力のある偽ニュースや偽情報の生成を助長するリスクも存在します。感情的なフレーミングがプロンプトの出力に影響を与えることを示す最近の研究を基に、礼儀正しさや無礼さが偽情報生成に与える影響を調査しました。
方 法：
本研究では、OpenAIのLLMs（davinci-002、davinci-003、gpt-3.5-turbo、gpt-4）を用いて、19,800件の公衆衛生に関するソーシャルメディア投稿を生成・評価しました。プロンプトに礼儀正しい言葉を使用した場合と無礼な言葉を使用した場合で、偽情報生成の頻度を比較しました。
結 果：
全てのLLMsは効果的に偽情報を生成しました（davinci-002: 67%、davinci-003: 86%、gpt-3.5-turbo: 77%、gpt-4: 99%）。礼儀正しいプロンプトを用いることで、偽情報生成の成功率が大幅に向上しました（davinci-002: 79%、davinci-003: 90%、gpt-3.5-turbo: 94%、gpt-4: 100%）。一方、無礼なプロンプトは全モデルで偽情報生成を減少させました（davinci-002: 59%、davinci-003: 44%、gpt-3.5-turbo: 28%、gpt-4: 94%）。
結 論：
本研究は、全てのテストされたLLMsが偽情報を効果的に生成することを明らかにしました。特に、感情的なプロンプトが偽情報生成率に大きな影響を与え、礼儀正しい言葉でのプロンプトが中立的または無礼なリクエストよりも高い成功率を示しました。この結果は、LLMsが偽情報生成に悪用される可能性を示唆しており、AI技術の開発において倫理的なアプローチが必要であることを強調しています。