チャットAIの普及に伴って、チャットAIに健康について相談する人も増えています。しかし、AIは完璧ではなく、不正確な情報を提示してくることもあります。スウェーデンのヨーテボリ大学の研究チームが「人間ならフェイクとすぐに分かる架空の病気に関する論文」を未査読論文としてインターネット上に公開した結果、AIが「実在する病気」としてユーザーへの回答に使用してしまう事例が確認されました。
「インターネットに投稿された架空の病気」をチャットAIが実在する病気としてユーザーに提示してしまう
GIGAZINE / 2026/4/11
📰 ニュースSignals & Early TrendsIdeas & Deep Analysis
要点
- 何らかの文脈でインターネット上に出回っている「架空の病気」に対し、チャットAIがそれを実在の病気としてユーザーに提示してしまう事例が報告された。
- AIが出力する医療情報は、誤りや虚偽の可能性があるにもかかわらず、もっともらしい形で提示され得る点が問題として浮上している。
- ユーザー側のリスク（誤認・受診判断や健康行動への影響）を踏まえ、参照情報の確認や出力の検証の重要性が示唆される。
- 医療領域での生成AI利用には、誤情報対策（根拠提示、検証、ガードレール等）を強化する必要がある。
チャットAIの普及に伴って、チャットAIに健康について相談する人も増えています。しかし、AIは完璧ではなく、不正確な情報を提示してくることもあります。スウェーデンのヨーテボリ大学の研究チームが「人間ならフェイクとすぐに分かる架空の病気に関する論文」を未査読論文としてインターネット上に公開した結果、AIが「実在する病気」としてユーザーへの回答に使用してしまう事例が確認されました。
この記事の続きは原文サイトでお読みいただけます。
原文を読む →
