AI は「もっともらしく間違える」
ChatGPT も Claude も Gemini も、ときどき事実でないことを、自信たっぷりの自然な文章で答えます。これは「ハルシネーション（幻覚）」と呼ばれ、AI の仕組み上ゼロにはできない性質です。出力が読みやすいぶん、初心者ほど鵜呑みにしがち。仕事で使う前に「得意」と「苦手」を分けて理解しておくことが大事です。
なぜ起こるのか（ざっくり）
大規模言語モデルは「次に来そうな単語」を確率で選んで文章を作ります。学習データに無い情報や、確率的に“ありそう”だが誤った情報も、自然な文で出してしまう。「分かりません」より「それっぽく答える」ほうが学習上それらしく見えるためです。
よくあるハルシネーションのパターン
- 存在しない情報源を作る：架空の論文名・書名・URL・条文番号を堂々と提示
- 数字・日付の捏造：「市場規模は◯兆円」など根拠のない統計を作る
- 曖昧な質問を埋めすぎる：前提が足りないのに推測で断定する
- 長文要約で勝手に補完：原文に無い結論を足す
- 比較表で項目を揃えるために誤情報を混ぜる
とくに危険なのは、「分からない」と言わずに埋めてくること。出力が自然なので誤りに気づきにくいのです。
