はじめに：AIは便利。でも「うっかり」事故が起きやすい
生成AI（ChatGPTなど）は、文章作成、調査、要約、コード補助まで幅広く活躍します。一方で、ハルシネーション（もっともらしい嘘）、情報漏洩、バイアス（偏り）といったリスクは、使い方次第で現実のトラブルに直結します。
この記事では、難しい話をできるだけ噛み砕きつつ、現場で役立つ対策を「今日からできるレベル」まで落とし込んで紹介します。
リスク1：ハルシネーション（AIの“それっぽい誤情報”）
どんな問題が起きる？
ハルシネーションは、AIが自信ありげに間違ったことを言う現象です。とくに次の場面で起きやすいです。
- 最新情報（モデルの学習範囲外、直近ニュース）
- 専門領域（法律、医療、金融、セキュリティ）
- 出典が必要（論文、統計、制度、規約）
- 固有名詞（人物・会社・製品名、条文番号、型番）
よくある“事故例”
- 存在しない論文やURLを「参考文献」として提示する
- 法令・制度を古い内容のまま断言してしまう
- 社内ルールを勝手に“それっぽく”補完して誤誘導する
対策：AIを「回答者」ではなく「下書き職人」にする
ハルシネーション対策は、ざっくり言うと“AIの答えを最終回答にしない”ことです。具体的には次が効きます。
1) 根拠（ソース）をセットで求める
プロンプトに「根拠を必ず」「不確かな点は不確かと書く」を入れます。
例：「回答は“結論→根拠→確認方法”の順に。出典URLまたは一次情報（公式文書名）を必ず付けて。不明な点は推測せず“不明”と書いて」
2) 「検証しやすい形」に変換させる
文章で断言させるより、検証項目のチェックリストにしてもらうと安全性が上がります。
- 主張を箇条書きで分解
- 各主張に「要確認」フラグを付ける
- 確認先（公式サイト、規約、一次資料）を提案させる
3) RAG（社内データ検索）や引用前提の運用に寄せる
業務で使うなら、モデルに丸投げではなく、正しい情報源を取りに行く仕組みが重要です。たとえばRAG（Retrieval-Augmented Generation）は、社内文書やナレッジベースを検索し、その結果を根拠として回答を作ります。
具体的な選択肢としては、Azure AI Search、Amazon Kendra、Elasticsearch、OpenSearch、またはNotion/Confluence/Google Drive連携の検索基盤などが使われます。
