生成AI（ChatGPTなど）は、文章作成・調査・要約・コード補助まで幅広く活躍します。一方で、ハルシネーション（もっともらしい嘘）・情報漏洩・バイアス（偏り）は、使い方次第で現実のトラブルに直結します。本記事は、難しい話をできるだけ噛み砕き、現場で役立つ対策を「今日からできるレベル」まで落とし込んで整理します。
FIG.1 AI利用の3大リスク。いずれも「個人の注意力」だけでは防ぎきれない
共通する処方箋はシンプルで、（1）入力制限・（2）根拠確認・（3）定期テストの3点を、チームのワークフローに埋め込むこと。以降で各リスクを順に掘り下げます。
01ハルシネーション：AIの“それっぽい誤情報”
ハルシネーションは、AIが自信ありげに間違ったことを言う現象です。とくに次の場面で起きやすくなります。
- 最新情報（モデルの学習範囲外、直近ニュース）
- 専門領域（法律・医療・金融・セキュリティ）
- 出典が必要（論文・統計・制度・規約）
- 固有名詞（人物・会社・製品名、条文番号、型番）
よくある“事故例”は、存在しない論文やURLを「参考文献」として提示する、法令・制度を古い内容のまま断言する、社内ルールを勝手に“それっぽく”補完して誤誘導するといったものです。
対策：AIを「回答者」ではなく「下書き職人」にする
ハルシネーション対策の核心は、“AIの答えを最終回答にしない”こと。下図の流れで、AIの出力を「検証してから採用する」工程に変えます。
