ハルシネーション：AIがもっともらしい誤りを出す現象
AIが事実と異なる内容をそれらしく出力する現象と、その減らし方
ハルシネーション（Hallucination、幻覚）とは、生成AIが事実と異なる内容や、存在しない情報を、あたかも正しいかのように出力してしまう現象です。架空の論文や判例を挙げる、数字を取り違える、存在しない機能を説明するといった形で現れます。AIを仕事で使ううえで最も注意すべき性質のひとつです。
なぜ起きるのか
大規模言語モデル（LLM）は、文脈に続く「もっともらしい」言葉を予測して文章を組み立てます。この仕組みは、内容が事実かどうかを確かめながら書くものではありません。そのため、知識があいまいな部分でも流暢な文章を作れてしまい、それが誤りであっても自信がありそうに見えます。
起きやすい場面の例：
- 学習データに少ない、専門的・ローカルな情報
- 知識のカットオフ以降の最新情報
- 細かい数字、日付、固有名詞、URL、引用文
- 「必ず答えて」と強く求められたとき
ハルシネーションを減らす方法
Anthropicのドキュメントでは、次のような対策が紹介されています。
- 「わからない」と言ってよいと伝える：不確かなときは無理に答えないよう明示します。
- 原文の引用を先に出させる：長い資料を扱うとき、まず関係する部分をそのまま抜き出させ、それを根拠に答えさせます。
- 根拠の明示を求める：主張ごとに出典や引用を付けさせ、裏付けが見つからない主張は取り下げさせます。
- 渡した資料だけを使うよう指示する：一般知識ではなく、提供した文書に限定して答えさせます。
- 複数回実行して比べる：同じ質問への答えが毎回ばらつく部分は、誤りの可能性が高いサインです。
あわせて、社内文書や検索結果を参照させるRAGや、Web検索機能を使うのも有効です。
ただし同ドキュメントも、これらの方法はハルシネーションを大きく減らすものの完全になくすわけではないとしています。
実務でのチェックポイント
- 数字・日付・固有名詞・URLは、必ず一次情報で確認する
- AIが挙げた参考文献は、実在するか実際に開いて確かめる
- 法律・医療・税務・契約など影響の大きい内容は、専門家の確認を経る
- 社外に出す文章は、人が最終チェックしてから公開する
プロンプト例
以下の資料だけを根拠に質問に答えてください。資料に書かれていないことは「資料に記載なし」と答えてください。回答の各文の後に、根拠となる資料の該当箇所を「」で引用してください。<資料>…</資料>質問：…
まとめ
ハルシネーションは「たまに起きるバグ」ではなく、LLMの仕組みから生じる性質です。AIは下書きや整理を手伝う存在として使い、事実確認の責任は人が持つという前提で付き合うのが安全です。プロンプトの工夫と確認の手順をセットで習慣にしましょう。
参考リンク
編集: AI Play 編集部 最終更新: 2026-10-25