ハルシネーションとは
もっともらしいが事実と違う回答を作ってしまう現象

ハルシネーションとは

ハルシネーション（hallucination。「幻覚」の意味）は、LLM（大規模言語モデル）が学習していない知識について問われたとき、事実とは関係なく、前後の文章をもとにもっともらしい情報を作り出してしまい、現実と異なる内容を生成してしまう現象です。

厄介なのは、誤った答えが、自然で自信のある文章で返ってくることです。LLM は「それらしい次の言葉」を確率的に選んで文章を作るため、知らないことでも、知らないとは言わずに答えてしまうことがあります。

起きる流れと抑え方

ハルシネーションは、LLM を実際に使う推論フェーズで起きます。

使う側も、LLM の答えをそのまま事実と受け取らず、重要な内容は元の資料などで確かめることが大切です。ハルシネーションは、完全になくせるものではないため、仕組みでの対策と人の確認を組み合わせます。

抑える主な方法は次のとおりです。

• RAG（検索拡張生成）: LLM を外部のデータベースと連携させ、検索・参照した情報をもとに回答を作ります。未学習の知識や最新の情報に対する誤応答を抑えられます（「RAG と ICL の違い」）。
• 人間の評価を使った調整（RLHF）: 人間のフィードバックを報酬にして、不適切な出力や事実誤認を抑えるよう振る舞いを調整します（「強化学習とは」）。
• 人が確認する: 医療などのリスクの高い場面では、プロセスのどこかに人間の確認や承認を入れます。
• プロンプトの工夫: 必要な情報をプロンプトに書き込むことで、誤りを減らせる場合があります（「プロンプトエンジニアリングとは」）。

試験での問われ方

モバイルシステム技術検定2級では、第10章「生成AIとAI活用」で出ます。もちこ道場の第10章の問題では、ハルシネーションを含む問題が14問あり、次のような問われ方をしています。

• 穴埋め: 「LLMに含まれない知識について問われたとき、もっともらしい情報を作り出し、現実と異なる情報を生成してしまう現象」の空欄にハルシネーションを選ぶ。「推論フェーズ」「RAG で抑える」を含む文の空欄に入れる形もあります。
• ほかの用語の外れの選択肢: ガードレール・創発性・ファインチューニング・過学習の問題で、ハルシネーションが外れの選択肢として並びます。
• 誤った記述を選ぶ: RAG とハルシネーションの説明のうち、誤っている記述を選ぶ。
• リスクの分類: AI を使うときのリスクの事例（誤診断、フィッシングメールの作成、履歴書の選別など）を読み、ハルシネーションによる誤情報にあたるものを選ぶ。

似た用語との違い

覚え方

• ハルシネーション＝幻覚。知らないことを「もっともらしく」作ってしまう、と覚えます。
• 誤りを作るのがハルシネーション、有害表現を止めるのがガードレール、類推して答えられるのが創発性。3つとも「LLMの出力」の話ですが、悪い点か、止める仕組みか、できるようになることかで分かれます。
• 対策の定番は RAG（外部のデータを参照させる）です。

第10章のほかの用語は「第10章 生成AIとAI活用の要点」にまとめています。