ハルシネーションとバイアスの違い
もっともらしい誤りと、出力の偏り

ハルシネーションとは

ハルシネーションは、事実とは異なる内容を、もっともらしく出力する現象です。生成AIは、次に来る言葉を確率で選んで文章を作る仕組みで、事実かどうかを照合していません。そのため、存在しない出典や数字を、自然な文章で答えてしまうことがあります。

技術的な対策をしても完全には防げません。RAG のように根拠となる資料を渡すと減らせますが、なくなりません。そのため、出力を検証する習慣（ファクトチェック）と、疑ってかかる姿勢（批判的思考）が欠かせません。

バイアスとは

バイアスは、学習データの偏りなどから、出力に偏りが出ることです。特定の属性に不当な偏見や差別を含む結果が出ることがあります。バイアスの要因は学習データに限らず、さまざまです。AI事業者ガイドラインでは、不当で有害な偏見や差別をなくすよう努めることを公平性として求めています。

名前が似ていて取り違えやすいのが自動化バイアスです。こちらは AI の出力の偏りではなく、人間の側の傾向で、機械が出した結果を過度に信用して、人が自分で判断しなくなることです。

違いを表で比べる

試験での問われ方

生成AIパスポートでは、第4章「生成AIのリスク予防・AI倫理・ガバナンス」で中心的に出ます。もちこ道場の問題データでは、ハルシネーションかバイアスが出てくる問題は72問あり、そのうち33問が第4章です（第2章・第3章・第5章にも出ます）。次のような問われ方をしています。

• 穴埋め: 「事実とは異なる内容をもっともらしく出力する現象」にハルシネーション、「機械が出した結果を過度に信用し、人間が自分で判断しなくなる傾向」に自動化バイアスを選ぶ。
• 説明を選ぶ: 「学習データの偏りなどから出力に偏りが出るのがバイアス」と「事実に基づかない内容をもっともらしく出すのがハルシネーション」を入れ替えた記述を見抜く。
• 対応を選ぶ: 承認済みのツールでも出力に誤りや偏見が含まれうるので、確認して採用する責任は人にある、という判断を選ぶ。

覚え方

• ハルシネーションは「幻覚」。ないことを、あるかのように言います。バイアスは「かたより」。結果が一方に寄ります。
• 「自動化バイアス」は、名前にバイアスとありますが、人が AI を信じすぎる話です。誰の問題かを確かめます。
• 対策は、どれも「人が確かめる」に行き着きます。AI は補助者で、最終的な責任は使う人にあります。

第4章のほかの用語は「第4章 生成AIのリスク予防・AI倫理・ガバナンスの要点」にまとめています。