第4章 生成AIのリスク予防・AI倫理・ガバナンスの要点
ハルシネーション、個人情報、著作権、AI法を整理
- 第4章は、生成AIを安全に使うための知識の章で、5つの章のなかで最も多く出ると予想しています。基本の心構え、代表的なリスク、シャドーAI、個人情報と営業秘密、著作権、AI倫理・ガイドライン・AI法が出ます。
- ハルシネーションとバイアス、個人情報・要配慮個人情報・匿名加工情報、肖像権とパブリシティ権のように、似た用語の違いが問われます。
- 用語は「何を守るための話か」で6つに分けると、覚えやすくなります。
この章で問われること
第4章「生成AIのリスク予防・AI倫理・ガバナンス」は、生成AIを仕事や生活で使うときに起きるリスクと、それを防ぐための心構え・ルール・法律を扱います。
本番の60問のうち、第4章からは18問前後と予想しています。もちこ道場の模擬試験（60問・60分）は、5つの章の出題数を第1章9問、第2章12問、第3章12問、第4章18問、第5章9問としていて、第4章は試験全体の30%と、最も多い章です。もちこ道場の第4章には292問があり、5つの章のなかで最も多くなっています。
出てくる用語は、何を守るための話かで、次の6つのまとまりに分けると整理しやすくなります。
6つのまとまりと押さえる用語
1. 基本の心構えと、出力の検証
| 用語 | ひとことで |
|---|---|
| 補助者であり、最終責任は人間 | 生成AIは人の判断を助ける道具。成果物や意思決定の責任は、使う人と組織が負う |
| 検索エンジンと生成AI | 検索エンジンは関連ページを並べ、生成AIは入力を解釈して新しい文章を作る。回答は誤りを含みうる |
| 一次情報 | 公式の発表や原典など、元の情報。数値や固有名詞は一次情報と照らして確かめる |
| 批判的思考 | 出力を疑い、根拠や妥当性を確かめる姿勢 |
| リスクベースアプローチ | 影響の大きさに応じて、確認の深さや対策の強さを変える |
| ファクトチェックと妥当性レビュー | 事実・数値・出典を確かめる（ファクトチェック）。前提や論理、抜け漏れを見直す（妥当性レビュー） |
2. 生成AIの代表的なリスク
| 用語 | ひとことで |
|---|---|
| ハルシネーション | 事実と違う内容をもっともらしく出力する。完全には防げない |
| バイアス | 学習データの偏りなどから、出力に偏りが出る |
| 自動化バイアス | 機械の結果を過度に信用し、人が自分で判断しなくなる傾向 |
| フィルターバブル | 見たい情報ばかりが表示され、異なる価値観の情報から遮断される現象 |
| ディープフェイク | 本物に見える映像や音声を作れる。偽情報の拡散や、なりすましに使われる |
| フィッシング・スピアフィッシング | 偽サイトへ誘う詐欺。特定の相手を狙い、取引先や同僚を装うのがスピアフィッシング |
| ランサムウェア・トロイの木馬 | データを暗号化して身代金を要求する／無害なふりをして侵入する、マルウェア |
| プレテキスト | 架空の役割を演じて、パスワードなどを聞き出す手口 |
3. シャドーAIと企業コンプライアンス
| 用語 | ひとことで |
|---|---|
| シャドーAI | 組織が許可や把握をしていない生成AIや個人アカウントを、従業員が業務で使うこと |
| 発生する理由 | 効率化したい気持ちと、業務で使える AI が用意されていないこと。一律禁止でも招きやすい |
| 危険 | 入力データが学習に使われたり、利用の履歴が追えなかったりして、情報漏えいの原因になる |
| トレーサビリティ | 誰がいつ何を入力したかを、あとから追跡・監査できる状態 |
| オプトアウト | 入力データを学習の対象から外す設定 |
| 承認済みツール | 審査と契約を経て使ってよいと認められたツール。ただし出力の正しさまでは保証されない |
4. 個人情報・プライバシー・秘密保持
| 用語 | ひとことで |
|---|---|
| 個人情報 | 生きている個人についての情報で、特定できるもの。マイナンバーや免許証番号などの個人識別符号も含む |
| 要配慮個人情報 | 人種・信条・病歴・犯罪歴など、差別や偏見の不利益を受けるおそれが高い情報。取得や第三者提供には原則、本人の明確な同意が要る |
| 機微情報 | 主に金融分野の指針で使われる、特に慎重な取扱いが求められる情報 |
| 匿名加工情報 | 個人が分からないよう加工し、元に戻せないようにしたデータ。再特定は禁止される |
| 営業秘密 | 秘密管理性・有用性・非公知性の3つがそろったもの。不正競争防止法で守られる。外部の生成AIに入力すると、秘密管理性や非公知性が失われるおそれがある |
| 限定提供データ | 特定の相手に継続的に提供され、一定量以上たまり、電子的に管理されたデータ |
5. 著作権・知的財産・生成物の権利
| 用語 | ひとことで |
|---|---|
| 著作権 | 創作した時点で自動的に発生する。生成AIが単独で自動出力しただけの成果物は、原則、著作物と認められにくい。人に創作意図と創作的な関与があれば認められうる |
| 特許権・意匠権・商標権 | 出願と審査を経た登録で発生する。特許権・意匠権は創作そのもの、商標権は営業上の信用や識別を守る |
| 肖像権 | 顔や姿を本人の意に反して撮られたり、公開されたりしないための権利。個人のプライバシーを守る |
| パブリシティ権 | 著名人の氏名や肖像が持つ、顧客を引き寄せる力（経済的な価値）を、本人だけが使える権利 |
6. AI倫理・ガバナンス・AI法
| 用語 | ひとことで |
|---|---|
| AI事業者ガイドライン | 開発者・提供者・利用者が守る指針。人間中心、公平性、透明性、堅牢性などを挙げる |
| 堅牢性（ロバストネス） | 予期しない入力があっても、性能を保ち、著しく誤った判断を出さない安定性 |
| 動作ログ・トレーサビリティ | AI の判断を、あとから検証できるように履歴を残す |
| アジャイル・ガバナンス | ルールを固定せず、分析・目標設定・運用・評価のサイクルを継続して回す |
| 閉域網・レート制限・モニタリング | 専用線で閉じたネットワーク／API の利用回数に上限を置く／利用状況を継続して把握する |
| AI法（AI新法） | 罰則で禁止するのではなく、推進と適正性の確保を目指す。内閣の AI戦略本部が基本計画の案を作る |
| G7広島AIプロセス・EU AI Act・AISI | 2023年に日本が主導した国際的な指針／リスクに応じて規制を変える EU の規則／AI の安全性評価を担う日本の機関 |
取り違えやすい組み合わせ
選択肢には、同じまとまりの用語が並びます。次の組み合わせは、「何が違うか」を一言で言えるようにしておきます。
| 組み合わせ | 見分け方 |
|---|---|
| ハルシネーションとバイアス | もっともらしい誤りを出す（ハルシネーション）か、データの偏りで出力が偏る（バイアス）か |
| バイアスと自動化バイアス | AI の出力の偏り（バイアス）か、人が AI を信用しすぎる傾向（自動化バイアス）か |
| ファクトチェックと妥当性レビュー | 個々の事実・数値・出典を確かめる（ファクトチェック）か、前提・論理・抜け漏れを見る（妥当性レビュー）か |
| 要配慮個人情報と機微情報 | 個人情報保護法の用語（要配慮個人情報）か、金融分野の指針の用語（機微情報）か |
| 個人情報と匿名加工情報 | 個人を特定できる（個人情報）か、特定できないよう加工し元に戻せない（匿名加工情報）か |
| 肖像権とパブリシティ権 | 顔や姿を勝手に使われない（肖像権・人格的な利益）か、著名人の顧客を引き寄せる力（パブリシティ権・経済的な価値）か |
| 著作権と、特許権・意匠権・商標権 | 創作で自動的に発生（著作権）か、出願と登録で発生（特許・意匠・商標）か |
| AI法とAI事業者ガイドライン | 制度全体の骨格を示す（AI法）か、現場での実務的な指針を補う（ガイドライン）か |
この章の勉強の進め方
- 6つのまとまりの名前を覚え、用語を見たら「どのまとまりの話か」を言えるようにします。
- 権利や情報の用語は、「何を守るか」「どうすれば成立するか」を一言ずつ言えるようにします。
- 上の表の組み合わせを、何も見ずに一言で説明できるか確かめます。
- 問題を解いて、迷った用語をその日のうちに見直します。
ハルシネーションとバイアスは「ハルシネーションとバイアスの違い」でくわしく整理しています。勉強の全体の計画は「勉強時間の目安と1か月の計画」にまとめています。
この章の用語の違いをくわしく
第4章の問題を2問、解いてみる
もちこ道場の第4章の問題です。演習画面と同じ解説（図解・選択肢ごとの解説）を付けています。
問1
組織が許可や把握をしていない生成AIサービスや個人アカウントを、従業員が業務で利用してしまう状況を1と呼ぶ。悪意による情報の持ち出しだけでなく、業務効率を向上させたいという意識や社内に適切なAI環境が整備されていないことによっても発生しやすい。
答えと解説を見る
正解は 4（シャドーAI）です。
【概要】
組織が許可や把握をしていない生成AIサービスや個人アカウントを従業員が業務で使う状況がシャドーAIである。効率化への意識や、適切なAI環境の未整備でも起こりやすい。
【各選択肢の解説】
- 1. 自動化バイアスあなたの解答 自動化バイアスは、機械の結果を過信する人間の傾向であり、未承認サービスの利用状況を指す語ではない。
- 2. プロンプトインジェクションあなたの解答 プロンプトインジェクションは、入力で意図しない動作をさせる攻撃であり、従業員の未承認利用ではない。
- 3. オプトアウトあなたの解答 オプトアウトは、入力を学習対象から外す設定であり、未承認利用の状況を表す語ではない。
- 4. シャドーAI正解あなたの解答 シャドーAIは、組織が把握していない生成AIを業務で使う状況であり、本問の説明に当たる。
問2
個人情報保護法において、本人の人種、信条、病歴、犯罪歴など、公になることで不当な差別や偏見を受けるおそれが高い情報を1と呼び、取得や第三者提供には原則として本人の明示的な同意が必要とされる。
答えと解説を見る
正解は 1（要配慮個人情報）です。
【概要】
人種、信条、病歴、犯罪歴など、明らかになると差別や偏見の不利益を受けるおそれが高い情報が要配慮個人情報である。取得や第三者提供には、原則として本人からはっきりとした同意を得なければならない。
【各選択肢の解説】
- 1. 要配慮個人情報正解あなたの解答 要配慮個人情報は、差別や偏見につながりうる情報で、原則として本人の明示的な同意が必要となる。
- 2. 匿名加工情報あなたの解答 匿名加工情報は、個人が分からないよう加工し復元できないようにしたデータであり、差別につながる情報の区分ではない。
- 3. 限定提供データあなたの解答 限定提供データは、特定の相手に提供される蓄積データを指す不正競争防止法上の概念で、本問の情報区分ではない。
- 4. 営業秘密あなたの解答 営業秘密は、企業の秘密情報として保護される概念であり、個人の人種や病歴を扱う区分ではない。
第4章は約300問。いま解いた問題と同じ形で、選択肢ごとの解説と図解が付いています。まずは登録なしで、第1章の114問から解き方を試せます（第2章からはプランで解けます）。
よくある質問
法律の名前や制度は、細かく覚える必要がありますか？
条文を暗記する必要はありません。「個人情報保護法は何を守るか」「不正競争防止法で営業秘密に当たる条件は何か」のように、法律や制度の目的と、用語の意味を言葉で選べれば解けます。
「生成AIを使わない」という選択も、問われますか？
はい。人事評価や採用、安全に関わる最終決定のように、人の権利や安全に大きく影響する業務では、AIだけで処理させない判断が問われます。一律に禁止すると、許可のないツールを内緒で使う「シャドーAI」を招きやすい点も一緒に出ます。
第3章の AIエージェントのリスクとは、何が違いますか？
第3章は、エージェントが自分で動くことで起きる権限の過剰付与や連鎖的なエラーなど、エージェント特有のリスクです。第4章は、出力の誤り・情報漏えい・権利侵害など、生成AI全般を使う人が気をつけるリスクと、組織のルールです。
もちこ道場
章ごとの問題と本番形式の模擬試験で、合格の力を確かめる
2027年2月の試験からの新しいシラバスの全5章から作ったオリジナルの予想問題を、スマホ・PC で解ける Web 演習サービスです（運営者が作っています）。
500円
31日間・買い切り・自動更新なし
- 全5章 888問○
- 選択肢ごとの解説○
- 全問の解説に図解○
- 模擬試験（60問・60分）なし
1,000円
31日間・買い切り・自動更新なし
- 全5章 888問○
- 選択肢ごとの解説○
- 全問の解説に図解○
- 模擬試験（60問・60分）○
無料体験は登録不要です。
次に読む
記事の確認問題と同じく、選択肢ごとの解説と図解が付いた問題を、スマホ・PC で続けて解けます。
生成AIパスポートの第3章「AIエージェント」で問われる用語を、6つのまとまりと取り違えやすい組み合わせで整理しました。第3章の問題を2問、その場で解いて確かめられます。
生成AIパスポートの第5章「生成AIの実践と活用事例」で問われる用語を、6つのまとまりと取り違えやすい組み合わせで整理しました。第5章の問題を2問、その場で解いて確かめられます。
出題範囲は、2026年11月9日にGUGA（生成AI活用普及協会）の公式サイトで確認しました。用語の説明は、もちこ道場の問題と解説をもとにまとめたものです。