RAG と ICL（文脈内学習）の違い
外部の知識を検索するか、プロンプトに書き込むか

RAG とは

RAG（Retrieval-Augmented Generation）は、LLM が回答を生成するとき、外部の知識ベースから関連情報を検索し、その情報を参照しながら回答を生成する仕組みで、検索拡張生成とも呼ばれます。リアルタイムの Web 検索や専門のデータベースなどの外部知識と LLM を連携させ、LLM が事前学習で取り込んでいない最新の情報や、特定の専門知識にもとづく回答ができるようになります。

外部知識のデータベースには、単語の完全一致ではなく言葉の意味の近さで検索できるベクトル DBが、多く使われます。モデルを再学習させる必要がなく、外部のデータを更新するだけで新しい情報に対応できるのが利点です。ただし、回答は参照するデータの品質や検索の精度に左右されます。

ICL とは

ICL（インコンテキストラーニング、In-context Learning）は、プロンプトの内部に、タスクの遂行に必要な情報（制約・具体例・参照データなど）を含めて、モデルに提示する手法です。プロンプトエンジニアリングの一種で、AI に学習させたい追加情報や例文を、プロンプトに直接書きます。

LLM のモデル自体を再学習させる必要がなく、手軽に使えます。一方、プロンプトに入力できるトークン数には上限があり、上限に達するとそれ以上の情報は追加できません。

違いを表で比べる

試験での問われ方

モバイルシステム技術検定2級では、第10章「生成 AI と AI 活用」で出ます。もちこ道場の第10章の問題では、次のような問われ方をしています。

• 穴埋め（RAG）: 「リアルタイムの Web 検索や専門データベースなどの外部知識と LLM を連携させる代表的な手法」の空欄に RAG を選ぶ。選択肢には CNN・RNN・CoT が並びます。RAG の外部知識データベースとして多く使われ、意味の近さで検索できるものを問う穴埋めでは、ベクトル DB が答えです。
• 穴埋め（ICL）: 「プロンプトの内部に追加情報や具体例、制約などを直接記述する手軽なアプローチ」の空欄に ICL を選ぶ。選択肢には事前学習・強化学習・RAG が並びます。
• 組み合わせ: 「外部の知識ベースを検索して回答する [1] と、意味の近さで検索できる [2]」に RAG とベクトル DB を、「役割を指定するロールの明確化 [1] と、情報を書き込む [2]」にロールの明確化と ICL を選ぶ。
• 記述を選ぶ: 「RAG は既存の LLM を再学習させる手法である」「ICL は文字数やトークン数の上限なく、無限に情報を追加できる」「RAG は参照データの品質や検索精度に関係なく、常に100%の精度が出る」のような誤りを見抜く。

覚え方

• RAG は「探して、見ながら答える」、ICL は「書いて、渡して答えてもらう」と結び付けます。RAG は Retrieval（検索）で外部を探し、ICL は In-context、つまりプロンプトの中に書きます。
• 外部のデータベースが出てくれば RAG、プロンプトの中だけで完結すれば ICLです。ベクトル DB は RAG の道具です。
• どちらも再学習なしですが、再学習をするのはファインチューニングです。誤りの記述は、RAG を再学習の手法にしたり、ICL の上限をなくしたりしているので、そこを確かめます。

第10章のほかの用語は「第10章 生成AIとAI活用の要点」にまとめています。