RAG（検索拡張生成）とは？仕組み・業務での使い道・作り方の選び方をわかりやすく解説

ChatGPT などの生成AIを仕事に使い始めると、すぐに壁に当たります。社内の規程や製品の仕様を聞いても、AIはその中身を知らないので、もっともらしい一般論か、事実と違う答えが返ってきます。そこで調べていくと「RAG」という言葉に行き当たり、社内の資料を読ませて答えさせる仕組みだと分かっても、何をどう作ればよいのかまでは見えにくいものです。

RAG（検索拡張生成）とは、質問のたびに社内の文書などから関係する箇所を探し、その箇所を生成AIに渡して答えさせる仕組みです。AIに社内のことを覚えさせるのではなく、毎回「調べてから答える」形にするので、文書を直せば答えも変わり、答えの根拠になった箇所も示せます。この記事では、RAGの仕組み、学習（ファインチューニング）との違い、業務での使い道、答えが外れやすい所、作り方の選び方を順に説明します。

RAG（検索拡張生成）とは

RAGは Retrieval-Augmented Generation の略で、日本語では検索拡張生成と訳されます。検索（Retrieval）で見つけた情報で、生成AIの文章づくり（Generation）を補う（Augmented）という意味です。

この呼び名は、2020年に発表された論文で広く知られるようになりました。論文では、モデルの中に覚えた知識だけで答える方法に対し、外の文書の索引から検索して引いてきた情報と組み合わせて答える方法として RAG を示しています（出典: Lewis ほか「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」（2020年5月））。

生成AIだけでは、社内のことに答えられない

生成AIは、公開されている大量の文章で学習したモデルです。一般的な知識や文章の組み立ては得意ですが、学習に使われていない社内の規程や手順書、取引先とのやり取りは知りません。知らないことを聞かれても、それらしい文章を作ってしまうため、間違いに気づきにくい点が業務では困りものです。

学習したあとに変わった情報にも答えられません。社内の規程は改定され、製品の仕様は版が上がり、担当者も入れ替わります。AIが答えるべき中身が変わり続ける業務では、覚えている知識だけに頼るやり方には限界があります。AIが間違える理由の全体は「AIの間違い（ハルシネーション）はなぜ起きる？」の記事でも整理しています。

RAGは「調べてから答える」

RAGは、AIに知識を足すのではなく、答える前に資料を調べる手順を足します。人に例えると、何でも暗記している人ではなく、聞かれるたびに社内の棚から該当する資料を開き、その箇所を読んでから答える人に近い形です。

この形には、業務で使ううえで大きな利点が3つあります。資料を差し替えれば次の質問から答えが変わること、答えの根拠になった資料と箇所を示せること、そして見せてよい資料だけを検索の対象にできることです。

RAGの仕組み｜答えるまでの流れ

RAGの処理は、前もって資料を取り込んでおく段と、質問が来たときに答える段の2つに分かれます。

前もって資料を取り込む

まず、答えの元にする資料（規程・マニュアル・過去の記録など）を集め、検索しやすい大きさに切り分けます。1つの資料を丸ごと渡すと長すぎるので、見出しや段落の単位で区切るのが一般的です。

切り分けた文章は、埋め込み（エンベディング）と呼ばれる処理で、意味を表す数字の並び（ベクトル）に変えて、データベースに入れておきます。こうしておくと、言葉が完全に一致しなくても、意味の近い箇所を探せるようになります。

質問が来たら、探して、渡して、答える

社員が質問すると、その質問も同じ方法でベクトルに変え、データベースから意味の近い箇所をいくつか探します。製品の型番や条文の番号のように、言葉そのものが一致することが大事な場面では、昔ながらのキーワード検索と組み合わせることもあります。

見つけた箇所は、質問と一緒に生成AIへ渡されます。このとき「渡した資料の範囲で答えること」「どの資料のどこを使ったかを示すこと」といった指示も添えます。生成AIは渡された箇所をもとに答えの文章を作り、利用者は引用を開いて元の資料を確かめられます。

RAGとファインチューニングなど、ほかの方法との違い

社内の情報をAIに使わせる方法は、RAGだけではありません。よく比べられるのは、モデルを追加で学習させるファインチューニングと、資料をそのままAIに添付して聞くやり方です。

ファインチューニングはモデルの中身を調整する方法で、答え方の型をそろえるのは得意ですが、改定が続く事実を覚えさせて正しく引き出させる用途には向きません。どの資料から来た知識かを示せない点も、業務では扱いにくいところです。社内の資料で答えるAIの土台はRAGで作り、言い回しのばらつきが気になったときに学習を足す、という順が手戻りの少ない進め方です。学習とRAGの違いは、社内のサーバーで動かす場合に絞って「ローカルLLMでRAGを組む」で詳しく比べています。

最近は一度に渡せる文章の量が大きい生成AIも増え、資料を全部まとめて渡せば検索は要らないのでは、という声もあります。数点の資料ならその方法で足りますが、部署の資料が数百、数千とある場合や、人によって見せてよい資料が違う場合は、質問ごとに必要な箇所だけを探して渡すRAGの考え方が引き続き役に立ちます。

RAGの業務での使い道

RAGが向いているのは、答えが社内のどこかの資料に書かれているのに、探すのに時間がかかる業務です。ここでは、たとえばこういう場面を考えてみます（いずれも想定の例です）。

どの使い道でも共通するのは、答えを決めるのはAIではなく資料だという点です。資料が古い、書かれていない、部署ごとに食い違っている、という状態のままRAGを入れても、AIはその資料どおりに答えます。業務日報や不具合の報告書を引けるようにする話は「日報AIの使い方」や「再発防止策の書き方」でも触れています。

RAGの答えが外れる5つの所

RAGを入れたのに答えが外れる、という相談の原因は、生成AIの性能より手前にあることが少なくありません。答えが外れるときは、次の5つの所のどこで止まっているかを順に見ていきます。

1. 資料そのものが無い・古い

答えが書かれた資料が取り込まれていなければ、どれだけ検索しても見つかりません。古い版と新しい版が両方入っていて、古い方を引いてしまうこともあります。どの資料を正とするかを決め、古い資料を外しておくのが先です。

2. 資料の切り方が合っていない

切り分けた単位が小さすぎると、条件と結論が別々の断片に分かれ、片方だけが見つかります。大きすぎると、関係の薄い文章まで一緒に渡され、答えがぼやけます。表や図の中身は、文字として取り出せていないこともあります。

3. 言葉が合わず、探せない

社員が使う呼び名と、資料に書かれた正式な名前が違うと、意味の近さで探しても届かないことがあります。製品の略称や社内の通称、部署ごとの言い回しは、言い換えの一覧を用意しておくと探しやすくなります。

4. 見せてよい資料の範囲が決まっていない

人事や経営の資料のように、読める人が限られる資料もあります。検索の段階で、質問した人が見てよい資料だけに絞らないと、AIが答えの中で中身を漏らしてしまいます。社外のサービスに資料を渡すときの注意は「ChatGPT・生成AIの情報漏洩はなぜ起きる？」、資料の中に紛れた指示でAIが操られる危険は「プロンプトインジェクションとは」で説明しています。

5. 資料にないことまで答えてしまう

探した箇所に答えが無いとき、生成AIが自分の知識で補って答えてしまうことがあります。資料に無いときは「資料には書かれていない」と返す指示を入れ、答えの中の引用が実際に渡した資料にあるかを確かめる仕組みを持たせると、外れた答えを減らせます。

RAGの作り方｜4つの選び方

RAGを自社で使う方法は、大きく4つに分かれます。どれが正解ということはなく、資料の量、見せてよい範囲、作った後に誰が面倒を見るかで選びます。

まずは手持ちの道具で小さく試し、答えられる質問と答えられない質問の傾向をつかむのがおすすめです。道具ごとにできることは「社内チャットボットを自作する前に」、全社で使う社内AIの作り方と進め方は「社内AIの構築方法」、社外に出せない資料を扱う場合は「ローカルLLMとは」で整理しています。すでに Microsoft 365 の Copilot を入れていて答えが弱いと感じている場合は、「Copilotが使えないと感じる理由」も参考になります。

どの作り方でも、入れて終わりにはなりません。RAGの答えの質を左右するのは、入れた後に「答えられなかった質問」を見て、資料を足したり直したりする流れがあるかどうかです。誰がその一覧を見て、誰が資料を直すのかを、作る前に決めておくと止まりにくくなります。社内でAIを使うときの決まりごとは「生成AIの社内ルールの作り方」にひな型を載せています。

自社に合うRAGの作り方を相談する

当社の相棒AIでのRAGの使い方

当社（株式会社デイワン）は、社内の資料で答えるAI「相棒AI」を開発・提供しています。相棒AIは、社内の資料を横断して検索するRAGを標準の機能にしており、回答の文章は Claude で作り、検索のための埋め込みには OpenAI のモデルを使っています。

作りのうえで大事にしているのは2つです。1つは、答えに引用を付け、渡した資料に無い引用は出さないこと。もう1つは、何が聞かれ、何に答えられなかったかを管理者が見られるようにし、足りない資料や古い資料の直しにつなげることです。資料を読ませて答えさせるだけなら、手軽な道具でも同じことができます。差が出るのは、入れた後に答えの質を上げていく運用を、仕組みとして回せるかどうかだと考えています。

まとめ

RAG（検索拡張生成）は、質問のたびに社内の資料から関係する箇所を探し、その箇所をもとに生成AIに答えさせる仕組みです。

• 生成AIだけでは社内のことを知らないため、RAGで「調べてから答える」形にする
• 処理は、資料を切り分けてベクトルにして入れておく段と、質問に近い箇所を探してAIに渡す段に分かれる
• 事実で答えるならRAG、言い回しをそろえるならファインチューニング。土台はRAGで作る
• 答えが外れるときは、資料・切り方・言葉・見せる範囲・資料外の補い、の5つの所を順に見る
• 作り方は資料の量と見せる範囲で選び、答えられなかった質問を見て資料を直す担当を決めておく

社内の資料で答えるAIを検討していて、どの作り方が合うか迷っている場合は、お気軽にご相談ください。

あわせて読みたい：AIエージェントとは？、Claudeの使い方

社内の資料で答えるAIについて相談する