RAG(検索拡張生成)とは、AIが回答を作る前に、質問に関連する文書を検索し、見つかった内容を根拠としてAIに渡してから回答させる仕組みのことです。

この記事で分かること:

  • RAGの意味と、なぜ必要とされているのか
  • 「検索 → 付与 → 生成」の流れと、埋め込み・ベクトル検索の考え方
  • RAGのメリットと限界、ファインチューニングとの違い
  • 精度と安全を左右する、文書の整備と権限管理

この記事は仕組みの基礎を扱います。社内規程やマニュアルで実際に立ち上げる手順(ツールの選び方、運用、段階的な広げ方)は、社内規程・マニュアルを読み込ませて回答させるAIの作り方 で解説しています。

RAG(検索拡張生成)とは

RAG は Retrieval-Augmented Generation の略で、「検索(Retrieval)で補強(Augmented)された生成(Generation)」という意味です。2020年に発表された論文で、事前に学習したAIモデルと、文書を検索する仕組みを組み合わせる方法として示されました(出典:Lewis ほか "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks"(2020年))。

総務省と経済産業省の「AI事業者ガイドライン」も、AIが回答を導き出すときに、利用者の指示に加えて「RAG 等を介して外部知識を補完した情報」が使われると説明しています(出典:総務省・経済産業省「AI事業者ガイドライン(第1.2版)」(PDF))。いまでは、社内文書に答えるAIや、Webを検索して答える対話型AIなど、多くのサービスでRAGの考え方が使われています。

なぜRAGが必要なのか

ChatGPT、Claude、Gemini などの中心にあるLLM(大規模言語モデル)は、学習した時点までのデータをもとに文章を作ります。そのため、そのままでは次の3つの問題があります。仕組みの基本は LLM(大規模言語モデル)とは をご覧ください。

LLMだけで使う場合の問題 RAGで補えること
社内にしかない情報(規程、手順、過去の提案書)を知らない 社内の文書を検索して渡すため、社内固有の質問に答えられる
学習した時点より後の情報を知らない 文書を差し替えれば、最新の内容で答えられる
何を根拠に答えたかが分からない 検索した文書を出典として示せる

もう一つの理由が、ハルシネーション(もっともらしい誤り)への対策です。AI事業者ガイドラインも、RAGの活用などによって、ハルシネーションの抑制や根拠の透明性の向上が期待されているとしています。ハルシネーションの原因と対策の全体像は ハルシネーションとは で解説しています。

RAGの仕組み:検索 → 付与 → 生成

RAGは、質問を受けてから回答を返すまでに、次の3つの段階を踏みます。

段階 何をするか 経費精算の質問での例
1. 検索 質問に関連する文書の箇所を、あらかじめ用意した文書の置き場所から探す 「出張の日当はいくらか」という質問から、旅費規程の日当の条文を探す
2. 付与 見つかった箇所を、質問と一緒にAIへの指示に加える 「次の規程の抜粋をもとに答えてください」+条文+質問
3. 生成 AIが、渡された箇所をもとに回答を作り、出典を示す 規程の該当条文を示して、日当の額と条件を答える

この流れを動かすために、文書の側にも事前の準備があります。

文書を小さな単位に分ける(チャンク分割)

長い規程やマニュアルを丸ごと渡すと、必要な箇所が埋もれてしまいます。そこで、文書を見出しや段落ごとの小さな単位(チャンク)に分けて保存しておき、質問に合う単位だけを取り出します。見出しが整理された文書ほど、意味のまとまりで分けやすく、検索の精度が上がります。

埋め込みとベクトル検索:言葉の「意味」で探す

検索の方法には、大きく2つあります。

方法 仕組み 得意なこと 苦手なこと
キーワード検索 質問と同じ言葉を含む箇所を探す 製品番号、規程の名前、固有名詞 言い方が違う質問(「出張手当」と「日当」など)
ベクトル検索 文章の意味を数値の並び(ベクトル)に変え、意味が近い箇所を探す 言い方が違っても意味が近い箇所を見つける 型番のような正確な一致

文章を意味の近さで比べられる数値の並びに変えることを、「埋め込み(エンベディング)」と呼びます。意味の近い文章どうしは、数値の並びも近くなるように作られています。これにより、「出張したときの手当」という質問から、「日当」と書かれた条文を見つけられます。実際のサービスでは、キーワード検索とベクトル検索を組み合わせて使うことも多くあります。

RAGのメリットと限界

メリット 限界
モデルを学習し直さずに、社内の情報で答えられる 検索で正しい箇所が見つからなければ、正しく答えられない
文書を更新すれば、回答もすぐに変わる 文書そのものが古い・誤っていれば、誤った回答になる
回答の根拠(出典)を示せる 出典を示しても、要約の段階で読み違えることがある
文書ごとに閲覧できる人を分けられる 権限の設定を誤ると、見せてはいけない文書が回答に使われる

AI事業者ガイドラインは、RAGを使うと回答が似通ったものに収束しやすくなる可能性があり、多様性や独創性が求められる業務にはRAGが適切でない場合があるとも指摘しています。RAGは「決まった答えが文書に書かれている質問」に向いた仕組みであり、企画のアイデア出しのような用途とは使い分けます。

ファインチューニングとの違い

社内の情報をAIに使わせる方法として、RAGとよく比べられるのが「ファインチューニング」です。ファインチューニングは、追加のデータでAIモデル自体を学習させ、振る舞いを調整する方法です。

観点 RAG ファインチューニング
何を変えるか AIに渡す情報(モデルは変えない) AIモデル自体(追加で学習させる)
情報の更新 文書を差し替えるだけでよい 学習し直しが必要
根拠の提示 検索した文書を示せる 回答の根拠を示しにくい
向いている用途 社内規程・マニュアル・製品情報など、事実に基づく回答 決まった文体・形式・分類の仕方を一貫させる

社内文書への質問に答える用途では、多くの場合、まずRAGから検討します。

精度と安全を左右する準備:文書の整備と権限管理

RAGの回答の質は、AIの性能より、検索される文書の質で決まります。準備のポイントを、仕組みとの関係で整理します。具体的な整え方の手順は 社内規程・マニュアルを読み込ませて回答させるAIの作り方 にまとめています。

準備 仕組みとの関係
最新版だけを置き、古い版や下書きを外す 検索は古い版も同じように拾うため、版が混在すると誤った根拠で答える
1文書1テーマにし、見出しを付ける チャンク分割と検索が、見出しの単位でうまく働く
用語を揃える(社内の呼び方と正式名称) 言い方の違いによる検索漏れを減らす
文書の冒頭に改定日と所管部署を書く 出典として示されたとき、利用者が新しさと問い合わせ先を確認できる

権限管理:見られる人にだけ、見られる文書で答える

社内文書には、全社員が見てよいものと、一部の人だけが見てよいもの(人事評価、役員会資料、顧客との契約など)があります。RAGでは、「質問した人が閲覧できる文書だけを検索の対象にする」ことが基本です。

権限の確認が甘いと、本来は見られない文書の内容が、AIの回答を通じて伝わってしまいます。導入の前に、全社員が閲覧できる状態になっている文書を棚卸しし、置き場所とアクセス権を見直します。

精度の確かめ方:「検索」と「生成」を分けて見る

RAGの回答が誤っていたときは、どの段階で誤ったのかを分けて調べると、直し方が分かります。

誤りの段階 起きていること 主な直し方
検索の誤り 正しい箇所が検索で見つからなかった、または別の箇所を拾った 文書の見出しや用語を整える。チャンクの分け方や検索方法を見直す
文書の誤り 検索は正しいが、文書の内容が古い・曖昧・矛盾している 文書の側を直す。所管部署が改定する
生成の誤り 正しい箇所を渡したのに、AIが読み違えた、または書かれていないことを補った 「渡した箇所だけで答える」「記載がなければそう答える」と指示する

確かめるには、よくある質問と「正解が書かれている文書と箇所」の対応表を、10〜20問ほど用意しておきます。回答と一緒に、AIがどの箇所を根拠にしたかを表示させれば、検索が正しかったかどうかを質問ごとに確認できます。文書や設定を変えたときも、同じ質問で精度を測り直します。

RAGとAIエージェント

最近は、AIエージェントがRAGの考え方を発展させた使い方をしています。人が決めた手順で一度だけ検索するのではなく、AI自身が「何を検索すべきか」を考え、複数の文書やWebを何度も調べ、結果を突き合わせてから答えをまとめます。AIエージェントの考え方は AIエージェントとは で解説しています。

ただし、AIが自分で集める情報が増えるほど、どの情報を根拠にしたかを人が確かめられる形にしておくことが重要になります。出典を残させる、読んでよい文書の範囲を決める、といった設計は、RAGでもAIエージェントでも共通です。

当社の支援

社内規程や業務マニュアルを読み込ませ、社員の質問に根拠つきで答えるAIを立ち上げたい場合は、社内規程・マニュアルQAの導入支援 をご覧ください。すでに契約している Microsoft 365 Copilot・Gemini・Claude などを使い、元の文書の整理、誤った回答を防ぐ設計、評価、運用と更新の仕組みまでを伴走します。

推進担当や一般従業員が、AIへの質問の型と回答の確かめ方を身につける研修は 階層別・テーマ別研修 で提供しています。自社の文書の状態から、どこから始めるべきかを整理したい場合は、無料相談 からお問い合わせください。

よくある質問

RAGを使うと、社内文書がAIの学習に使われてしまいませんか?
RAGの仕組み自体は、文書でAIのモデルを学習させるものではなく、質問のたびに検索した文書の一部を指示と一緒に渡すものです。ただし、渡した内容を提供事業者がどう扱うかは、使うサービスと契約・設定によって異なります。法人向けのプランで、入力した内容が学習に使われない設定になっているかを、導入前に確認してください。
RAGを作るには、専門のエンジニアが必要ですか?
最初の段階では必ずしも必要ありません。Microsoft 365 Copilot、Google の NotebookLM、Claude のプロジェクト機能など、文書を置く・アップロードするだけでRAGと同様の使い方ができるサービスがあります。独自のシステムとの連携、細かな権限制御、利用状況の分析が必要になった段階で、開発を検討するのが現実的です。
Excel の表や図の多い資料も、RAGで扱えますか?
扱えますが、文章中心の文書より精度が下がりやすい傾向があります。表は見出しの行と列の意味が分かる形に整え、図の中の文字や意味は本文にも書いておくと、検索と回答の精度が上がります。まずは文章中心の規程やマニュアルから始め、表や図の多い資料は評価用の質問で精度を確かめてから対象に加えることをおすすめします。