メディア
AI エージェント

RAG とファインチューニングの違いと選び方|生成AI に自社の情報を使わせる3つの方法の使い分け

公開
執筆者: Offers AX 編集部・編集部

生成AI に自社の情報を答えに使わせる方法は、質問と一緒に資料を渡す、RAG(検索拡張生成)で必要な箇所を検索して渡す、追加学習(ファインチューニング)でモデルそのものを調整する、の3つです。社内の規程や手順書のように中身が変わり、人によって見てよい範囲が違う情報を使うなら、多くの業務は検索して渡す方法から始めるのが順当でしょう。

追加学習は、知識を足すためではなく、文体や書式、分類の基準といった振る舞いをそろえたいときに検討するものです。Google Cloud は公式ブログで、指示の工夫から始めて足りない部分を検索や追加学習で補うよう勧めており、Microsoft の資料は、追加学習が最新の情報を得るための検索の代わりにならないと明記しています。

O
執筆者

編集部

Offers AX 編集部

株式会社overflow が運営する Offers AX の編集部です。全社の AI 導入(AX)を支援する現場の知見をもとに記事を制作しています。

この執筆者の詳細・記事一覧 →

3つの方法の違いは、自社の情報をいつモデルに渡すかにある

3つの方法の違いは、自社の情報を「質問のたびに渡す」か「質問に合わせて探してから渡す」か「事前にモデルへ学習させておく」かにあります。前の2つはモデルを変えずに使い、追加学習だけがモデルの中身を調整する方法です。

方法 仕組み 業務の例
質問と一緒に資料を渡す 資料の全文を質問に添えてモデルに渡す 契約書1通を添えて条項を要約させる
検索して渡す(RAG) 社内の文書を検索の索引に入れておき、質問に関係する箇所だけを探して渡す 就業規則や手順書から該当する箇所を探して答えさせる
追加学習(ファインチューニング) 入力と望ましい回答の組を用意し、モデルを追加で訓練する 問い合わせを決まった区分名で分類させる

Microsoft は追加学習を、学習済みのモデルを課題に固有のデータで追加の訓練をして適応させるもので、プロンプトに例を足すのではなくモデルの重みを調整するものだと説明しています(Microsoft「Fine-tuning in Microsoft Foundry」2026年10月更新)。

押さえておきたいのは、前の2つが「モデルが知らない情報を補う」方法で、追加学習が「モデルの振る舞いを変える」方法だという違いです。解きたい課題が情報の不足なのか、答え方のばらつきなのかを先に見分けると、選ぶ方法が絞れます。モデルに渡す情報の組み立て方は、用語集のコンテキストエンジニアリングで扱っています。

6つの観点で比べると、多くの業務は検索して渡す方法の条件を満たす

比べる観点は、更新の頻度、必要な正確さ、情報の持ち出し、費用の出方、戻しやすさ、閲覧権限の6つです。社内の情報を使う業務の多くは、情報が変わり、回答の根拠を示す必要があり、見てよい人が限られるので、検索して渡す方法の条件を満たします。

観点 質問と一緒に渡す 検索して渡す(RAG) 追加学習
更新の頻度 渡す資料を差し替えればすぐ反映される 索引の文書を差し替えれば反映される 反映には学習のやり直しと配置のし直しが要る
必要な正確さ 渡した資料の範囲で根拠を示せる 参照した文書を回答に添えられる 回答の根拠となる文書を示す仕組みは別に要る
情報の持ち出し 質問のたびに資料の全文がモデルへ送られる 文書は検索の基盤に置き、関係する箇所だけを送る 学習データが学習の環境へ渡り、その中身がモデルに残る
費用の出方 資料が長いほど、質問1件あたりの処理量が増える 索引の構築と運用の費用が加わる 学習と評価の繰り返し、学習済みモデルの配置の費用が加わる
戻しやすさ 渡す資料を変えればすぐ戻せる 索引から文書を外せば戻せる 元のモデルには切り替えられるが、直すには学習のやり直しになる
閲覧権限 資料を渡した人が見られるものに限られる 検索の時点で、質問した人の権限で絞る仕組みが要る 学習に入れた中身は、モデルを使える人の回答に出うる

この表は、以下の節で出所を示す各社の公式ドキュメントと OWASP の資料をもとに、編集部が観点ごとに整理したものです。

「情報の持ち出し」の行は、前の2つでも気を抜けません。クラウドの生成AI を使うかぎり、渡した資料や検索で見つけた箇所が提供元のサービスで処理される点は、どの方法でも同じです。どこでモデルを動かすかの決め方は、生成AIをオンプレミス・閉域・クラウドのどこで動かすかの記事にまとめています。

Google Cloud は指示の工夫から始める順を勧め、Microsoft は追加学習の限界を示している

Google Cloud は、まず指示の工夫(プロンプトエンジニアリング)と回答例を添える方法でモデルが業務の細かな違いをつかめるかを試し、そのうえで RAG や追加学習(SFT)に進むよう勧めています。指示の工夫は費用が低く手を付けやすい一方で、複雑な作業では安定しにくいこと、RAG には整った知識の置き場が要り、処理が1つ増えるぶん仕組みが複雑になり応答も遅くなることも併記されていました。これらの方法は互いに排他的ではなく、組み合わせて使われることが多いという説明です(Google Cloud「When to use supervised fine-tuning for Gemini」2024年10月)。

Microsoft は、追加学習が役立つ場面として、正確さと関連性の向上、プロンプトに書く例を減らしてトークンの費用と応答時間を抑えること、口調・書式・構造をそろえること、道具の使い分けの精度を上げること、小さいモデルを特定の作業に特化させることなどを挙げています。

同じ資料は、効果は保証されないので評価用のデータで元のモデルと比べること、追加学習には学習と配置の費用がかかり、最新の情報を得るための検索の代わりにはならないことも明記していました(Microsoft「Fine-tuning in Microsoft Foundry」2026年10月更新)。

2社の説明をもとに編集部が整理すると、試す順は「指示の工夫 → 資料を渡すか検索して渡す → 必要なら追加学習」です。Google Cloud は検索と追加学習を「どちらか、または両方」として並べており、その前後までは決めていません。検索を追加学習より先に置いたのは、費用が小さく、やり直しやすい方法から試すという編集部の考え方によるものです。最初に追加学習から入ると、学習データをそろえる手間と費用を払ったあとで「検索して渡せば足りた」と分かることになりかねません。

資料が少なく変わらないなら、質問と一緒に渡すだけで足りる

使う資料の量が少なく、1回の仕事で使う資料が決まっている業務なら、検索の仕組みを作らずに質問と一緒に渡すだけで足ります。Anthropic は、知識の置き場が20万トークン(資料にしておよそ500ページ)より小さければ、その全体をプロンプトに含めればよく、RAG のような方法は要らないと説明しています。

同じ記事では、よく使うプロンプトを提供元の側に一時保存する機能(プロンプトキャッシュ)で、応答時間が2倍以上短くなり、費用が最大90%下がるとしていました(Anthropic「Introducing Contextual Retrieval」2024年9月)。トークンは生成AI が文章を処理するときの単位で、詳しくは用語集のLLM のトークンにあります。

これは2024年9月時点の説明なので、扱える量や料金は使うモデルと契約の最新の資料で確かめてください。向いている業務の例は、契約書1通の条項の確認、提案書の下書き、1回の会議の議事録の要約です。

一方で、この方法には限界もあります。どの資料を渡すかを人が都度選ぶため、改定前の規程を渡してしまう誤りは仕組みで防げません。社員が個人の判断で社内資料を外部のサービスへ貼り付ける運用になれば、情報の持ち出しの管理も難しくなるでしょう。

全社で使うなら、渡してよい資料の区分と使ってよいサービスを社内のルールで決めておきましょう。決め方は生成AIの情報漏洩を防ぐ記事で扱っています。

社内の文書を広く使うなら、検索して渡す方法を基本にする

参照したい文書が多い、中身が定期的に変わる、回答の根拠を示したい、という条件のどれかを満たすなら、検索して渡す方法を基本に据えます。文書を差し替えれば次の質問から反映され、回答に参照した文書を添えられるので、利用者が原文で確かめられるからです。

根拠を確かめられることは、生成AI がもっともらしい誤りを答えるハルシネーションへの備えにもなります。

ただし、前の節で見た Google Cloud の説明のとおり、この方法は整った知識の置き場があることが前提です。改定前の文書や同じ話題の重複した文書が索引に残っていれば、検索がそれを拾い、古い内容の回答が返ります。

社内文書の多くは、表や画像を含む書式のそろっていない非構造化データで、そのままでは検索しにくい点にも注意が必要です。対象の文書を選び、更新の持ち主を決める手順は、AI のデータ整備の進め方の記事が詳しいので、索引に入れる前に読んでおくと手戻りを減らせます。

社内の問い合わせに答える仕組みとして作るなら、任せる問い合わせの選び方や人への引き継ぎも決めることになるはずです。設計の要点は社内 AI チャットボットを作る前に決めることの記事で扱っています。

閲覧権限が回答に反映されるかを、選定の条件に入れる

検索して渡す方法を選ぶなら、質問した人が見てよい文書だけが回答に使われるかを、製品や作り方を選ぶ条件に入れてください。この絞り込みが無いと、人事評価や給与の資料のように一部の人しか見られない文書の中身が、権限の無い人への回答に混ざります。

Microsoft の検索基盤 Azure AI Search の資料は、文書単位のアクセス制御を、RAG のアプリケーションや社内検索で文書ごとの認可の確認が要る場合に欠かせない機能と位置づけています。方法は4つで、2026年8月更新の時点では、利用者やグループの識別子を文字列で照合して結果を絞る方法のほかは、プレビュー(正式提供の前の段階)の扱いでした。

プレビューの機能はサービスレベル契約の対象外で、本番での利用は推奨されないとも書かれています。元のシステム(グループの所属や SharePoint の権限など)で権限を変えても、その情報が索引に同期されるまで検索結果には反映されない仕組みです(Microsoft「Document-Level Access Control - Azure AI Search」2026年8月更新)。

製品や開発会社を比べるときは、次の4点を確かめると、権限の扱いの違いが見えてきます。

確かめること 確かめる理由
回答を作る前の検索の時点で、質問した人の権限で絞るか 回答を作った後で隠す作りだと、権限の無い文書の中身が回答に混ざるおそれがある
元のシステムで権限を変えてから、検索に反映されるまでの間隔 異動や退職のあとも、前の部署の文書を読める期間が残る
権限の機能が正式提供かプレビューか(確認した日付つき) プレビューは本番での利用が推奨されず、仕様が変わることがある
文書を細かく分けて索引に入れたとき、分けた単位にも権限の情報が付くか 付かないと、分けた断片が権限で絞られない

4点目は、Azure AI Search の同じ資料でも、秘密度ラベルを使う構成で文書を分けた単位にラベルを付け直さないと絞り込みが働かないと注意されている点です。

追加学習の場合は、学習に入れた中身を文書ごとの権限で出し分けることを前提にできません。OWASP は、学習データへの不用意なデータの混入が機密情報の漏えいにつながる例を挙げ、学習の前にデータから利用者の情報を取り除くことと、最小権限の考え方で機密データへのアクセスを絞ることを対策に挙げています(OWASP「Top 10 for LLM Applications 2025」LLM02:2025 Sensitive Information Disclosure)。

学習に使うデータは、そのモデルを使える全員に見せてよい中身だけに絞ってください。

Offers AX は、お客様の環境で動くものを見ながら方法を選ぶ

Offers AX は、課題調査から AI エージェントの設計・構築、社内への引き継ぎまでを、戦略と実装を分けずに進める支援です。初回から動くものを出して数週間で試し、効果を確かめてから本実装に進むため、資料を渡すだけで足りるのか、検索の仕組みが要るのか、追加学習まで要るのかを、実際の社内文書と質問で比べてから決められます。

構築は原則としてお客様の環境(GCP・Azure・AWS)で行い、当社の環境には顧客データを抱えない方針です。検索の索引に入れる社内文書や権限の情報を社外へ預けずに済み、契約が終わっても作ったものはお客様の環境に残ります。引き継ぎのドキュメントの整備と社内の運用体制の設計も、支援の範囲です。

自社の情報をどの方法で生成AI に使わせるかを、対象の業務と文書の棚卸しから相談したい場合は、Offers AX のサービスページで進め方をご覧ください。試したい業務の候補が決まっているなら、無料相談を申し込むから日程を決められます。

追加学習は、情報ではなく振る舞いをそろえたいときに検討する

追加学習を検討するのは、答える中身ではなく、答え方の形をそろえたいときです。Google Cloud は追加学習(SFT)について、作業がはっきり決まっていて、正解の付いた質の高い例がそろっている場合に検討するよう勧めています。

学習させればプロンプトに長い指示を書かずに済むこと、出力の書式を決まった構造に合わせることや、簡潔に答えるか詳しく答えるかといった振る舞いを導けることを挙げる一方、リアルタイムのデータのように変わり続ける情報を扱う場面には向かない場合があると述べていました。追加学習は、元のモデルが既に持つ知識を引き出して磨くときに特に有効だという説明です(Google Cloud「When to use supervised fine-tuning for Gemini」2024年10月)。

業務に置き換えると、検討に値するのは次のような場面です。

  • 問い合わせや申請を、社内で決めた区分名のどれかで返させたい
  • 報告書や記録を、社内の書式と言い回しでそろえて書かせたい
  • 同じ作業を大量にこなすため、小さく安いモデルに特定の作業を任せたい

反対に、最新の規程の中身や商品の仕様を覚えさせる目的には向きません。変わるたびに学習し直すことになるうえ、回答の根拠を示しにくいからです。

運用の負担も見積もっておく必要があります。Microsoft は、追加学習を改善が保証された作業ではなく繰り返しの工程と位置づけ、学習・評価・配置・利用の費用を繰り返しの分まで見込むこと、業務のデータが変わったときや元のモデルが提供終了に近づいたときに品質を見直し、学習と配置をやり直す必要が出ることを挙げています。

学習の結果を、似た名前の別のモデルに使い回せない点も要注意です。学習を実行する場所によっては、データと学習結果が学習の行われる地域へ複製され、データの保管場所が保証されない選択肢もあるという注意書きもありました(Microsoft「Fine-tuning in Microsoft Foundry」2026年10月更新)。

追加学習に進む前に、次の3つを確かめてください。正解の付いた例を業務の担当者がそろえられるか。指示の工夫と検索して渡す方法だけの結果を、同じ評価の問題集で測ったか。元のモデルが提供終了になったとき、学習し直す担当と予算を持てるか。

製品の機能は確認した日付とともに記録し、同じ問題集で比べる

製品ごとの機能は短い期間で変わるので、選定の資料には確認した日付を必ず添えてください。この記事で見た Azure AI Search の権限の機能も、多くが2026年8月時点ではプレビューでした。

Microsoft Foundry の追加学習の資料(2026年10月更新)には、Global の学習(今いる地域の外の計算資源も使い、データと学習結果を学習の行われる地域へ複製する方式)を東日本リージョン(Japan East)のプロジェクトで使う場合、画像を含む追加学習は対象外という注記があります。

ただし Global の学習は、そもそもデータの保管場所を保証しない方式です。データを国内に置くことを条件にする会社は、Global で使えるかどうかではなく、作業する地域の中で学習してデータの保管場所を保証する Standard の学習が、使いたい地域とモデルで提供されているかを確かめる必要があるでしょう。

方法を比べるときは、業務の担当者と一緒に、実際に届く質問と正しい答えの組を集めた評価の問題集を先に作ります。同じ問題集で「資料を渡す」「検索して渡す」「追加学習」の結果を測れば、方法の違いを感覚ではなく正答の数で比べられるはずです。問題集と合格基準の作り方はAI エージェントの評価の進め方の記事、小さく試して本番に進むかを決める進め方はAI の PoC で止まらない進め方の記事にまとめています。

自社の情報を使わせる方法選びは、技術の新しさより、情報がどれだけ変わり、誰が見てよく、間違えたときに何を確かめるかで決まります。資料を渡すだけで足りる業務はそのまま始め、社内の文書を広く使う業務は検索と権限の絞り込みを整え、追加学習は振る舞いをそろえる必要が評価で確かめられたときに検討する。この順で進めれば、費用をかけたあとで方法を選び直す場面を減らせるでしょう。AI エージェントに関する他の記事は AI エージェントのカテゴリから読めます。

AI を全社の成果につなげる Offers AX

コンサルティング・AI エージェント開発・内製化支援の3本柱で、実装まで支援します。無料相談を受け付けています。

無料で相談する

Offers AX のサービスを見る

記事一覧へ