メディア
AI エージェント

生成AIをオンプレミス・閉域・クラウドのどこで動かすか|5つの基準で決める置き場所

公開
執筆者: Offers AX 編集部・編集部

生成AIを動かす場所は、クラウドの法人向けサービス・自社専用のクラウド環境(閉域)・自社の設備(オンプレミス)の3つから、業務ごとに選ぶものです。選ぶ基準は、扱うデータの機密区分、法令や契約が求めるデータの置き場所、必要な性能と更新の速さ、運用を担う人、費用の増え方の5つ。

「機密が高いから自社設備」と一律に決めると、最新のモデルを使えない、機器とモデルの運用を自社で抱える、という別の問題が生まれます。多くの業務は、法人向けのクラウドで処理する地域と保存の有無を設定するか、閉域でつなげば条件を満たせるので、自社設備を検討するのは外部と通信しないことが規程や契約で求められる業務からで足ります。

O
執筆者

編集部

Offers AX 編集部

株式会社overflow が運営する Offers AX の編集部です。全社の AI 導入(AX)を支援する現場の知見をもとに記事を制作しています。

この執筆者の詳細・記事一覧 →

生成AIを動かす場所は、3つの選択肢に分けると比べやすい

生成AIの置き場所は、クラウドか自社設備かの二択ではなく、クラウドの法人向けサービス・閉域・オンプレミスの3つに分けると、違いがはっきりします。

1つ目のクラウドの法人向けサービスは、クラウド事業者が動かすモデルを、インターネット経由の API や法人契約のチャット画面で使う形です。準備が少なく、新しいモデルが出ればすぐ選べます。

2つ目の閉域は、自社が契約するクラウドのアカウントの中にモデルの呼び出し口を置き、インターネットを経由しない専用の接続でつなぐ形です。Microsoft のクラウドでは、プライベートエンドポイントで自社の仮想ネットワークから接続し、公開の入口を無効にできます(Microsoft「How to configure network isolation for Microsoft Foundry」2026年9月29日更新)。

AWS も、VPC のインターフェースエンドポイント(AWS PrivateLink)を作り、インターネットから届かない形で Amazon Bedrock につなぐ構成を案内しています(AWS「Amazon Bedrock User Guide」2026年11月2日時点)。

3つ目のオンプレミスは、自社のサーバー室やデータセンターに置いた機器でモデルを動かす形。外部と一切通信しない構成も取れる一方で、機器の調達からモデルの更新までを自社で担います。

「プライベート LLM」「ローカル LLM」という言葉は閉域とオンプレミスのどちらを指す場合にも使われるため、社内で議論を始める前にどちらの意味で使うかを揃えておくと、見積もりや規程の話が食い違いません。

判断の基準は5つで、最初に決めるのはデータの機密区分

置き場所は、次の5つの基準を上から順に確かめると決まります。機密区分を最初に置くのは、残り4つの答えが、入力するデータの種類によって変わるからです。

  1. データの機密区分: 公開情報・社内限定・個人データ・顧客から預かった機密など、業務で入力するデータの区分
  2. データの置き場所の制約: 法令・社内規程・顧客との契約が、処理する国や地域と保存の有無をどう定めているか
  3. 必要な性能と更新の速さ: 業務に要る回答の質と、新しいモデルへどれだけ早く切り替えたいか
  4. 運用を担う人: 機器・モデル・ネットワーク・監査ログの面倒を誰が見るか
  5. 費用の増え方: 使う量に比例して増えるか、最初に大きく払えば量が増えても変わらないか

3つの選択肢を5つの基準で比べると、次の表になります。

基準 クラウドの法人向けサービス 閉域(自社専用のクラウド環境) オンプレミス(自社設備)
機密区分 公開情報・社内限定の情報に向く。個人データは契約と設定の確認が前提 個人データや顧客の機密まで扱える構成を組める 外部と通信しない業務まで扱える
置き場所の制約 処理する地域を選べるが、設定によっては国外で処理される 地域の指定に加え、通信経路を自社のネットワークに限れる 国内・社内に置ける
性能と更新の速さ 新しいモデルを早く使える 新しいモデルを使えるが、閉域で使えない機能がある 自社設備で動くモデルに限られ、更新も自社で行う
運用を担う人 利用者の管理と設定が中心 クラウドのネットワークと権限を設計・運用する人が要る 機器・モデル・監視まで担う人が要る
費用の増え方 使った量に比例して増える 使った量に比例し、ネットワークの費用が加わる 最初に機器へ投資し、量が増えても容量の上限までは変わらない

表のうち、判断を分けるのは2行目と3行目です。以下の節で、それぞれを公式の資料で確かめます。

データの置き場所の制約は、学習・処理する地域・保存の3点で確かめる

法令や契約の制約を満たすかどうかは、「クラウド」「自社設備」という名前では決まりません。入力が学習に使われるか、どこで処理されるか、入力が残って誰かが見られるか、の3点が決め手です。

1点目の学習について、個人情報保護委員会は、個人データを含むプロンプトを生成AIサービスに入力する場合、提供する事業者がその個人データを機械学習に利用しないこと等を十分に確認するよう求めています(個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」2023年6月2日公表)。

主要なクラウドの法人向けサービスは、この点を公式の資料で約束済みです。Microsoft は、入力と出力をモデルの提供元に渡さず、基盤モデルの改善にも使わないと明記しています(Microsoft「Data, privacy, and security for Foundry Models sold by Azure」2026年5月18日更新)。Google も、事前の許可や指示なしに顧客のデータをモデルの学習に使わないという立場です(Google Cloud「Generative AI and data governance」2026年10月30日更新)。

2点目の処理する地域は、設定次第です。Microsoft の同じ資料によると、「Global」や「DataZone」と名の付く配置では、保存するデータは指定した地域に置かれる一方、処理はモデルが置かれた他の地域でも行われることがあります。

Amazon Bedrock にも、リクエストを複数の地域へ振り分ける機能に、地理的な範囲に限る種類と世界中へ振り分ける種類があり、データの置き場所に制約がある組織には前者を勧めています(AWS「Amazon Bedrock User Guide」2026年11月2日時点)。世界中へ振り分ける種類は費用がおよそ10%下がるとされ、費用と置き場所の制約が引き換えになる例です。

3点目は保存。不正利用の監視のため、入力と出力を一定期間保存し、人が確認する仕組みを各社が持っています。Microsoft は、監視の仕組みが不正の兆候を検知した場合に権限を持つ従業員が入力と出力を確認することがあり、申請して承認された顧客はこの保存と人による確認を外せると説明しています。

Amazon Bedrock の同じ資料では、一部の新しいモデル(2026年11月時点で Claude Fable 5 と Claude Fable 5.1)が、AWS による人の確認のために入力と出力を最長30日保持する設定を利用の条件にしており、保存しない設定のアカウントからはこれらのモデルを呼び出せない仕組みです。

外国のサーバーに個人データを保存するクラウドを使う場合は、その外国の制度を把握したうえで安全管理措置を講じ、サーバーが所在する外国の名称などを本人の知り得る状態に置く必要があります(個人情報保護委員会「個人情報の保護に関する法律についてのガイドライン」に関するQ&A 10-25・2026年11月2日時点)。

ここから分かるのは、置き場所の制約の多くが、処理する地域の固定・保存の停止・契約の確認で満たせることです。反対に、閉域でつないでいても、広い地域に振り分ける配置を選べば国外で処理されるので、閉域にしただけで制約を満たしたことにはなりません。個人データを入力してよい範囲の決め方は、生成AIに個人データを入力するときの決まりで整理しています。

性能と更新の速さを重く見るほど、自社設備は不利になる

業務に最新のモデルが要るほど、自社設備は選びにくくなります。理由は、自社設備で動かせるモデルの種類と、切り替えの速さに限りがあるためです。

Google は、規制やデータ主権の理由でデータを自社設備に置く必要がある組織は、これまで最新の AI を使えず、選べるのはオープンソースのモデルとツールだけで、機器とソフトウェアを自分たちで組み合わせる運用の負荷も抱えていたと説明しています(Google Cloud Blog「Bringing Gemini and Google Agentspace to you on-premises」2025年4月10日)。

同じ発表で Google は、自社のモデルを顧客の設備で動かす提供(Google Distributed Cloud 上の Gemini)を打ち出しており、自社設備でも事業者のモデルを使う道は広がりつつある状況です。とはいえ、どのモデルをいつ使えるかは事業者の提供予定に左右され、クラウドと同じ時期に同じモデルを選べるとは限りません。

閉域にも、使える機能の制約が残る点に注意が必要です。Microsoft Foundry をネットワークから切り離した構成では、AI エージェントが使う道具のうち、ブラウザの自動操作・画面操作(Computer Use)・画像生成が対応しておらず、Web 検索などの道具は公開のインターネットを経由すると明記されています(Microsoft「How to configure network isolation for Microsoft Foundry」2026年9月29日更新)。

性能の要求は、カタログの数字より、業務で実際に出る問いで測るのが確実です。業務の問いを評価用の問題として集め、候補のモデルと置き場所の組み合わせごとに回答を比べてから決めてください。AI エージェントを業務に入れるまでの流れはAI エージェント開発の進め方に、関連する記事はAI エージェントのカテゴリにまとめています。

運用を担う人と費用の増え方で、同じ機密区分でも答えが変わる

同じ機密区分のデータでも、運用を担える人がいるか、利用量がどれだけ伸びるかで、合う置き場所は変わります。

運用の範囲は、クラウド、閉域、オンプレミスの順に広がるのが基本です。オンプレミスでは、GPU を積んだサーバーの調達と保守、モデルの入れ替え、利用が増えたときの増設、監査ログの保管までを自社で担います。閉域でも、ネットワークの設計と権限の管理は自社の仕事です。

クラウドの法人向けサービスでも運用は残り、AWS は、クラウドの基盤を守るのは AWS で、利用者は自分のデータの管理とサービスのセキュリティ設定に責任を持つという分担を、Amazon Bedrock にも当てはめています(AWS「Amazon Bedrock User Guide」2026年11月2日時点)。

費用の増え方も置き場所で異なり、クラウドは使った量に比例して増え、使わない月の費用は小さく済みます。オンプレミスは最初に機器へ投資し、利用が少ない間は割高になる一方、容量の上限までは利用が増えても費用が大きく変わらない構造です。クラウドにも、処理の量をあらかじめ買う契約(Amazon Bedrock の Provisioned Throughput)があり、量が読める業務では固定費に寄せる選び方もできます。

試算では、月の利用件数の見込みを「少ない・想定・多い」の3通りで置き、置き場所ごとの費用を並べてください。費用の内訳の考え方はAI 開発の費用の内訳で扱っています。

「機密が高いから自社設備」と決めつけない

機密の高いデータを扱うことは、自社設備を選ぶ十分な理由になりません。理由は3つあります。

1つ目は、前の節で見たとおり、自社設備では使えるモデルが限られ、新しいモデルへの切り替えも遅れやすいことです。2つ目は、機器・モデル・監視を担う人を社内に置き続ける負荷です。担当者が異動すると、更新が止まった環境だけが残ります。

3つ目は、情報が漏れる経路が置き場所だけでは決まらないことです。社内の設備に置いても、AI に持たせる権限が広すぎたり、利用のログを見ていなかったりすれば、社内の別の部署や社外へ情報が出ます。経路ごとの止め方は生成AIの情報漏洩を防ぐ順番にまとめています。

それでも自社設備が合うのは、次の条件を満たす業務です。

  • 外部と通信しないことが、社内規程や顧客との契約で求められている
  • 工場や研究施設など、外部の通信を使えない場所で動かす必要がある
  • 同じ処理を長い期間、大量に回し続け、使うモデルを固定してよい

規程を厳しくしすぎて使える置き場所が無くなると、社員が私物のアカウントで生成AIを使い始めることもあります。会社が把握していない AI の利用(シャドー AI)を増やさないためにも、使ってよい置き場所を区分ごとに用意しておくことが大切です。

Offers AX は、お客様の環境に構築し、機密の高い業務は外部と通信しない構成で作る

Offers AX(株式会社overflow の AI 導入支援)は、AI エージェントとそれを動かす基盤を、原則としてお客様の既存の環境に構築します。GCP・Azure・AWS のいずれにも対応し、その理由はデータ主権・監査のしやすさ・特定の事業者に縛られないことの3点です。

当社の環境に顧客のデータを抱えず、契約が終わっても、作った資産はお客様の環境に残ります。機密の高い案件では、外部との通信をテレメトリ(利用状況の自動送信)まで止め、端末内の暗号化・アクセス制御・監査ログまでを設計に含めたうえで、必要に応じて端末の中で処理を完結させる構成を取ります。

進め方は、業務の現場に近い距離で戦略と実装を一体で進める FDE(Forward Deployed Engineer)型です。要件定義書より先に数週間で動くプロトタイプを作り、実際の業務で検証してから本実装に進むので、置き場所も比較表だけで決めず、候補の構成で性能と運用の負荷を確かめたうえで選べます。引き継ぎは最初から設計し、ドキュメントの整備と運用の体制づくりまで支援します。

Offers AX の支援内容を見る/無料相談を申し込む

置き場所は、業務ごとに機密区分を付けて割り当てる

置き場所は、業務ごとに機密区分を付け、区分ごとに割り当てます。会社で1つに決める必要はありません。次の表は割り当ての一例で、区分の名前と範囲は自社の規程に合わせて置き換えてください。

機密区分の例 置き場所の例 確かめること
公開情報・社外に出た資料の要約 クラウドの法人向けサービス 入力を学習に使わない契約か
社内限定の文書・議事録 クラウドの法人向けサービス(処理する地域を固定) 処理する地域・保存の期間
個人データ(従業員・候補者・顧客) 閉域(地域を固定し、保存と人による確認を外す申請をする) 外国の制度の把握・本人への情報提供
契約で外部通信が禁じられた顧客の機密 オンプレミス(外部通信を止めた構成) 更新と監視の担い手・費用の上限

区分を決めるときは、データの持ち主と使ってよい範囲を全社で揃える仕組み(データガバナンス)と同じ区分を使うと、規程が二重になりません。生成AIの利用規程全体の作り方はAI ガバナンスの進め方で扱っています。

置き場所を決めたら、契約と設定の6項目で確かめ、見直す時期を決める

置き場所を決めた後は、契約と設定が決めたとおりになっているかを、次の6項目で確かめます。どれも、閉域かクラウドかを決めただけでは自動で満たされない項目です。

  1. 学習への利用: 入力と出力をモデルの学習に使わないと、契約か規約に書かれているか
  2. 処理する地域: 広い地域に振り分ける配置や、地域をまたぐ振り分けを選んでいないか
  3. 不正利用の監視: 入力の保存と人による確認があるか、外す申請ができるか、使いたいモデルが保存を条件にしていないか
  4. 一時保存(キャッシュ): 処理を速くするための一時保存がどこに、どれだけ残るか
  5. AI エージェントの外への通信: 閉域の構成でも、Web 検索などの道具がインターネットへ出ていないか
  6. 監査ログ: 誰の入力をどこに保管し、何年残すか、誰が定期的に見るか

4つ目の一時保存は見落とされやすい項目です。Google の Vertex AI では、対応する Gemini のモデルで暗黙のキャッシュが既定で有効になっており、書き込みから24時間以内に消え、プロジェクト単位で止められるとされています(Google Cloud「Generative AI and data governance」2026年10月30日更新)。保存を一切認めない区分の業務では、この設定まで確かめてください。

確かめた結果は、業務・区分・置き場所・6項目の設定値を1行ずつ並べた台帳に残すと、監査や顧客からの問い合わせにそのまま答えられます。

置き場所の条件は、一度確かめても変わります。前の節で見たように、新しいモデルが保存を利用の条件にする例があり、規約や配置の選択肢も更新されるためです。見直す時期は、新しいモデルに切り替えるとき、事業者から規約の改定の通知が来たとき、扱うデータの区分が変わるときの3つに決めておきます。

担当の分け方の一例は、台帳と設定を情報システム部門、契約と規約の確認を法務、業務ごとの区分の付け直しを AI 推進の担当が持つ形です。社内で運用を引き受ける体制の作り方はAI 内製化の進め方にまとめています。

AI を全社の成果につなげる Offers AX

コンサルティング・AI エージェント開発・内製化支援の3本柱で、実装まで支援します。無料相談を受け付けています。

無料で相談する

Offers AX のサービスを見る

記事一覧へ