生成AIの情報漏洩は、4つの経路に分けると止める場所が決まる
経路ごとに、止める場所が契約・設定・権限・確認の工程のどれになるかが違います。「生成AIは危ない」とひとまとめにすると、全部を禁止するか全部を許すかの二択になりがちです。経路に分ければ、どの部署が何を決めるかを割り振れます。
| 経路 |
何が起きるか |
主に止める場所 |
| 1. 入力が学習に使われる |
入力した文章がモデルの学習に使われ、別の利用者への応答に混ざりうる |
提供事業者との契約と管理者設定 |
| 2. ログや共有リンクから見える |
保存された会話の履歴や共有リンクを、見るはずのない人が見る |
管理者設定と運用 |
| 3. 連携した外部サービスに渡る |
AI に読ませたメール・文書・業務ツールを経由して、情報が社外へ送られる |
AI に持たせる権限と、持ち出しを止める仕組み |
| 4. 出力に別の人の情報が混ざる |
応答に第三者の個人情報や社外秘の情報が含まれ、それを社外へ出してしまう |
社外に出す前の確認の工程 |
経路1〜3は「入れた情報が外へ出ていく」流れで、経路4は「出てきた情報を外へ出してしまう」流れです。前者は契約と仕組みで、後者は人の確認で止めるのが基本になります。
入力した内容が学習に使われる経路は、契約と設定で止める
学習への利用は、利用者一人ひとりがどれだけ気を付けても防げません。決めるのは、提供事業者との契約と、管理者が持つ設定です。
個人情報保護委員会は、本人の同意を得ずに個人データを含むプロンプトを入力し、その個人データが応答の出力以外の目的で取り扱われる場合、入力した事業者が個人情報保護法の規定に違反することとなる可能性があるとしています。そのうえで、サービスを提供する事業者が個人データを機械学習に利用しないこと等を十分に確認するよう求めるのが、注意喚起の中心です。一般の利用者向けの留意点にも、入力された個人情報が機械学習に使われ、他の情報と統計的に結びついたうえで出力されるリスクが書かれています(個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」2023年6月2日公表)。
個人情報に限らず、社外秘の企画や顧客との取引条件も同じ経路で外へ出ます。契約と設定で確かめるのは次の4点です。
- 入力した内容を、事業者がモデルの学習に使うか。使わない設定は利用者ごとか、組織で一括か
- 入力と出力を事業者が保存する期間と、保存する国・地域
- 不正利用の監視などのために、事業者の担当者が入力を見ることがあるか
- 契約を解約したとき、保存されたデータが消えるか
個人情報を入れてよいかの法律上の論点(利用目的・提供と委託・要配慮個人情報)は、生成AIに個人情報を入れてよいかを整理した記事で詳しく扱っています。
利用ログや共有リンクから見える経路は、事業者側の不具合でも起きる
会話の履歴は事業者のサーバーに残るため、社内の設定が正しくても、事業者側の不具合で他人に見えることがあります。
OpenAI は、ChatGPT で一部の利用者に別の利用者の会話履歴のタイトルが見える不具合が、2023年3月20日に起きたと公表しています。同じ不具合により、特定の9時間に利用していた ChatGPT Plus 会員の1.2%について、氏名・メールアドレス・請求先住所・カードの種類と下4桁・有効期限が別の会員に見えた可能性もありました。原因は、外部のオープンソースのライブラリ(redis-py)の不具合です(OpenAI「March 20 ChatGPT outage: Here's what happened」2023年3月24日公表)。
この件から読み取れるのは、事業者の不具合は利用する企業の側では防げないという事実です。入れていない情報は、どんな不具合が起きても漏れません。後で書く「入力してよい情報の区分」が最後の守りになるのは、このためです。
共有リンクも同じ経路に入ります。会話を URL で共有する機能は、サービスと設定によっては、リンクを受け取った人がさらに社外のチャットやメールに転送すると、その先の人も開ける状態になりえます。管理者の側で決めておくのは次の3つです。
- 共有リンクの機能を止めるか、開ける人を社内のアカウントに限る
- 会話履歴を保存する期間を決め、退職や異動のときにアカウントを止める手順に組み込む
- 管理者がログを見られる範囲と、誰が見るかを決める
連携した外部サービスに渡る経路は、AI に持たせる権限で大きさが決まる
AI にメール・共有フォルダ・業務システムを読ませると、AI が読める範囲が、そのまま漏れうる範囲になります。
Microsoft は2025年6月、Microsoft 365 Copilot に AI へのコマンド注入の脆弱性があり、認証されていない攻撃者がネットワーク越しに情報を開示させられるとして、深刻度9.3(CVSS 3.1・Critical)の脆弱性情報を公開しました(Microsoft「CVE-2025-32711」2025年6月11日公開)。AI が読み込むメールや文書に紛れ込ませた指示に AI が従ってしまう攻撃が、プロンプトインジェクションと呼ばれる手口です。
利用する企業の側で決められるのは、AI が何を読めて、何を外へ送れるかです。
- 連携で読める範囲を、業務ごとに必要なフォルダ・メールボックスに絞る。全社のドライブを丸ごと読ませない
- AI がメールの送信・外部への書き込み・ファイルの共有を行う操作には、人の承認を挟む
- AIエージェントに渡すアクセス権の期限を短くし、使わなくなった連携は外す
社内文書を検索して答える AI(社内ナレッジの検索 AI)では、元の文書のアクセス権を引き継ぐかどうかも確かめてください。人事評価や給与の資料を検索の対象に入れたまま権限を引き継がないと、閲覧権限の無い社員の質問に、その中身を答えてしまいます。社外への漏洩ではなくても、社内で見せてはいけない人に見せる漏洩です。
AIの出力に別の人の情報が混ざる経路は、社外に出す前の確認で止める
出力に混ざった情報は、それを社外向けの資料やメールに貼った時点で漏洩です。
個人情報保護委員会は、生成AIの応答結果は確率的な相関関係に基づいて生成されるため、不正確な内容の個人情報が含まれるリスクがあるとしています(個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」2023年6月2日公表)。IPA の10大脅威も、AI が生成した結果を十分に検証せず鵜呑みにすることで生じる問題を、AI の利用をめぐるリスクの1つに挙げています。
確認の工程として決めておくのは次のとおりです。
- 顧客・取引先・求職者など社外に出す文書は、AI の下書きのまま送らず、人が読んでから出す
- 人名・社名・金額・日付は、元の資料と照らして確かめる。AI が補った固有名詞は消す
- 社内向けの検索 AI が答えた内容を社外の資料に使うときは、どの社内文書から来たかを確かめる
禁止だけでは、見えない利用が増えて止まらない
利用を一律に禁じても、使いたい業務が消えるわけではありません。会社が把握できない個人のアカウントへ、利用が移るだけです。
IPA が国内企業の情報システム・リスク管理・経営企画などの担当者に聞いた調査では、生成AIの業務利用について何らかのルールを定めている企業は52.0%でした。内訳は、利用を認めているのが25.8%、認めていないのが26.2%です。認めていない側のうち、一切の利用を禁じているのが16.3%、業務環境から生成AIを強制的に使えなくしているのが9.8%でした(IPA「企業における営業秘密管理に関する実態調査2024」n=1,200・2025年8月29日公表)。
ルールを定めている企業は約半数にとどまり、禁止を選んだ企業でも、技術的に使えなくしているのは一部です。規則を書いただけで、手元の個人のスマートフォンやアカウントからの利用まで止められるわけではありません。
政府の申合せは、組織の承認を得ずにクラウドサービスを使う「シャドーIT」について、規程に反するだけでなく、誰がどのように使用しているかなどの管理ができなくなるため、要機密情報の漏えい等のリスクを高めるとしています(デジタル社会推進会議幹事会「ChatGPT等の生成AIの業務利用に関する申合せ(第2.1版)」2025年3月25日公表)。生成AIで同じことが起きている状態を指す言葉が、シャドーAIです。
禁止で漏洩を止めたつもりでも、実際には見えない場所で使われ、ログも残らない状態を作ってしまうおそれがあります。使ってよい道具と使い方を会社が用意し、そちらに利用を集めれば、漏洩の経路は把握しやすくなります。
対策は、契約・区分・ログ・仕組みの順に積む
順番には理由があります。契約と区分を先に決めておかないと、ログを見ても何が違反かを判断できず、機械による検知も誤検知ばかりになるからです。
1. 法人向けの契約と設定で、学習と保存の条件を決める
最初に決めるのは、業務で使う生成AIの契約の形です。政府の申合せは、定型約款への同意だけで使えるサービス(約款型クラウドサービス)では、セキュリティ対策やデータの扱いについて特別な扱いを求められない場合が多いことから、要機密情報を取り扱うことはできないとしています。一方、個別契約に基づく利用では、リスク評価や入出力のログ取得などの条件を満たし、組織の承認を得たうえで、一部の機密性2情報まで扱えるとしています(デジタル社会推進会議幹事会「ChatGPT等の生成AIの業務利用に関する申合せ(第2.1版)」2025年3月25日公表)。
民間企業に置き換えると、社員が個人で規約に同意しただけのアカウントと、会社が契約して管理者設定を持つアカウントを分け、業務は後者に寄せる方針です。経路1・2で挙げた確認項目(学習への利用・保存期間・共有リンク・管理者ログ)は、この契約と設定の時点で決めておきましょう。
2. 入力してよい情報を、置き場所ごとに3つに区分する
次は、どの情報をどの環境になら入れてよいかを決める工程です。前出の IPA の調査でも、利用を認める企業の中に、外部の生成AIでは公開情報だけを扱ってよいとする企業(14.8%)と、組織内の閉じた生成AI環境ならすべての情報を扱ってよいとする企業(11.0%)があり、環境によって入れてよい情報を変える考え方が読み取れます。
| 区分 |
情報の例 |
個人のアカウント |
会社が契約した外部の生成AI |
自社の環境に置いた AI |
| 公開情報 |
自社のサイトに載せた内容、公表済みの資料 |
可 |
可 |
可 |
| 社内限り |
社内の手順書、会議のメモ、公表前の製品の一般的な説明 |
不可 |
可 |
可 |
| 機密 |
個人情報、人事評価、顧客との契約条件、未公表の決算・組織変更 |
不可 |
原則不可(契約と承認があれば個別に判断) |
可(アクセス権を引き継ぐ) |
区分は「入れてはいけないもの」の一覧より、「どこなら入れてよいか」の表にしたほうが、現場が迷わずに済みます。禁止の一覧だけを配ると、載っていない情報はすべて入れてよいと読まれてしまうからです。
機密の区分に入る業務は、データを社外に出さない構成で作る
人事や経営の情報のように、法人向けの契約でも外部に出せない業務では、AI の処理を自社の環境の中に置く構成を選ぶのが確実です。
Offers AX は、AI の処理基盤を原則としてお客様のクラウド環境(GCP・Azure・AWS)に構築し、当社の環境には顧客データを持たない方針です。クラウドの大規模言語モデルを使えない人事の案件では、貸与 PC の中で処理を完結させ、テレメトリを含む外部通信の無効化・端末内の暗号化・アクセス制御・監査ログまでを設計に含めました。戦略立案と実装を一体で進める FDE(Forward Deployed Engineer)型の進め方で、監査ログを含めた実際に動く仕組みまでを同じチームで作ります。契約が終わった後も、構築した資産はお客様の環境に残る形です。
Offers AX の支援内容を見る/無料相談を申し込む
区分を決めたら、ログで確かめ、持ち出しを機械で止める
対策の3つ目と4つ目は、決めたことが守られているかを確かめ、人の注意に頼らず守らせる仕組みです。
3. ログで、決めたことが守られているかを確かめる
契約と区分を決めたら、守られているかをログで確かめます。前出の政府の申合せも、個別契約で生成AIを使う条件の1つに、入力されたプロンプトと出力結果のロギングを行い、利用者からフィードバックを受ける仕組みを設けることを挙げています。
月に1度、情報システム部門が見る項目の例です。
- 会社が承認していない生成AIのサービスへの通信が、どの部署から出ているか
- 機密の区分に入る語(顧客名・人事評価・未公表の案件名など)を含む入力がないか
- AI と業務ツールの連携が増えていないか、権限が広がっていないか
- 共有リンクが発行されていないか
ログそのものが機密情報の塊になる点にも注意してください。ログを見られる人を限り、保存期間を決めておかないと、ログの置き場所が新しい漏洩の経路になります。
4. 情報の持ち出しを、機械で止める
最後に、決めたことを人の注意に頼らず守らせる仕組みを置きます。代表的なのは DLP(情報漏洩対策の仕組み=送る内容を検査し、決めた条件に合えば送信を止める)を、ブラウザや社内ネットワークの出口に置く方法です。承認していない生成AIへの送信を止めたり、マイナンバーやカード番号の形に合う文字列の入力を止めたりできます。AI の入出力に決まりを設ける考え方は、AIガードレールとも呼ばれます。
機械で止められるのは、形が決まった情報です。未公表の組織変更や交渉中の条件のように、文脈で機密になる情報は形では見分けられません。そうした情報は、2の区分と、区分を使う人への周知で守ることになります。4を先に入れて1〜3を後回しにした場合に起きるのは、何を止めるべきかが決まらないまま、業務を止める誤検知だけが増える事態です。
90日で進める順番と、部門ごとの持ち分
対策は一度に全部そろえる必要はありません。90日を3つの期間に分け、部門ごとに持ち分を決めて進めると、途中で止まりにくくなります。
| 期間 |
やること |
主に持つ部門 |
| 最初の30日 |
社内で使われている生成AIの洗い出し(アンケートと通信ログ)、業務で使う法人向けサービスの契約条件の確認 |
情報システム、法務 |
| 31〜60日 |
入力してよい情報の3区分の表を作り、部署ごとの業務の例を入れて配る。共有リンク・連携の管理者設定を決める |
AI 推進室・経営企画、情報システム、人事(人事情報の区分) |
| 61〜90日 |
月次のログ確認を始め、承認していないサービスへの送信と形の決まった機密情報の入力を機械で止める |
情報システム |
最初の30日で洗い出しをするのは、禁止や規則を書く前に、今どこで何に使われているかを知るためです。使われ方を知らないまま規則を書くと、現場の業務に合わない禁止が増え、見えない利用に流れます。
31〜60日の区分の表づくりには、人事部門を必ず入れてください。人事評価・健康情報・採用の選考情報は社内で最も機密度の高い情報の1つで、社内向けの検索 AI に入れたときの権限の扱いも、人事でなければ判断できません。
61〜90日に経営へ報告するのは、承認済みのサービスを使っている人の数、承認していないサービスへの通信の件数、機械が止めた送信の件数の3つです。承認済みのサービスの利用が増え、承認していないサービスへの通信が減っていれば、利用が見える場所に集まってきたと判断できます。
社内ルール全体の作り方は AIガバナンスの記事、全社の AI 導入の進め方は AX戦略のカテゴリにまとめています。情報漏洩の対策は、生成AIを使わせないための仕組みではありません。使ってよい道具と使い方を会社が先に用意し、そこに業務を集めるための仕組みとして組み立てるのが、AI 導入を前に進める近道です。