個人情報保護委員会の生成 AI 注意喚起とは、個人情報保護委員会が2023年6月2日に公表した、個人情報取扱事業者・行政機関等・一般の利用者が生成 AI サービスに個人情報を入力するときの注意点を宛先ごとに示した文書「生成AIサービスの利用に関する注意喚起等」のことです。
注意点は宛先を3つに分けて示されている
注意喚起は、個人情報取扱事業者・行政機関等・一般の利用者の3者に分けて、生成 AI サービスに個人情報を入れるときの注意点を挙げています。
文書は生成 AI サービスを「質問・作業指示(プロンプト入力)等に応えて文章・画像等を生成するAIを利用したサービス」と定義し、事業者と行政機関等には、これらの注意点も参考に、個人情報保護法の規律に従って個人情報を適正に取り扱うよう求めました。
| 宛先 | 示された注意点(要旨) |
|---|---|
| 個人情報取扱事業者 | ① 個人情報を含むプロンプトを入力するときは、特定した利用目的を達成するために必要な範囲内であることを十分に確認する |
| 個人情報取扱事業者 | ② 本人の同意なく個人データを含むプロンプトを入力し、そのデータが応答結果の出力以外の目的で取り扱われると、個人情報保護法に違反する可能性がある。入力するなら、提供事業者がそのデータを機械学習に利用しないこと等を十分に確認する |
| 行政機関等 | ① 個人情報を含むプロンプトの入力が、特定した利用目的のための必要最小限の利用・提供であることを十分に確認する |
| 行政機関等 | ② 保有個人情報が応答結果の出力以外の目的で取り扱われると、個人情報保護法に違反する可能性がある。提供事業者がそのデータを機械学習に利用しないこと等を十分に確認する |
| 一般の利用者 | ① 入力した個人情報が機械学習に使われ、他の情報と統計的に結びついたうえで、正確または不正確な内容で出力されるリスクを踏まえて判断する |
| 一般の利用者 | ② 応答結果に不正確な内容の個人情報が含まれるリスクを踏まえて判断する |
| 一般の利用者 | ③ 提供事業者の利用規約やプライバシーポリシー等を十分に確認し、入力する情報の内容等を踏まえて利用を判断する |
(個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」2023年6月2日公表)
ここでいう行政機関等とは、行政機関、地方公共団体の機関(議会を除く)、独立行政法人等、地方独立行政法人のことで、独立行政法人等と地方独立行政法人は一部が対象外です。全社で生成 AI を導入する民間企業に宛てられているのは、表のうち個人情報取扱事業者の2点です。
委員会は文書の中で、生成 AI サービスの開発・利用状況を引き続き注視し、追加の注意喚起等を行う可能性があることに留意するよう書いています。
事業者向けの2点は利用目的と学習への利用を確かめること
事業者に求められているのは、入力が利用目的の範囲内かを確かめることと、提供事業者が入力された個人データを機械学習に使わないこと等を確かめることの2つです。
1点目は、個人情報を取得したときに特定した利用目的に照らして、生成 AI への入力がその達成に必要な範囲内かを十分に確認することです。生成 AI を使うかどうかではなく、入力する個人情報がどの目的で取得されたものかが確認の起点になります。
2点目が対象にするのは、入力した個人データが応答結果の出力以外の目的で取り扱われる場合です。注意喚起は、本人の同意を得ないままそのような入力をすると違反の可能性があるとしたうえで、提供事業者が個人データを機械学習に利用しないこと等を十分に確認するよう求めました。
委員会は2023年8月に、この2点目の背景を1枚にまとめたフライヤーを出しています。副題は「個人情報がAIの学習データとして利用されていませんか?」です。
フライヤーによると、提供事業者が入力された情報を自らの AI の精度向上等のための学習データとして使うことにしている場合、利用者が個人データを入力すると、利用者から提供事業者へ個人データを提供したことになります。個人データを第三者に提供するときは原則としてあらかじめ本人の同意が要る、というのがフライヤーの挙げる規律で、根拠は個人情報保護法第27条・第28条です。
行政機関等に示されたのは、保有個人情報を原則として特定した利用目的のために利用・提供しなければならないという同法第69条の規律です。フライヤーは利用規約を確認するなどしたうえでサービスを利用するよう呼びかけ、学習への利用以外にも、利用目的の達成に必要な範囲内で個人情報を取り扱うなど法の規律に従う必要があると添えています(個人情報保護委員会「生成AIサービスの利用に関する注意喚起」2023年8月公表)。
同じ日に OpenAI へも注意喚起が出ている
委員会は注意喚起と同じ2023年6月2日に、ChatGPT を開発・提供する OpenAI, L.L.C. と OpenAI OpCo, LLC に対する注意喚起の概要も公表しました。注意喚起そのものは2023年6月1日付で、個人情報保護法第147条に基づいて行われています。
求めた内容は、要配慮個人情報の取得と、利用目的の通知等の2つです。
- 要配慮個人情報の取得: あらかじめ本人の同意を得ないで、ChatGPT の利用者と利用者以外の人を本人とする要配慮個人情報を取得しないこと(法第20条第2項各号に該当する場合を除く)
- 機械学習のための収集で行う4点: 収集する情報に要配慮個人情報が含まれないよう取り組む/収集後できる限り即時に減らす/それでも含まれていると分かれば、学習用データセットに加工する前に削除するか個人を識別できないようにする/本人や委員会等から特定のサイトや第三者から収集しないよう求められたら、拒む正当な理由が無い限り従う
- 学習に使わない選択をした入力: 利用者が機械学習に利用されないことを選んで入力した要配慮個人情報は、正当な理由が無い限り取り扱わないこと
- 利用目的の通知等: 利用者と利用者以外の個人の双方に、個人情報の利用目的を日本語で通知するか公表すること
(個人情報保護委員会「OpenAIに対する注意喚起の概要」2023年6月2日公表)
この概要も、委員会が現時点で明確に認識した懸念を踏まえたもので、新たな懸念を認識した場合は追加の対応を行う可能性があるとしています。宛先は提供事業者ですが、利用する企業にとっては、提供事業者が入力データの学習への利用をどう扱い、利用目的をどう知らせているかを読むときの手がかりです。
企業が社内のルールに落とすときの確認点
社内のルールに落とすときは、注意喚起が事業者に求めた2点と、利用者向けに挙げたリスクを、使う生成 AI サービスごと・業務ごとの確認項目にします。次の5つが、注意喚起とその後の委員会の資料から直接たどれる項目です。
- 入力してよい個人情報を利用目的で決める: 業務ごとに、入力する個人情報と、それを取得したときに特定した利用目的を書き出し、入力がその達成に必要な範囲内かを確かめる(事業者向けの①)
- 提供事業者が入力を機械学習に使わないことを確かめる: 利用規約・プライバシーポリシー・契約で、入力データを学習に利用しないこと等を確かめ、確かめた日と条項をサービスごとに記録する(事業者向けの②・利用者向けの③)
- 学習に使われるサービスに個人データを入れるかを決める: 学習データとして使われる予定のサービスへの入力は提供事業者への提供になり、原則として本人の同意が要るとフライヤーは説明している。同意を得る運用にするか、そのサービスには個人データを入れないかを決める
- 出力に含まれる個人情報の扱いを決める: 応答結果に不正確な内容の個人情報が含まれるリスクがある(利用者向けの②)。出力をどの業務の記録に使ってよいか、使う前に誰が確かめるかを決める
- データの保存先と適用される法令を確かめる: 委員会は後述の DeepSeek に関する情報提供で、データが保存されるサーバの所在国と、その国の法令が適用されることを留意点に挙げた。提供事業者のプライバシーポリシーで保存先を確かめる
1の利用目的に加え、要配慮個人情報や委託との関係まで含めた法の論点と、社内で決める項目の全体は、生成AIに個人情報を入れてよいか|個人情報保護法の3つの論点と社内で決める4項目 にまとめています。
2と3を満たす方法として、入力の前に氏名などを伏せる技術は用語ページの データマスキング、提供事業者が処理の後に入力と出力を保存しない取り決めは ゼロデータリテンション(ZDR) で扱っています。
Offers AX は、こうした確認を終えたうえで、個人情報を含む業務に AI を組み込む側を支援しています。AI エージェントはお客様の既存の環境(GCP・Azure・AWS)に構築し、当社の環境に顧客データを抱えないことが原則です。機密性の高い案件では、処理を貸与 PC の中で完結させ、テレメトリを含む外部通信を無効にしたうえで、端末内の暗号化・アクセス制御・監査ログまで設計に含めた構成も取ります。
AI の出力は下書き・参考情報の位置づけで、事実の認定や合否・処遇は人が判断する設計です。確認点の4で決める「出力を誰が確かめるか」を、試作の時点から仕組みに組み込めます。
支援の進め方は Offers AX のサービスページ にまとめています。個人情報を含む業務への AI の組み込みを相談したい場合は、無料相談を申し込む からどうぞ。
公表後に出た関連の資料は2つある
2026年11月15日に委員会のサイトで確かめた範囲では、注意喚起の後に出た生成 AI に関わる資料は、2023年8月のフライヤーと、2025年2月3日の「DeepSeekに関する情報提供」の2つでした。注意喚起のページには更新の記載が無く、委員会の注意情報の一覧で生成 AI に関わる掲載は、2023年6月の注意喚起と DeepSeek の情報提供の2件です。
フライヤーは、事業者と行政機関等に向けて、入力した情報が学習データとして使われる予定のサービスで課される規律を1枚にまとめたもので、詳しくは注意喚起のページを確認するよう案内しています。
DeepSeek に関する情報提供は、DeepSeek 社の生成 AI サービスについて、同社が公表するプライバシーポリシーの記載から留意点を示した資料です。サービスの利用に伴って同社が取得した個人情報を含むデータは中華人民共和国に所在するサーバに保存され、そのデータには同国の法令が適用される、という2点が挙がっています(個人情報保護委員会事務局「DeepSeekに関する情報提供」2025年3月5日更新・同年2月3日公表)。
社内のルールに日付や根拠を書き込むときは、その時点で委員会の注意情報の一覧を開き直し、新しい掲載が無いかを確かめてください。
AI事業者ガイドラインとは扱う範囲が違う
注意喚起が生成 AI サービスへの個人情報の入力に絞った文書であるのに対し、AI事業者ガイドラインは AI 事業者が参照する統一的な指針です。既存の AI 関連のガイドラインを統合・更新したもので、2024年4月19日に第1.0版が公表されました(総務省・経済産業省「AI事業者ガイドライン(第1.0版)」2024年4月19日公表)。
注意喚起は、事業者と行政機関等に、示した注意点も参考に個人情報保護法の規律に従って個人情報を取り扱うよう求める形で書かれています。個人情報の入力は注意喚起と個人情報保護法で、AI の開発・提供・利用の全体の進め方はガイドラインで確かめる、という使い分けです。
ガイドラインの位置づけと構成は用語ページの AI事業者ガイドライン、社内の利用ガイドラインのひな形は JDLA 生成AIの利用ガイドライン で扱っています。
関連する用語と記事
社内のルールに入れる項目と利用申請の流れは、生成AIの社内ガイドラインとガバナンスの作り方|入れる8項目・利用申請の流れ・見直しのきっかけ で整理しています。
入力した情報が社外に出る経路を4つに分けて対策を並べた記事は、生成AIの情報漏洩を防ぐ順番|4つの経路と、禁止に頼らず仕組みで止める対策 です。会社が把握しないまま社員が使う生成 AI の扱いは、用語ページの シャドー AI で扱っています。
全社の AI 戦略に関する記事は、AX 戦略のカテゴリ から読めます。