メディア
AX 戦略

生成AIに個人情報を入れてよいか|個人情報保護法の3つの論点と社内で決める4項目

公開
執筆者: Offers AX 編集部・編集部

生成AIに個人情報を入力してよいかは、2つの確認で決まります。1つは、入力がその個人情報について特定した利用目的の範囲に収まっているか。もう1つは、サービスを提供する事業者が、入力された個人データを応答の出力以外の目的(機械学習など)に使わないかです。個人情報保護委員会が2023年6月に出した注意喚起は、本人の同意なく入力した個人データが応答の出力以外の目的で取り扱われると、個人情報保護法に違反する可能性があるとしています。

病歴や健康診断の結果のような要配慮個人情報は、取得の時点から原則として本人の同意が必要になるため、ほかの個人情報より慎重な扱いが求められます。

社内では、入力してよい個人情報の区分、使うサービスの条件、本人への通知が要る場面、記録の4つを決めておくと、担当者が1件ずつ法務に問い合わせなくても入力の可否を判断できる状態を作れます。

O
執筆者

編集部

Offers AX 編集部

株式会社overflow が運営する Offers AX の編集部です。全社の AI 導入(AX)を支援する現場の知見をもとに記事を制作しています。

この執筆者の詳細・記事一覧 →

個人情報保護委員会の注意喚起は、利用目的と学習への利用の2点を確かめるよう求めている

注意喚起が企業に求めているのは、利用目的の範囲の確認と、サービス事業者が入力データを機械学習に使わないことの確認の2つです。個人情報取扱事業者に向けた注意点は次のとおりです(個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」2023年6月2日公表)。

  • 個人情報を含むプロンプトを入力する場合は、特定された利用目的を達成するために必要な範囲内であることを十分に確認する
  • あらかじめ本人の同意を得ずに個人データを含むプロンプトを入力し、その個人データが応答結果の出力以外の目的で取り扱われる場合は、個人情報保護法の規定に違反することとなる可能性がある。そのため、サービスを提供する事業者が個人データを機械学習に利用しないこと等を十分に確認する

同じ資料は一般の利用者に向けて、入力された個人情報が機械学習に使われ、他の情報と統計的に結びついたうえで、正確または不正確な内容で出力されるリスクがあると述べています。利用規約やプライバシーポリシー等を十分に確認し、入力する情報の内容を踏まえて利用を判断するよう求めており、この部分は企業がサービスを選ぶときの確認項目にもそのまま使えます。

注意喚起は新しい義務を設けるものではなく、生成AIを使う場面でも個人情報保護法の規律に従って個人情報を適正に取り扱うよう求める位置づけです。論点は、利用目的、サービス事業者による取扱い、要配慮個人情報の3つに分けると、どの部署が何を確かめるかが見えてきます。

論点1は、入力が特定した利用目的の範囲に収まっているか

生成AIへの入力も個人情報の取扱いの1つなので、最初に確かめるのは、その個人情報を集めたときに特定した利用目的の範囲に入るかどうかです。

個人情報保護法第17条第1項は利用目的を「できる限り特定しなければならない」と定め、第18条第1項は、あらかじめ本人の同意を得ないで、特定した利用目的の達成に必要な範囲を超えて個人情報を取り扱うことを禁じています。問われるのは生成AIを使うかどうかではなく、生成AIで行う処理が利用目的と対応しているかどうかです。

たとえば、問い合わせへの回答のために取得した問い合わせ内容を、返信文の下書きを作るために生成AIへ入力する場合は、目的と処理の対応を説明しやすいでしょう。一方で、同じ問い合わせ履歴をまとめて入力し、顧客の傾向分析や営業先の一覧づくりに使うなら、公表している利用目的に分析や営業活動が含まれているかを確かめる必要があります。

利用目的に無い処理を始めたいときに問題になるのは、変更できる範囲です。第17条第2項は、変更前の利用目的と関連性を有すると合理的に認められる範囲を超えて利用目的を変更してはならないと定め、第21条第3項は、変更した利用目的を本人に通知するか公表するよう求めています。その範囲を超える処理なら、第18条第1項に戻って本人の同意が必要です。

実務では、自社のプライバシーポリシーと従業員向けの個人情報の取扱規程に書いた利用目的の文言を、生成AIで行いたい処理の一覧と並べて照合するところから始めます。照合の結果は、後で決める「本人への通知が要る場面」の材料にもなるので、一覧は残しておきましょう。

論点2は、サービス事業者が入力データをどう扱うかで、提供と委託の見方が変わる

外部の生成AIサービスに個人データを入れたとき、それが第三者への提供か、委託か、どちらでもないかは、サービス事業者がその個人データを取り扱うことになっているかどうかで分かれます。

個人情報保護法第27条第1項は本人の同意を得ないで個人データを第三者に提供することを原則として禁じており、クラウドサービスの利用について個人情報保護委員会のQ&Aは、保存している電子データに個人データが含まれているかどうかではなく、サービス事業者が個人データを取り扱うこととなっているかどうかが判断の基準になるとしています。取り扱わないこととなっている場合の例は、契約条項でサーバに保存された個人データを取り扱わない旨が定められ、適切にアクセス制御を行っている場合です(個人情報保護委員会「「個人情報の保護に関する法律についてのガイドライン」に関するQ&A」Q7-53)。

この回答は生成AIに限ったものではありませんが、外部のサービスに個人データを預けるときの判断の基準として、生成AIサービスを選ぶ場面にも使えます。サービス事業者の扱い方ごとに整理すると次のようになります。

サービス事業者の扱い 法の見方 利用する企業がやること 根拠
個人データを取り扱わない定めがあり、アクセス制御もされている 個人データを提供したことにはならず、本人の同意は不要。委託先としての監督義務もない 自社が果たすべき安全管理措置として、適切な措置を講じる Q&A Q7-53・Q7-54
応答を出力するために個人データを取り扱う 利用目的の達成に必要な範囲内の委託に伴う提供なら、提供を受ける者は第三者に該当しない 委託先の監督として、委託先の選定・委託契約の締結・取扱状況の把握を行う 第27条第5項第1号・第25条・ガイドライン(通則編)3-4-4
応答の出力以外(機械学習など)にも取り扱う 委託先は委託された業務以外に個人データを取り扱えない。本人の同意なく入力すると違反の可能性がある 学習に使わない設定・契約に切り替えるか、個人データを入力しない ガイドライン(通則編)3-6-3・注意喚起

3行目の状態を避けるために、サービスを選ぶときに確かめるのは4点です。入力データを学習に使うかどうか、使わない設定が会社の契約で固定されているか、入力データを事業者が保存する期間、事業者の側で誰がどんな条件で入力データを見られるか、です。

従業員が個人のアカウントで使う無料のサービスは、これらの条件を会社が確かめられず、設定も管理できません。会社が承認していないサービスを使う状態(シャドーAI)を減らすことが、個人情報の論点でも出発点になります。

論点3は、要配慮個人情報の取得に原則として本人の同意が要ること

要配慮個人情報は、取得の時点で原則として本人の同意が必要な個人情報で、社内ルールでは「原則として入力しない」区分に置くのが扱いやすいでしょう。

個人情報保護法第2条第3項は、本人の人種、信条、社会的身分、病歴、犯罪の経歴、犯罪により害を被った事実その他、本人に対する不当な差別や偏見などの不利益が生じないよう取扱いに特に配慮を要する記述等が含まれる個人情報を、要配慮個人情報と定めています。政令はこれに加えて、心身の機能の障害があること、健康診断その他の検査の結果、その結果や病気・けがを理由に診療や調剤が行われたこと、刑事事件や少年の保護事件の手続が行われたことを挙げています(個人情報保護委員会「個人情報の保護に関する法律についてのガイドライン(通則編)」2-3)。

第20条第2項によれば、法令に基づく場合などを除き、あらかじめ本人の同意を得ないで要配慮個人情報を取得することはできません。

個人情報保護委員会は、2023年6月の注意喚起と同時に、ChatGPTを提供するOpenAIに対しても、本人の同意を得ないで要配慮個人情報を取得しないよう注意喚起を行いました。機械学習のために集める情報に要配慮個人情報が含まれないよう取り組むことや、利用者が機械学習に利用されないことを選んで入力した要配慮個人情報を、正当な理由がない限り取り扱わないことを求めています(個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」別添2・2023年6月2日公表)。

所管の委員会が見ているのは、プロンプトから入った要配慮個人情報が、サービス事業者の側でどう扱われるかという点です。企業の側では、要配慮個人情報を「入力しない」区分に置き、産業保健のように業務上どうしても必要な場面だけ、個人データを取り扱わない定めのあるサービスに限って個別に承認する形にしておくと、判断を現場に残さずに済みます。

社内で決める4項目は、入力区分・サービスの条件・本人への通知・記録

3つの論点を社内ルールに落とすと、決める項目は次の4つです。

項目 決めること 関わる規律
入力してよい個人情報の区分 「入力しない」(要配慮個人情報など)、「条件付きで入力してよい」(顧客や従業員の氏名・連絡先を含むデータ。会社が承認したサービスで、利用目的の範囲に限る)、「制限なし」(個人情報を含まないもの)の3区分と、業務ごとの例 第18条第1項・第20条第2項
使うサービスの条件 入力データを学習に使わないこと、保存期間、事業者の側のアクセス制御、契約の条項。条件を満たすサービスの一覧と、一覧に載せる前に確かめる人 注意喚起・Q&A Q7-53・第25条
本人への通知が要る場面 利用目的に無い処理を生成AIで始めるときに、通知・公表で足りるか、同意が要るかを判断する窓口と手順 第17条第2項・第18条第1項・第21条第3項
記録 どの業務で、どのサービスに、どの区分の個人情報を入力するか。委託先の取扱状況を確かめた日と中身 第25条・ガイドライン(通則編)3-4-4

4項目を一度に全業務へ広げる必要はありません。個人情報が多く入る業務(顧客対応・人事・営業)から順に区分と例を決め、個人情報を含まない用途は「制限なし」として先に使い始めてもらうと、ルールが利用を止めるだけのものにならずに済みます。全社のAI利用の決め方はAIガバナンスの記事、データの管理全体の考え方はデータガバナンスの用語解説を参照してください。

区分や記録を人の注意だけに頼ると、忙しい時期ほど抜けが出るため、生成AIを業務の仕組みに組み込むなら、入力の前に氏名や要配慮個人情報の項目を伏せる処理、承認したサービスだけに接続する設定、入力と出力の記録を残す処理を、作る時点で業務の流れに入れておくのが確実です。

Offers AX は、業務に合わせたAIエージェントの設計・構築を、要件定義書ではなく動くものを見ながら合意して進める支援です。構築はお客様の既存環境で行い、当社環境に顧客データを抱えない方針で、アクセス制御や監査ログまで設計に含めているので、個人データを社外に預ける範囲を小さくしたまま、生成AIを業務に入れられます。

Offers AX のサービス内容を見る

入力区分の決め方や、個人情報を伏せる処理を自社の業務にどう組み込むかは、無料相談を申し込むから個別にご相談いただけます。

人事データは要配慮個人情報が混ざりやすいので、入力前に項目を外す

人事の業務で扱うデータには、政令が挙げる要配慮個人情報の記述が混ざりやすく、入力前にその項目を外す手順が欠かせません。

健康診断の結果、休職の理由になった病歴、障害の有無は、いずれも要配慮個人情報の記述に該当します。表の項目として分かれていれば外しやすい一方で、面談記録、評価コメント、休職・復職の経緯のような自由記述には、本人の体調や通院の話が文中に入り込みがちです。評価コメントの要約や面談記録の整理に生成AIを使うなら、入力前に要配慮個人情報の記述を除く担当と方法を決め、従業員向けの取扱規程にある利用目的に人事評価や配置の検討が含まれているかも確かめておきます。

応募者の書類も同じ考え方で整理できます。採用選考のために取得した履歴書や職務経歴書を、選考のために要約する使い方は、目的との対応を説明しやすいでしょう。不採用になった人の書類を別の求人の候補探しに使うなら、応募時に示した利用目的にその使い方が含まれているかを先に確かめる必要があります。人事業務のどこからAIを使うかは、人事業務でAIを使う10領域の記事で整理しています。

2026年7月に公布された改正法は、施行までは現行法で判断する

個人情報保護法は2026年7月10日に改正法が成立し、7月17日に公布されましたが、施行は一部を除き公布日から2年以内で政令が定める日からで、いま社内ルールを作るときの判断は現行法によります(個人情報保護委員会「「個人情報の保護に関する法律等の一部を改正する法律」の公布について」2026年7月17日公表)。

改正の中身のうち生成AIに関わるのは次の2つです(個人情報保護委員会事務局「個人情報保護法等の一部を改正する法律について」2026年7月公表)。

  • 個人データ等の第三者提供と、公開されている要配慮個人情報の取得について、統計情報等の作成(統計作成等であると整理できるAI開発等を含む)にのみ利用される場合は本人の同意を不要とする
  • データ処理等の委託を受けた事業者について、委託された個人データ等の適正な取扱いに係る義務を見直す

1つ目は統計作成等に限った特例で、業務で顧客や従業員の個人データを入力して個別の回答を得る使い方がどう扱われるかは、これから示される政令・規則・ガイドラインで確かめる必要があります。個人情報保護委員会は、円滑な施行に向けて政令・規則・ガイドライン等の検討を続けるとしています。2つ目は、論点2で見た委託先の扱いに関わる見直しです。社内ルールには見直しの時期を書き込み、ガイドラインが出た時点で4項目を点検できるようにしておきましょう。

最初に手をつけるのは、利用目的の照合・サービスの洗い出し・要配慮個人情報の区分

4項目を決める前の着手点は次の3つです。

  1. プライバシーポリシーと従業員向けの取扱規程の利用目的を、生成AIで行いたい処理の一覧と照合する
  2. 社内で使われている生成AIサービスを洗い出し、入力データを学習に使うか、取り扱わない定めとアクセス制御があるかを、利用規約と契約で確かめる
  3. 要配慮個人情報を「入力しない」区分に置き、例外として認める業務と承認者を決める

次の点は社内だけで結論を出さず、弁護士に確認する項目として分けておくと安全です。

  • 利用目的に無い処理が、変更前の利用目的と関連性を有すると合理的に認められる範囲に収まるか
  • 外国の事業者のサービスを使うときの、外国にある第三者への提供の規律との関係
  • 改正法の施行後に、自社の使い方が統計作成等の特例や委託先の義務の見直しとどう関わるか

個人情報保護委員会の注意喚起は、今後も生成AIサービスの開発・利用状況を注視し、追加の注意喚起等を行う可能性があるとしています。所管の資料が更新されたら、4項目のどこに影響するかを確かめる担当を決めておくと、ルールを現行の解釈に合わせ続けられます。

AI を全社の成果につなげる Offers AX

コンサルティング・AI エージェント開発・内製化支援の3本柱で、実装まで支援します。無料相談を受け付けています。

無料で相談する

Offers AX のサービスを見る

記事一覧へ