メディア
AX 戦略

ISMS を取得している会社が生成AIを入れるときに見直すこと|情報の区分・リスク評価・委託先の管理・教育・事故の報告

公開
執筆者: Offers AX 編集部・編集部

ISMS(情報セキュリティマネジメントシステム)の認証を持つ会社が生成AIを業務に入れるとき、生成AIのための別の管理の仕組みは要りません。生成AIを「新しい情報の置き場所であり、外部のクラウドサービスでもあるもの」として既存の ISMS に足し、情報資産の区分、リスクアセスメント、外部サービスの管理、利用ルールと教育、事故の報告の5つの場面で書類を更新すれば足ります。

審査で確かめられるのは、規程の文面があるかどうかより、変更を計画し、決めたとおりに運用し、その記録が残っているかです。

AI を使う企業全体で見ると、生成AIの規則の整備はまだ途中にあります。AI を業務で使う、または使う予定の企業・組織の従事者に聞いた調査では、生成AI利用時のセキュリティに関する規則について、規則の策定・明文化・組織的な検討がされているのは20%未満でした。詳細な規則を策定中の企業を合わせても、整備が進んでいるのは40%前後です(IPA「AI利用時の脅威、リスク調査報告書」本調査 n=1,000・2024年7月4日公表)。

O
執筆者

編集部

Offers AX 編集部

株式会社overflow が運営する Offers AX の編集部です。全社の AI 導入(AX)を支援する現場の知見をもとに記事を制作しています。

この執筆者の詳細・記事一覧 →

生成AIは、新しい仕組みではなく ISMS の「変更」として扱う

生成AIの導入は、ISMS の適用範囲に新しい情報の流れが加わる変更として、既存の手順の中で扱えます。

規格が改訂されたときの ISMS の見直し方について、ISMS 認証の認定機関である ISMS-AC は、2023年7月の JIPDEC の講演「ISMS適合性評価制度におけるISO/IEC 27001:2022への対応について」で、新旧規格の差を分析し、新しく加わった管理策はリスク分析をして実施の可否を検討し、その結果を適用宣言書に反映するよう説明しています。移行の審査で確かめるのは、新しい規格のもとでマネジメントシステムが構築され、PDCA が回っていること、という説明です。

生成AIの導入も、この仕組みにそのまま乗せられます。2023年9月20日に改正された JIS Q 27001:2023 には「変更の計画策定」の項があり、ISMS を変えるときは計画してから変える前提です。生成AIを使うと決めた時点で変更の計画を1枚作り、5つの場面の書類を順に更新していけば、審査で示す記録も自然に残ります。

AI の開発や、AI が人や社会に与える影響の評価まで仕組みに含めたい会社なら、AI 用の管理規格である ISO/IEC 42001 を足すのも1つの選択肢です。生成AIのサービスを契約して使う側の会社なら、まずは既存の ISMS の見直しで足ります。

見直す場面は5つで、更新する書類のほとんどは既にあるもの

新しく作る書類は少なく、既にある書類に生成AIの行を足す作業が中心です。

場面 見直すこと 更新する主な書類
1. 情報資産の洗い出し 生成AIのサービス・アカウント・入出力の履歴を資産に加え、どの区分の情報をどこへ入れてよいかを決める 情報資産台帳、情報の分類の基準
2. リスクアセスメント 生成AIに固有の脅威を足して評価し、対応を決める リスクアセスメントの結果、リスク対応計画、適用宣言書
3. 外部サービスの管理 利用規約・データの保管場所・学習への利用を確かめ、定期的に見直す 外部サービス・委託先の評価の記録、契約書
4. 利用ルールと教育 使ってよいサービスと入れてよい情報を示し、教育の記録を残す 利用ルール、教育計画、受講の記録
5. 事故の報告 生成AIで起きる事故の例を報告の対象に加える インシデントの手順、対応と是正処置の記録

総務省と経済産業省が2026年3月31日に公表した「AI事業者ガイドライン(第1.2版)」は、事業活動で AI システムや AI サービスを使う事業者を「AI利用者」と呼び、開発者・提供者と分けて取り組む事項を整理しています。生成AIのサービスを契約して使う会社は AI利用者に該当するので、ガイドラインの「AI利用者に関する事項」が、各場面で何を足すかの手がかりです。ガイドラインの位置づけは、用語集の AI事業者ガイドライン で説明しています。

情報資産の洗い出しでは、生成AIに入れてよい情報の区分を決める

最初に見直すのは情報資産台帳と情報の分類の基準で、生成AIに「何を入れてよいか」はここで決まります。

台帳に加えるのは次の3つです。

  • 業務で使う生成AIのサービスと、会社が管理するアカウント
  • 入力(プロンプト)と出力の履歴。サービス側と自社側のどちらに、どれだけの期間残るか
  • 生成AIに読ませる社内の文書・共有フォルダ・業務システムとの連携

見落とされやすいのは履歴です。社員が入力した顧客名や人事の情報がそのまま残るので、履歴の置き場所は、入力した情報と同じ区分で守る対象になります。

分類の基準には、区分ごとに入れてよい環境を書き足しましょう。AI事業者ガイドラインは AI利用者が取り組む事項として、AI システム・サービスに個人情報や機密情報等を不適切に入力しないよう注意を払うことを挙げています。「注意を払う」を現場で守れる形にするには、区分と入れてよい環境の対応を表にして渡すのが確実です。公開情報・社内限り・機密の3区分と置き場所ごとの可否の例は、生成AIの情報漏洩を防ぐ順番を整理した記事に載せています。

個人情報には、もう1つ確認が要ります。個人情報保護委員会は、2023年6月2日の「生成AIサービスの利用に関する注意喚起等」で、個人情報を含むプロンプトを入力する場合は利用目的の達成に必要な範囲内かを十分に確認すること、本人の同意なく入力した個人データが応答の出力以外の目的で扱われると個人情報保護法の規定に違反する可能性があることを示しました。

分類の基準の個人情報の欄に「生成AIへの入力は、学習に使われない契約・設定のサービスに限る」と書いておけば、後で行う外部サービスの評価と1本につながります。利用目的や委託との関係など法律上の論点は、生成AIに個人情報を入れてよいかを3つの論点で整理した記事で扱っています。

リスクアセスメントでは、生成AIに固有の脅威を既存の手順に足す

リスクアセスメントの手順そのものは変えず、洗い出す脅威の一覧に生成AIの分を足します。JIS Q 27001:2023 の「情報セキュリティリスクアセスメント」と「情報セキュリティリスク対応」の項で回している手順に、新しい資産と脅威を載せる形です。

足す脅威の例を、情報セキュリティの3つの性質(機密性・完全性・可用性)に分けると次のようになります。

脅威 主に損なわれる性質 対応の例
入力した情報が学習に使われる、事業者側に残る 機密性 学習に使わない契約と設定、保存期間の確認
出力の誤り(ハルシネーション)を確かめずに社外の文書や判断に使う 完全性 社外に出す前・判断に使う前の人の確認
読み込ませた文書に紛れた指示に AI が従う(プロンプトインジェクション) 機密性・完全性 読める範囲と操作の権限を絞り、送信や書き込みに人の承認を挟む
会社が把握していないサービスが使われる(シャドーAI) 機密性 使ってよいサービスの提示、通信の監視
業務を任せたサービスが止まる、仕様が変わる 可用性 代わりの手順、仕様と規約の変更の確認

出力の誤りは、従来の ISMS では扱いの薄かった脅威です。AI事業者ガイドラインも AI利用者の事項として、AI の出力の精度とリスクの程度を理解し、様々なリスク要因を確かめたうえで利用すること、責任をもって出力結果の事業利用を判断することを挙げています。

対応に選ぶ管理策の多くは、2022年の規格改訂で加わったものと共通です。附属書A に新しく加わった11の管理策には、クラウドサービス利用における情報セキュリティ、情報の削除、データマスキング、データ漏えいの防止、監視活動、ウェブフィルタリングが含まれています(JNSA 日本ISMSユーザグループ「JISQ27001:2023の新規管理策の実装方法についての考察」2023年12月18日)。移行のときに整えたこれらの管理策の対象に、生成AIのサービスと通信を加えれば、リスク対応計画と適用宣言書の更新は小さく済むはずです。

業務ごとにリスクを洗い出して評価する工程全体は、AIのリスク管理を4つの工程で回す進め方の記事にまとめています。

外部サービスの管理では、利用規約・データの保管場所・学習への利用を確かめて記録する

生成AIのサービスは、ISMS の上では外部のクラウドサービスの1つです。契約前の評価と使い始めた後の見直しを、既存の委託先・クラウドサービスの管理の手順に載せます。

評価で確かめ、記録に残す項目は次のとおりです。

  • 入力した内容を、事業者がモデルの学習に使うか。使わない設定を組織で一括して持てるか
  • 入力と出力を事業者が保存する期間と、保存する国・地域
  • 事業者の担当者が、不正利用の監視などのために入力を見ることがあるか
  • 事業者が処理をさらに別の会社へ委託しているか(再委託先)
  • 解約したとき、保存されたデータが消えるか
  • 利用規約が変わったときに、どう知らされるか

個人情報保護委員会の注意喚起は、個人データを含むプロンプトを入力する場合、サービスを提供する事業者がその個人データを機械学習に利用しないこと等を十分に確認するよう求めています。AI事業者ガイドラインも、AI提供者から受け取った文書を保管・活用すること、提供者が定めたサービス規約を守ることを AI利用者の事項に挙げています。

生成AIのサービスで注意したいのは、規約と機能の変わる速さです。評価を契約時の1回で終えず、規約を確かめた日を台帳に書き、半年ごとなど見直しの時期を決め、変更の通知を受けたら評価を更新してください。入力を事業者側に保存しない契約の考え方は、用語集のゼロデータリテンションで説明しています。

見落としやすいのが、業務を委託している先での生成AIの利用です。委託先の社員が預けた資料を個人のアカウントの生成AIに入力すれば、自社の情報が自社の管理の外へ出ていきます。委託先の評価のチェックシートと契約に、生成AIを使うかどうか、使うならどのサービスをどの設定で使うかを確かめる項目を足しておくと、委託先の管理の記録として残せます。

外に出せない区分の情報は、自社の環境の中で処理する構成を選ぶ

外部サービスを評価しても、人事や経営の情報のように社外のサービスへ入れられない区分は残るはずです。その区分を生成AIで扱いたいなら、AI の処理を自社の環境の中に置く構成にすると、情報は自社の ISMS の管理下から出ません。

Offers AX は、AI の処理基盤を原則としてお客様の既存のクラウド環境(GCP・Azure・AWS)に構築し、当社の環境には顧客データを持たない方針です。理由として挙げているのは、データ主権、監査のしやすさ、特定のベンダーへの依存を避けることの3つです。クラウドを使えない機密度の高い領域では、貸与 PC の中で処理を完結させ、テレメトリを含む外部通信の無効化・端末内の暗号化・アクセス制御・監査ログまでを設計に含めた実装の実績があります。

ISMS を運用している会社から見ると、AI の仕組みが自社の資産台帳とアクセス管理の中に収まり、監査ログも自社で持てる形です。戦略立案と実装を一体で進める FDE(Forward Deployed Engineer)型の進め方で、動くものを見ながら構成を決め、引き継ぎの文書と社内の運用体制の設計まで含めて渡します。契約が終わった後も、構築した資産はお客様の環境に残ります。

Offers AX の支援内容を見る/無料相談を申し込む

利用ルールと教育は、「力量」と「認識」の記録に生成AIを足す

利用ルールを作って配っただけでは、審査で示せる記録になりません。JIS Q 27001:2023 には「力量」と「認識」の項があるので、力量の証拠として教育の記録を残し、ルールを知っているか(認識)は教育の中で確かめる形に、生成AIの分を足します。

利用ルールに書くことは、現場が読み切れる次の4点に絞るのが目安です。

  • 業務で使ってよいサービスと、使うアカウント(会社が管理するもの)
  • 区分ごとに入れてよい環境(情報資産の分類の基準と同じ表)
  • 出力を社外に出す前、判断に使う前に確かめる手順
  • 誤って入力したときの報告先

教育について、AI事業者ガイドラインは AI に関わる者が十分なレベルの AI リテラシーを確保するために必要な措置を講じることを挙げています。既存の情報セキュリティ教育に生成AIの章を足し、受講の記録と理解度の確認(小テストなど)を残せば、年次の教育計画の中で扱えます。

人事・法務・経営企画のように機密度の高い情報を扱う部署には、自部署の業務を例にした回を別に設けるのがおすすめです。「評価面談のメモを要約させてよいか」のような具体的な問いで区分を判断させると、表を配るだけより迷いが減ります。

社内ルールに入れる項目と利用申請の流れは生成AIの社内ガイドラインとガバナンスの作り方の記事、社外に示す方針との分け方はAI 基本方針の作り方の記事で扱っています。

事故の報告は、生成AIで起きる事故を既存のインシデントの手順に載せる

生成AIのための別の窓口は要りません。既存のインシデントの報告と対応の手順に生成AIで起きる事故の例を書き足し、報告の対象だと明示すれば十分です。

書き足す事故の例は次のとおりです。

  • 入れてはいけない区分の情報を、生成AIに入力した
  • 会話の共有リンクが、社外の人も開ける状態で出回った
  • 生成AIの誤った出力を、確かめずに顧客や取引先へ出した
  • AI に連携させた業務ツールから、意図しない送信や書き込みが起きた

要点は、誤入力を報告の対象として明記することです。入力した本人が「すぐ消したから大丈夫」と判断して報告しないと、事業者側に履歴が残っていても、削除の依頼や影響の確認ができません。報告を受けた側の手順には、管理画面で履歴を消す、事業者に削除を依頼する、ログで同じ情報の入力がほかにないかを確かめる、の3つを入れておきましょう。

AI事業者ガイドラインは、関係する情報を文書化して一定期間保管し、必要なときに参照できる状態にすることも挙げています。生成AIの事故も、報告・原因・是正処置を記録し、マネジメントレビューで件数と傾向を経営に報告する対象に含めるのが自然です。初動から社外への報告までの決め方は、AI インシデント対応の決め方をまとめた記事で詳しく扱っています。

審査で確かめられやすい点と、残しておく書類

審査で見られるのは、生成AIを禁じているか許しているかではありません。変更を計画し、リスクを評価し、決めたことを運用した記録があるかです。場面ごとの問いと、答えとして示す書類は次の表のとおりです。

場面 確かめられやすい問い 残しておく書類
変更の計画 生成AIの導入を ISMS の変更として計画したか 変更の計画、適用範囲の見直しの記録
情報資産 生成AIのサービス・アカウント・履歴が台帳にあるか。どの区分の情報を入れてよいか決めているか 情報資産台帳、情報の分類の基準
リスクアセスメント 生成AIの脅威を評価し、対応を決めたか リスクアセスメントの結果、リスク対応計画、適用宣言書
外部サービス 学習への利用・保存期間・保存場所を契約前に確かめたか。その後も見直しているか 外部サービスの評価の記録、規約の確認日、契約書
利用ルールと教育 社員がルールを知り、守れる力量を持っているか 利用ルール、教育の受講記録、理解度の確認の結果
事故の報告 生成AIの事故が報告され、是正されているか インシデントの記録、是正処置の記録
内部監査とマネジメントレビュー 決めたことが運用されているかを確かめ、経営に報告したか 内部監査の報告書、マネジメントレビューの記録

内部監査の確認項目に、生成AIの分を1行ずつ足しておくと、次の審査までに運用の証拠がたまります。会社が認めたサービス以外への通信が出ていないか、規約の確認日が古くなっていないかは、ログと台帳を見れば確かめられる項目です。

次のマネジメントレビューまでに進める順番

5つの場面を一度にそろえる必要はありません。次のマネジメントレビューを目安に、次の順で進めると、後の作業が前の決定の上に積み上がります。

  1. 変更の計画を作り、社内で使われている生成AIを洗い出す(情報システム部門)
  2. 情報資産台帳と分類の基準を更新し、区分ごとに入れてよい環境を決める(情報セキュリティの委員会と各部署)
  3. 生成AIの脅威をリスクアセスメントに足し、リスク対応計画と適用宣言書を更新する
  4. 使うサービスを評価して契約し、利用ルールを配って教育を始める
  5. インシデントの手順に事故の例を足し、内部監査の項目に加える

この順番には理由があります。区分が決まらないとリスクの大きさを評価できず、評価が無いと、どのサービスにどの設定を求めるかが決まらないからです。

全社で AI の導入を進める話題は、AX戦略のカテゴリに集めています。ISMS の見直しは、生成AIを止めるための手続きとして使うより、使ってよい範囲を会社として決め、その範囲で安心して使える状態を作る手続きとして使うほうが、現場の利用も記録も1か所に集まります。

AI を全社の成果につなげる Offers AX

コンサルティング・AI エージェント開発・内製化支援の3本柱で、実装まで支援します。無料相談を受け付けています。

無料で相談する

Offers AX のサービスを見る

記事一覧へ