メディア
AX 戦略

AI のリスク管理の進め方|業務ごとに洗い出し・評価・対応・見直しを回す4つの工程

公開
執筆者: Offers AX 編集部・編集部

AI のリスク管理は、AI を使う業務を1つずつ取り上げて、リスクを洗い出し、影響の大きさと起きやすさで評価し、避ける・減らす・受け入れるのどれにするかを決め、運用しながら見直すという4つの工程を回して進めます。全社に同じ強さの禁止をかけるやり方では、議事録の下書きのように危険の小さい用途まで止まる一方で、採用や評価のように人の処遇に関わる用途では手当てが足りなくなりがちです。

国の指針も米国の枠組みも、リスクの大きさに合わせて対策の重さを変える考え方を基本にしています。リスクの種類は、誤り・情報漏洩・著作権・偏り・依存の5つに分けると、業務の担当者と法務・情報システムが同じ表で話せます。

O
執筆者

編集部

Offers AX 編集部

株式会社overflow が運営する Offers AX の編集部です。全社の AI 導入(AX)を支援する現場の知見をもとに記事を制作しています。

この執筆者の詳細・記事一覧 →

業務ごとにリスクの大きさを測り、対策の重さを合わせる

AI のリスク管理の土台は、業務ごとにリスクの大きさを把握し、それに見合う重さの対策を選ぶ「リスクベースアプローチ」です。総務省と経済産業省のガイドラインは、利用分野と利用形態に伴って生じうるリスクの大きさを「危害の大きさ及びその蓋然性」で把握し、対策の程度をそれに合わせる考え方を重要としています。あわせて、過度な対策も AI 活用で得られる便益を阻害しうるという立場です(総務省・経済産業省「AI事業者ガイドライン(第1.2版)」2026年3月31日)。

同じガイドラインの別添は、掲載した実践例をすべて記載どおりに実施することは求めておらず、事業者が自ら重点的に対策すべきことと不要なことを見極めるよう期待しています(総務省・経済産業省「AI事業者ガイドライン(第1.2版)別添」2026年3月31日)。つまり、チェックリストを全部埋めることがゴールではありません。

米国の国立標準技術研究所(NIST)の枠組み「AI RMF 1.0」も同じ骨格です。リスク管理の文化と仕組みを整える GOVERN、使われ方の文脈を把握してリスクを特定する MAP、特定したリスクを評価・分析・追跡する MEASURE、想定される影響に基づいて優先順位を付けて対応する MANAGE の4つの機能で構成され、多くの利用者は GOVERN を整えたあと MAP から始めて MEASURE・MANAGE へ進むとしています(NIST「AI Risk Management Framework(AI RMF 1.0)」2023年1月)。この枠組みは任意で使うもので、NIST は現在改訂を進めています。

社内で回す工程と、2つの資料の対応は次のとおりです(対応付けは編集部によるもの)。

社内で回す工程 NIST AI RMF の機能 AI事業者ガイドラインのサイクル
準備: 台帳と責任者を決める GOVERN ゴール設定
工程1: 洗い出す MAP 環境・リスク分析
工程2: 評価する MEASURE 環境・リスク分析
工程3: 対応を決める MANAGE システムデザイン・運用
工程4: 見直す MANAGE(運用後の監視) 評価・環境・リスクの再分析

ガイドラインそのものの位置づけは用語集のAI事業者ガイドラインに、全社の体制や規程の作り方はAI ガバナンスの記事に譲ります。リスク管理の工程は、業務の担当者と推進部門が一緒に回すものです。

始める前に、AI を使う業務の台帳と責任者を決める

洗い出しの前に、どの業務でどの AI を使っているかの台帳と、リスクの判断に責任を持つ人を決めておきます。NIST の枠組みは、AI システムの一覧を作る仕組みを持つこと、リスク管理の役割と責任を文書にして組織内に明らかにすること、AI の導入に関わるリスクの判断に経営陣が責任を持つことを、GOVERN の項目に挙げています(NIST「AI Risk Management Framework(AI RMF 1.0)」2023年1月)。

台帳の列は、次の6つが出発点です。後の工程でもそのまま使えます。

  • 業務名と業務の責任者
  • 使う AI(製品名か、社内で作ったものか)
  • 入力するデータの種類(個人情報・未公開の社内情報・公開情報)
  • 出力の使い道(自分の下書き・社内の判断資料・顧客や取引先への回答・人の評価)
  • 出力をもとに最終判断をする人
  • 運用開始日と、最後にリスクを見直した日

台帳づくりで見落としやすいのは、会社が把握していない利用です。ガイドラインの別添は、企業のルールが整っていない場合、企業の管理の外で従業員が個人向けの生成 AI を業務に使う恐れがあると指摘しています(総務省・経済産業省「AI事業者ガイドライン(第1.2版)別添」2026年3月31日)。いわゆるシャドー AIです。最初は禁止の通達より、部署ごとに使っている AI と用途を申告してもらい、実態をつかむほうが台帳は早く埋まります。

工程1 業務の流れに沿ってリスクを洗い出す

洗い出しは、業務を「入力 → AI の処理 → 出力 → 人の判断」の順に分け、どこで何が起きうるかを書き出す作業です。NIST の枠組みは、MAP で集めた文脈の情報を、そもそも AI を使うかどうかの最初の判断にも使うとしています(NIST「AI Risk Management Framework(AI RMF 1.0)」2023年1月)。洗い出しの結果「この業務は AI を使わない」と決めることも、正しい結論の1つです。

書き出すときの手がかりとして、ガイドラインの別添が挙げる実例を5種類に分けて示します(総務省・経済産業省「AI事業者ガイドライン(第1.2版)別添」2026年3月31日)。

  • 誤り: 生成 AI が事実と異なることをもっともらしく答える「ハルシネーション」。AI エージェントでは、人の意図しない商品の注文やファイルの削除を自律的に行う可能性も挙げられています
  • 情報漏洩: 従業員が機密のソースコードを個人向けの対話型生成 AI に入力した事例。RAG(社内文書を検索して回答に使う仕組み)などで外部のサービスやデータと連携すると、意図しない範囲に個人情報や機密が出ていく恐れもあります
  • 著作権など: 生成物や、生成したプログラムのコードが他者の知的財産権を侵害する可能性
  • 偏り: IT 企業が自社で開発した AI の採用システムが女性を不利に扱う欠陥を持ち、運用を取りやめた事例。同じ基準で運用していても、場面によって異なる判断を下すこともあります
  • 依存: 採用など重要な意思決定で AI の判断をそのまま使い、人が自分で確かめることを怠る「自動化バイアス」。説明責任を問われる原因になります

5種類で足りるかを確かめるには、NIST が「生成 AI に特有の、または生成 AI で強まるリスク」として挙げた12種類(作り話の出力・データのプライバシー・情報セキュリティ・知的財産・有害な偏り・人と AI の関わり方による過度な依存など)と突き合わせると漏れが見つかります(NIST「AI RMF: Generative AI Profile(NIST AI 600-1)」2024年7月)。

テーマごとの詳しい対策は、生成 AI の情報漏洩・生成 AI と個人情報・生成 AI と著作権の各記事にまとめています。AI エージェントを使う業務では、プロンプトインジェクションのように外部の文章に紛れた指示で動作が乗っ取られるリスクも加えてください(AI エージェントのセキュリティ)。

もう1つ書き出しておきたいのが、影響を受ける人です。別添は、リスクは事業者の不利益だけでなく、ステークホルダーや社会全体に生じるものも検討の対象になるとしています。社員・顧客・応募者・取引先のうち誰が困るかを各行に書くと、次の評価で影響の大きさを判断しやすくなります。

工程2 影響の大きさと起きやすさで評価する

評価は、洗い出したリスクごとに「起きたときの影響の大きさ」と「起きやすさ」を3段階ほどで付け、その組み合わせで手当ての順番を決める作業です。NIST はリスクを、出来事が起きる確率と、起きたときの結果の大きさを組み合わせた尺度と定義しています(NIST「AI RMF: Generative AI Profile(NIST AI 600-1)」2024年7月)。AI RMF 1.0 も、影響・起きやすさ・使える資源をもとに対応の優先順位を付けるよう求める立場です。

影響の大きさは、出力がどこまで届くかで決めると社内で揃いやすくなります。

影響 目安
大 出力が社外に出る(顧客への回答・公開物)、人の処遇(採用・評価・異動)に使う、法令の義務に関わる
中 社内の判断資料に使う。誤っても社内の手戻りで済む
小 担当者個人の下書きや調べもので、人が必ず書き直す

起きやすさは、使う頻度と人数、入力を人が選べるかどうか、出力を人が確かめる工程があるかどうかで付けます。毎日多くの人が使い、確認の工程が無い業務は「高」です。

組み合わせの扱いは、影響「大」は起きやすさにかかわらず導入前に対応を決める、影響「中」は起きやすさ「高」なら導入前・それ以外は運用しながら手当てする、影響「小」は利用者向けの注意事項で足りる、という3つの分け方から始めると判断が早くなります。採点の精密さより、同じ物差しで全業務を並べることに意味があります。

工程3 対応を「避ける・減らす・受け入れる」から選ぶ

対応は、リスクごとに「その使い方をやめる(避ける)」「仕組みで起きにくく、小さくする(減らす)」「残ると分かったうえで使う(受け入れる)」のどれかを選び、選んだ理由を残す作業です。NIST の枠組みは対応の選択肢として、減らす・移す・避ける・受け入れるの4つを挙げ、対応しきれずに残るリスクを文書にすることも求めています(NIST「AI Risk Management Framework(AI RMF 1.0)」2023年1月)。「移す」は契約や保険で負担を他者に移す方法で、社内の業務で選ぶのは多くの場合、残りの3つです。同じ枠組みは、AI を使わない別の方法と比べて検討することも挙げています。

5種類のリスクごとに、評価の観点と対応の例を並べると次のようになります(編集部作成)。

リスクの種類 評価の観点 避ける 減らす 受け入れる
誤り 出力がそのまま社外に出るか。人が確かめる工程があるか 顧客への回答を AI に自動で送らせない 参照する社内文書を指定して根拠を示させる。送る前に人が確認する 社内の下書きで、人が必ず書き直す用途
情報漏洩 個人情報や未公開情報を入力するか。入力したデータがどこに保存されるか 個人情報や未公開情報を外部の個人向けサービスに入力しない 自社の管理する環境に置いた AI を使う。権限を絞り、利用の記録を残す 公開済みの情報だけを扱う用途
著作権など 出力を公開・販売するか。特定の作品に似せる指示か 特定の作品や作者に似せた生成を禁じる 公開前に既存作品との類似を確かめる。生成の経緯を記録する 社外に出ない資料の構成案
偏り 人や顧客を区分・評価する判断に使うか。学習や参照のデータに偏りがあるか 採否や処遇の決定を AI に任せない 属性ごとの出力の差を検証する。最終判断は人が行う 文章の言い換えなど、人の扱いに影響しない用途
依存 人が出力を確かめずに次へ進める流れか。担当者が判断の根拠を説明できるか 説明責任のある判断を AI の出力だけで決めない 確認の手順と承認者を決める。AI を止めたときの代わりの手順を用意する 誤っても戻せる作業で、速さを優先する用途

AI を使う側の企業に向けて、ガイドラインは個人情報や機密情報を AI に不適切に入力しないこと、プロンプトに含まれる偏りに留意して出力の事業利用を判断することを挙げています。さらに、AI の出力を特定の個人や集団の評価の参考にする場合は、AI を使っていることを本人に知らせ、自動化バイアスも踏まえた人の合理的な判断のもとで、求めに応じて説明するよう求めています(総務省・経済産業省「AI事業者ガイドライン(第1.2版)」2026年3月31日)。採用や評価で AI を使う業務では、この3点を「減らす」の欄に必ず入れてください。

「受け入れる」を選んだ行には、誰が承認したか、いつ見直すかを書き添えます。受け入れたリスクは消えたわけではないので、次の見直しで条件が変わっていないかを確かめる対象になります。

工程4 運用しながら見直し、止める手順も決めておく

AI のリスクは導入後に変わるので、見直しの頻度ときっかけ、問題が起きたときに止める手順を導入と同時に決めるのが、4つ目の工程です。NIST の枠組みは、見直しの頻度を含めて定期的な点検を計画すること、意図と異なる結果を出す AI を差し替え・切り離し・停止する仕組みと責任者を決めること、導入後の監視の計画に事故対応や変更管理を含めることを挙げています(NIST「AI Risk Management Framework(AI RMF 1.0)」2023年1月)。

ガイドラインも、変化する環境とゴールを踏まえ、AI が適切に動いているかを評価・見直し続けることを各主体に期待しています(総務省・経済産業省「AI事業者ガイドライン(第1.2版)別添」2026年3月31日)。第1.2版の本編は、AI を使う企業の重要事項として、AI が想定された仕様に基づいて適切に動作しているかを確かめることを挙げています。

見直しのきっかけは、日付と出来事の両方で決めておくのが確実です。

  • 定期: 台帳全体を四半期に1度見直す
  • AI の側の変化: 使うモデルや製品の更新、提供元の利用規約の変更
  • 使い方の変化: 入力するデータの種類が増えた、使う部署や用途が広がった
  • 出来事: 誤った出力やヒヤリとした事例の報告、社外からの問い合わせ
  • 社会の変化: 法令や指針の改定。2025年には「人工知能関連技術の研究開発及び活用の推進に関する法律」が公布・施行され、ガイドラインも改定が続いています

ヒヤリとした事例は、報告した人が責められない窓口を1つ決めておくと集まります。集まった事例は工程1の洗い出しに戻し、台帳の該当する行を書き換えてください。

業務に組み込む段階でリスクを確かめる

リスクの洗い出しと評価は、机上の一覧より、実際の業務で動く試作を使って確かめるほうが具体的になります。入力にどんなデータが入り、出力を誰がどう使うかは、動くものを業務で試して初めてはっきりするからです。

Offers AX は、FDE 型で業務の現場に近い距離に入り、戦略と実装を一体で進めるサービスです。要件定義書ではなく動くものを見て合意し、数週間で作るプロトタイプを実業務で検証して効果を実測したうえで、本実装に進むかを判断します。効果が出なければ中止を選べることも、契約の前提に含めています。

リスク管理の工程に重ねると、次のように対応します。

  • 情報漏洩: AI の処理基盤は原則としてお客様の環境(GCP・Azure・AWS)に構築し、認証と監査ログも含めます。顧客データを当社の環境に保持しません。クラウドの LLM が使えない機密性の高い人事の案件では、貸与 PC の中で処理を完結させた実績があります
  • 誤り・偏り・依存: AI の出力は下書き・参考情報として扱い、事実認定・合否・処遇は人が判断する設計にします
  • 見直し: 効果の実測を続けるかどうかの判断材料にし、引き継ぎと内製化まで設計します

業務ごとの進め方は Offers AX のサービスページにまとめています。どの業務から台帳に載せて評価するかが決まっていない段階でも、課題の調査から一緒に整理できます。無料相談を申し込む

最初の1か月で進めること

最初の1か月は、全業務を対象にせず、AI をすでに使っている業務から影響の大きいものを3つほど選び、4つの工程を一巡させます。様式を1度回してみると、残りの業務に広げるときの手間が見積もれます。

時期 やること 参加する人
1週目 部署ごとの申告で台帳を作る。業務の責任者を決める 推進部門・各部署
2週目 影響が大きそうな3業務を選び、入力から判断までの流れでリスクを洗い出す 業務の担当者・情報システム・法務
3週目 影響と起きやすさで評価し、避ける・減らす・受け入れるを決める。受け入れたものは承認者を記録する 同上と業務の責任者
4週目 見直しのきっかけと止める手順を決め、結果を経営層に報告する 推進部門・経営層

4週目の経営層への報告は、ガイドラインの別添が行動目標の最初に置く項目です。AI の利用目的を明確にしたうえで、便益だけでなく意図しないリスクを事業に照らして具体的に理解し、経営層に報告して共有し、理解を更新し続けることを求めています(総務省・経済産業省「AI事業者ガイドライン(第1.2版)別添」2026年3月31日)。

一巡させたら、残りの業務を同じ台帳と同じ物差しで順に評価していきます。部署をまたいで工程を回す担い手が足りない場合は、推進の体制から整えるのが先です。体制の作り方は AI CoE の記事で扱っています。

AI を全社の成果につなげる Offers AX

コンサルティング・AI エージェント開発・内製化支援の3本柱で、実装まで支援します。無料相談を受け付けています。

無料で相談する

Offers AX のサービスを見る

記事一覧へ