メディア
AX 戦略

AI の責任の所在|判断が誤ったときに開発・提供・利用する会社が負う責任と契約での分け方

公開
執筆者: Offers AX 編集部・編集部

AI の出力や判断が誤って損害が出たとき、責任を負うのは AI そのものではなく、AI を開発する会社・提供する会社・利用する会社のいずれか、または複数です。日本には AI だけを対象にした損害賠償の法律が無いため、民法の債務不履行(第415条)と不法行為(第709条)、製造物責任法を当てはめて考えることになります。

2026年4月に経済産業省が公表した手引きは、AI を人の判断を補う「補助/支援型」と、人の判断を置き換える「依拠/代替型」に分けました。後者では、利用する会社の注意義務が、AI を組み込んだ業務の仕組みを適切に作って運用することへ移るという方向性が示されています(経済産業省「AI利活用における民事責任の解釈適用に関する手引き」第1.0版・2026年4月公表)。

契約で分けられるのは、契約を結んだ会社どうしの負担です。免責の範囲・責任の上限・保険の3点を導入の前に3者の間でそろえておき、自社の事案への当てはめは弁護士に確認してください。

O
執筆者

編集部

Offers AX 編集部

株式会社overflow が運営する Offers AX の編集部です。全社の AI 導入(AX)を支援する現場の知見をもとに記事を制作しています。

この執筆者の詳細・記事一覧 →

AI に関わる会社は、開発・提供・利用の3つの立場に分かれます

総務省と経済産業省の AI 事業者ガイドラインは、AI を事業で扱う主体を「AI 開発者」「AI 提供者」「AI 利用者」の3つに分けています。活用の仕方によっては同じ会社が複数の立場を兼ねる場合もあると明記されており、責任を考えるときの出発点になる整理です(総務省・経済産業省「AI事業者ガイドライン(第1.1版)」2025年3月公表)。

立場 ガイドラインの定義 担う役割の例
開発する会社(AI 開発者) AI システムを開発する事業者 AI モデルの開発、データ収集、学習と検証
提供する会社(AI 提供者) AI システムをアプリケーション・製品・既存のシステム・業務プロセスなどに組み込んだサービスとして提供する事業者 他のシステムとの連携の実装、AI システム・サービスの提供、利用者側の運用支援
利用する会社(AI 利用者) 事業活動において AI システムや AI サービスを利用する事業者 提供者が意図した適正な利用、環境の変化などの情報を提供者と共有すること

たとえば、外部の大規模言語モデルを組み込んだ問い合わせ対応サービスを契約し、自社の顧客窓口で使うとします。モデルを作った会社が開発する会社、サービスを売る会社が提供する会社、自社が利用する会社という並びです。

自社でモデルを調整して自社の業務に使うなら、自社が開発と利用の2つの立場を兼ねることになります。損害が出たときに「どの立場として何をしたか」で問われる点が変わるので、使っている AI ごとに自社の立場を書き出しておくと、後の整理が速くなります。

2026年3月には第1.2版が公表され、AI エージェントとフィジカル AI に関する記述が加わりました。ガイドラインの位置づけは AI 事業者ガイドライン の用語ページで確かめられます。

現行法では、民法の2つの責任と製造物責任法を当てはめて考えます

AI の誤りによる損害は、相手と契約があるかどうか、AI が製品に組み込まれているかどうかで、当てはめる法律が変わります。

根拠 誰と誰の間の話か 責任が生じる条件 AI で論点になりやすいこと
債務不履行(民法第415条) 契約を結んだ当事者どうし 債務の本旨に従った履行をしないこと(債務者の責めに帰することができない事由によるときを除く) 契約で精度や出力の正しさをどこまで約束したか
不法行為(民法第709条) 契約の無い第三者を含む 故意または過失で他人の権利や法律上保護される利益を侵害したこと 誤りを予見できたか、防ぐ手立てを取っていたか
製造物責任(製造物責任法第3条) 製品の製造業者などと、被害を受けた人 引き渡した製品の欠陥で他人の生命・身体・財産を侵害したこと(過失は要件ではない) AI を組み込んだ製品の欠陥といえるか

製造物責任法の「製造物」は製造または加工された動産で、ソフトウェア自体は無体物のため対象になりません。一方、ソフトウェアを組み込んだ製品では、ソフトウェアの不具合がその製品の欠陥と解され、製造業者などが賠償責任を負うことがあります。

製造業者などが責任を免れる例外は、引き渡した時点の科学・技術の知識では欠陥を認識できなかった場合です(開発危険の抗弁)。請求できる期間も、原則として損害と賠償義務者を知った時から3年、製品を引き渡した時から10年に限られています(消費者庁「製造物責任(PL)法の概要Q&A」2026年11月確認)。

海外では扱いが変わり始めました。EU は2024年に製造物責任指令を改正し、ソフトウェアを「製品」に含めています。加盟国は2026年12月までに国内法へ取り込むこととされました(欧州連合「指令(EU)2024/2853」2024年11月官報で公表)。

AI に特化した民事責任のルールを定める指令案のほうは、欧州委員会が2025年2月の作業計画で撤回の方針を示しています。EU 全体の AI 規制の枠組みは EU AI 法 の用語ページで扱っています。

経産省の手引きは、AI を「補助/支援型」と「依拠/代替型」に分けます

経済産業省の手引きは、想定事例をもとに、現行の法律と裁判例から民事責任の考え方の方向性を示したものです。新しい責任のルールを作るものではなく、扱うのは主に、利用する会社の不法行為責任と、開発・提供する会社の不法行為責任・製造物責任になります。契約上の責任は、契約の中身ごとに個別性が高いことから直接の検討対象にしていません(経済産業省「AI利活用における民事責任の解釈適用に関する手引き」第1.0版・2026年4月公表)。

補助/支援型は、利用する人の判断の補助としてだけ使い、最終的に人の判断が入ることを前提にした AI です。依拠/代替型は、人の判断や行動を置き換える前提で提供され、出力に依拠して使う AI を指します。

依拠/代替型には2つの要件があります。人の関与だけでは実現しにくい効用があること(必要性)と、一定の精度と安全性を備えていることです。

類型 手引きの想定事例 利用する会社に求められること 開発・提供する会社に求められること
補助/支援型 配送ルート最適化 AI、弁護士業務支援 AI、画像生成 AI、取引審査 AI 出力の正確さと適切さを評価したうえで最終判断をすること。AI を使ったかどうかで注意義務の水準は変わらない 機能・性能の限界・使い方・重要なリスクを説明すること。権利侵害の危険が高いのに、防止の措置を取らないまま提供しないこと
依拠/代替型 外観検査 AI、自律走行ロボット AI を組み込んだ業務の仕組みを適切に作り、運用すること(業務が自動化に向くかの確認、精度の監視など) 補助/支援型より高い水準で、安全性を保つ設計上の措置と、リスク情報を伝える説明上の措置を取ること

AI エージェントは、補論の想定事例で、カスタマーサポートを代わりに担う例として扱われています。回答の質と精度が同じ業務を担う通常の人と同等以上なら依拠/代替型、精度が足りなければ補助/支援型という整理です。

つまり同じ AI エージェントでも、精度と使い方によって類型が変わります。人が全件を確かめてから業務に使うなら補助/支援型、人の確認を外して出力をそのまま業務に流すなら依拠/代替型の考え方に寄っていくので、どちらとして使うかを導入の前に決めておくことが、責任を考えるうえでの最初の判断です。

依拠/代替型の考え方は、預金払戻しシステムの裁判例が下敷きです

手引きは、利用する会社の注意義務を「業務の仕組みの構築と運用」で捉える考え方に、預金の払戻しシステムをめぐる裁判例を援用しています。

同じ考え方を示した代表的な判決が、最高裁判所の平成15年の判決です。無権限者が現金自動入出機で預金の払戻しを受けた事件で、最高裁は、銀行が無過失というためには、払戻しシステムの設置管理の全体について、可能な限度で無権限者による払戻しを排除し得るよう注意義務を尽くしていたことを要すると判断しました(最高裁判所第三小法廷 平成15年4月8日判決・民集57巻4号337頁)。

この判決は AI についてのものではありません。それでも、機械に任せた処理で損害が出たとき、問われるのは個々の処理の当否より、仕組み全体で誤りを防ぐ手立てを尽くしていたかどうかだ、という見方は、AI に業務を任せる会社にとって参考になります。

具体的には、AI に任せる業務と任せない業務の範囲、出力を人が確かめる条件、精度が落ちたときに止める手順を文書で決め、そのとおりに運用していたかが問われる方向になると考えられます。

3つの会社が問われやすい点と、残しておく記録

手引きは、AI の専門性と関係資料が事業者の側に偏るため、被害を受けた側が過失や欠陥を立証しにくいことも論点に挙げています。裏を返せば、各社が自分の取った手立てを示せる記録を残しているかどうかが、責任を問われたときの説明の土台です。

立場 主な相手 問われやすい点 残しておく記録の例
開発する会社 提供する会社(契約)、被害を受けた人(不法行為。製品に組み込まれる場合は製造物責任も) 安全性を保つ設計、性能の限界の説明 評価に使ったデータと指標の値、既知の限界と注意事項
提供する会社 利用する会社(契約)、被害を受けた人(不法行為) 他のシステムとの連携、運用支援、利用条件の説明 利用規約と注意事項、モデルや設定を変えた履歴
利用する会社 自社の顧客・取引先(契約)、第三者(不法行為) 出力の確認、業務への組み込み方、精度の監視 AI に任せる業務の範囲を決めた文書、人が確認した記録、精度の監視結果、利用ログ

利用する会社が最初に用意したいのは、AI に任せる業務の範囲を決めた文書と、出力を人が確かめる条件の2つです。提供する会社が出す利用規約と注意事項は、自社の使い方が想定の範囲に収まっているかを確かめる材料として、契約の前に読み込んでおきましょう。

社内ルールの作り方は AI ガバナンスの記事、誤りが起きた後の対応手順は AI インシデント対応の記事 で扱っています。

Offers AX は、AI エージェントをお客様の環境に構築します

Offers AX の AI エージェント開発は、原則としてお客様の既存環境に構築し、当社の環境に顧客データを保持しません。GCP・Azure・AWS のいずれにも対応しており、契約が終了しても構築した資産はお客様の環境に残る形です。

端末の中で処理を完結させた構成では、外部通信の無効化、端末内の暗号化、アクセス制御に加え、監査ログまで設計に含めています。

要件定義書ではなく動くもので合意し、プロトタイプで実業務を検証してから本実装に進むため、AI に任せる範囲を実際の業務で試したうえで決められます。効果が出ない場合に中止を選べることも、契約の前提に含めています。

Offers AX のサービス内容を見る

AI に任せる業務の範囲や記録の残し方を、自社の業務に合わせて相談したい場合は、無料相談を申し込む からお問い合わせください。

契約で決める項目は、免責の範囲・責任の上限・保険が中心です

契約で決められるのは、契約を結んだ会社どうしの負担の分け方です。被害を受けた第三者から見れば、契約の中身にかかわらず不法行為や製造物責任で請求できる場合があるので、契約では「請求を受けた後に誰がどれだけ負担するか」を決めておくことになります。

項目 決めること 利用する会社が確かめる点
保証の範囲 精度や出力の正しさを保証するか。保証しないなら、その旨と性能の目安 提供する会社が示す性能の限界と、自社の使い方が合っているか
免責の範囲 どの損害を負担しないか(出力をそのまま使った損害、間接損害など) 免責が、自社の主な使い方で起きる損害まで外していないか
責任の上限 賠償額の上限(例: 一定期間に支払った利用料の額)と、故意・重過失を上限の対象から外すか 想定される損害額と上限の差を、保険や社内の手当てで埋められるか
第三者からの請求 請求を受けたときの通知、協力、費用の分担 窓口と期限、提供する会社がログなどの資料を出すか
保険 どちらがどの保険に入るか 加入中の賠償責任保険で、AI の出力の誤りによる損害が対象になるか
記録の保存 ログの保存期間と、紛争時の提出 自社の環境に記録が残るか
変更の通知 モデルや設定を変えるときの事前通知 変更後に精度を確かめ直す手順があるか

表の上から3つは、どれか1つだけを見ても判断できません。免責が広く上限が低い契約なら、その差を保険と社内の確認体制で埋める必要があり、保険の約款で AI の出力の誤りが対象になるかは保険会社に直接確かめるのが確実です。

利用する会社が、AI を組み込んだサービスを一般の消費者に提供する立場にもなる場合は、消費者契約法にも注意が要ります。同法第8条は、事業者の損害賠償責任の全部を免除する条項や、故意または重大な過失による責任の一部を免除する条項を無効としています。利用規約に「AI の回答について当社は一切責任を負いません」と書いても、消費者との関係ではそのとおりの効力が認められない可能性があるということです。

開発を外部に頼むときの契約の項目は、AI 開発の契約で決めておく6項目の記事 で扱っています。

弁護士に確認する点と、社内で先に決めておく点

弁護士との打ち合わせの前に、社内で次の4つを決めておくと、相談の論点が絞れます。

  1. 使っている AI ごとに、自社が開発・提供・利用のどの立場かを書き出す(複数の立場を兼ねる場合を含む)
  2. AI に任せる業務の範囲と、人が出力を確かめる条件を決める(補助/支援型として使うか、依拠/代替型として使うか)
  3. 誤りが起きたときに AI を止める手順と、記録をどこに何年残すかを決める
  4. 想定される損害の大きさを見積もり、契約の上限と保険で埋まるかを確かめる

弁護士に確認するのは、次の3つです。

  • 自社の使い方で、債務不履行・不法行為・製造物責任のどれが問題になりうるか
  • 免責と責任の上限の条項が、取引の相手や消費者との関係で有効に働くか
  • 海外の利用者や拠点がある場合に、EU など他の国・地域のルールが及ぶか

手引きは行政が示した解釈の方向性で、裁判所が同じ判断をすることを約束するものではありません。経済産業省も、AI の民事責任について裁判例の蓄積が乏しいことを課題に挙げています。社内で決めた内容を弁護士と確かめ、運用しながら見直していく前提で進めてください。全社の AI 導入に関する他の記事は AX 戦略のカテゴリ にまとめています。

AI を全社の成果につなげる Offers AX

コンサルティング・AI エージェント開発・内製化支援の3本柱で、実装まで支援します。無料相談を受け付けています。

無料で相談する

Offers AX のサービスを見る

記事一覧へ