AI の要件は、出力が外れることを前提に書く
AI の要件定義が通常の開発と違うのは、「仕様どおりに動くか」だけでは合否を決められない点です。通常のシステムは同じ入力に同じ出力を返し、仕様と違えば不具合として直します。AI は学習したデータや入力の言い回しによって出力が変わるので、正答率100%を前提に置けないのが実情です。要件には、どこまで外れてよいか、外れたときにどうするかまで書いておく必要があります。
精度を事前に決めることは、国の指針でも求められている考え方です。総務省と経済産業省の AI事業者ガイドライン は、AI による判断は事後的に精度が損なわれたり低下したりすることが想定されるため、あらかじめ精度に関する基準を定めておくことが期待されるとしています。ここでいう精度には、AI が倫理的に正しい判断をしているか(暴力的な表現やヘイトスピーチを出していないか等)も含まれます(総務省・経済産業省「AI事業者ガイドライン(第1.2版)別添(付属資料)」2026年3月31日公表)。
通常の要件と、AI で追加で決める項目を並べると次の表になります。
| 項目 |
通常のシステムで書くこと |
AI で追加で決めること |
| 判断の分担 |
画面の操作と処理の流れ |
AI に任せる判断と、人が確認してから外へ出す判断 |
| 品質 |
仕様どおりに動くか(テスト項目) |
精度の基準と、それを測るテスト用データ |
| 異常時 |
エラー時の表示と再実行 |
誤った出力の見つけ方・止め方・代わりの手順 |
| データ |
入力項目と保存先 |
読ませるデータの品質・鮮度・個人情報の有無と、AI が動く権限 |
| 性能と費用 |
応答時間・同時接続数・サーバー費 |
1件あたりの利用料の上限と、待てる応答時間 |
| 運用 |
障害対応と保守の窓口 |
精度を測り直す頻度と、モデル更新時の再テスト |
要件を書く前に、業務を「正解が決まる業務」と「正解が揺れる業務」に分ける
精度の基準の書き方は、業務に1つの正解があるかどうかで変わります。請求書から金額と日付を抜き出す、規程に照らして申請書の不備を見つける、といった業務は正解が1つに決まり、正答率で測れる業務です。
一方、問い合わせへの回答文の下書き、面談記録の要約、会議資料のたたき台のような業務は、良い出力が複数あり、人によって評価も分かれます。この種の業務に正答率の数字を置いても、誰が何を正解とするかが決まらないため、測れないままです。
| 書く項目 |
正解が決まる業務 |
正解が揺れる業務 |
| 業務の例 |
帳票からの項目の抜き出し、規程との照合、問い合わせの分類 |
回答文の下書き、記録の要約、資料のたたき台 |
| 精度の基準 |
正答率、見逃しと誤検出の件数 |
採点表(事実の誤りが無い・必要な項目がある・指定の書き方に沿う)の合格率 |
| テスト用データ |
正解付きの過去の実データ |
過去の入力と、人が書いた見本の出力 |
| 正解を決める人 |
業務の担当者が1人で付けられる |
複数人で採点し、評価がずれた例を話し合って基準をそろえる |
| 人が確認する範囲 |
確信度が低いものと例外だけ |
原則すべて。外へ出る前に人が直す |
| 合格の判定 |
数字で機械的に決まる |
採点表の合格率と、直すのにかかった時間で決める |
1つのシステムに両方が混ざることもあります。問い合わせ対応なら、問い合わせの分類は正解が決まる業務で、回答文の下書きは正解が揺れる業務です。要件書では業務を工程ごとに分け、工程ごとに上の表のどちらの書き方にするかを決めると、精度の基準を1つの数字に無理にまとめずに済みます。
AI に任せる判断と人が確認する判断は、重要度で分けて書く
人が確認する範囲は、「全部確認する」か「確認しない」かの二択にせず、判断の重要度で分けて書くのが基本です。AI事業者ガイドラインは、AI 提供者の具体的な手法として「人間の判断を介在させる仕組みの構築」を挙げ、判断が必要となる事項を重要度に応じて整理し、適切に対象を選ぶことが重要だとしています。生成 AI を組み込んだシステムでは、生成物を使う際に人の判断を介在させるための画面の工夫も検討するよう書かれています(総務省・経済産業省「AI事業者ガイドライン(第1.2版)別添(付属資料)」2026年3月31日公表)。
要件書には、判断を次の3つに分けて書き出します。
- AI がそのまま処理してよい判断: 誤っても影響が小さく、後から直せるもの(社内向けの分類、下書きの作成など)
- 人が確認してから外へ出す判断: 社外に届くもの、金額や期日を含むもの、個人の評価に関わるもの
- AI に任せない判断: 採否・処遇・事実認定など、理由を人が説明する責任があるもの
確認する判断には、確認する人の役割、確認する時点(出力の直後か、外へ出す直前か)、1件にかけてよい時間の目安、確認した記録の残し方を添えてください。確認にかかる時間を書いておかないと、運用が始まってから確認が形だけになりやすいためです。
AI エージェント のように、AI が他のシステムへ書き込んだり手順を自分で選んだりする場合は、止める仕組みも要件に入ります。IPA(情報処理推進機構)に事務局を置く AI セーフティ・インスティテュート(AISI)の評価観点ガイドは、ファイルへの書き込み・削除、権限の昇格、高負荷な計算の実行をリスクの高いタスクの例に挙げ、その実行時に異常を検知した場合に人間が介入・停止できるかを評価項目にしています。情報やツールへのアクセス権限が必要な範囲に限って付与されているかも、同じ観点の評価項目です(AIセーフティ・インスティテュート「AIセーフティに関する評価観点ガイド(第1.20版)」2026年7月7日公表)。
出力を制限する仕組みの考え方は AI ガードレールの用語解説 にまとめています。
精度の基準とテスト用データは、要件定義の時点で用意する
精度の基準は、合格の数字と、それを測るテスト用データを組にして書くものです。数字だけを書いても、何で測るかが決まっていなければ、開発する側と頼む側が別のデータで測り、結果が食い違います。
AI事業者ガイドラインは、精度の基準を決めるときに、想定される権利侵害の規模と頻度、適用できる技術水準、精度を維持するためのコストを踏まえるよう求めています。精度が基準を下回った場合は、データの質に留意して改めて学習させるとしています(総務省・経済産業省「AI事業者ガイドライン(第1.2版)別添(付属資料)」2026年3月31日公表)。誤ったときの影響が大きい業務ほど基準を高く置き、影響が小さい業務は基準を下げて人の確認で補う、という考え方です。
要件書に書く項目は次の5つです。
- 指標: 正答率だけでなく、見逃しと誤検出のどちらを重く見るか。不備の見落としが困る業務なら見逃しを、担当者の手間が増えるのが困る業務なら誤検出を重く見る
- 合格の数字: 今の業務の数字(人が処理したときの誤りの件数、所要時間)と並べて書く
- テスト用データ: 実際の業務から集め、例外や判断の難しい例も入れる。開発に使うデータとは分けて保管する
- 正解を付ける人: 業務の担当者のうち誰が、いつまでに付けるか
- 測る時点: 試作の後、本番の前、本番に入った後の定期的な測り直し
テスト用データは、業務の担当者にしか作れないものです。開発する会社に任せると、集めやすい典型的な例に偏ります。要件定義の工程に、担当者がテスト用データを集めて正解を付ける時間を入れておくと、後の検収が早く進みます。契約の中での精度の基準の扱いは、AI 開発の契約の記事 を参照してください。
基準の数字は、動く試作の出力を見てから決める
精度の基準を、要件定義書の上だけで決めきるのは難しい作業です。実際の出力を見ないまま高い正答率を置くと、開発が終わらないか、反対に低すぎて現場が使わないかのどちらかになりがちです。テスト用データの一部で試作を動かし、出力を業務の担当者と一緒に見てから数字を決めるほうが、合意までが早くなります。
Offers AX は、要件定義書ではなく動くもので合意する進め方をとっています。課題調査とユースケースの選定、効果測定の設計を行ったうえで、数週間で動くプロトタイプを作り、実業務での検証から本実装へ進めます。AI の出力は下書き・参考情報の位置づけとし、事実認定・合否・処遇は人が判断する前提です。効果が出ない場合に中止を選べることも、最初から契約の前提に含めています。
支援の範囲と進め方は Offers AX のサービスページ にまとめています。精度の基準や人が確認する範囲をどこまで決めればよいか迷っている時点でも、課題調査から入れるので、無料相談を申し込む からご連絡ください。
誤ったときの扱いは、止め方・戻し方・知らせる先まで書く
誤った出力は、運用が始まれば出るものとして扱います。要件に書くのは、誤りをどう見つけ、どの条件で止め、止めている間に業務をどう回すかです。
AI事業者ガイドラインは、AI 開発者の具体的な手法として、問題発生時にルールベースでシステムを動かす、人間の最終判断を経る等、機能の一部停止や縮小を可能にする設計(フォールバック設計)を挙げています。危害が生じたときの初動措置としては、ロールバックや代替システムによる復旧、AI システムの停止(キルスイッチ)、関係者への報告などが並んでいます(総務省・経済産業省「AI事業者ガイドライン(第1.2版)別添(付属資料)」2026年3月31日公表)。
要件書に書くのは次の4つです。
- 誤りの見つけ方: 利用者が誤りを報告する窓口と、人が出力の一部を抜き出して確かめる頻度
- 止める条件と止める人: どの種類の誤りが何件出たら止めるか、止める判断を誰がするか
- 止めている間の手順: 手作業に戻す手順と、その間の担当者
- 知らせる先: 社内の報告先と、社外に影響が出たときの連絡の流れ
止めている間の手順には、AI を入れる前の業務の手順書が使えます。導入と同時に元の手順書を捨てないことも、要件の1つとして書いておくと安心です。事故が起きた後の対応の流れは、AI インシデント対応の記事 で詳しく扱う内容です。
入力データの品質と権限は、読ませるデータの一覧と AI が動く権限で書く
AI の出力の質を左右するのは、読ませるデータの質です。AISI の評価観点ガイドは、データの品質は出力結果の信憑性・一貫性・正確性に影響するとし、学習データ・テストデータ・RAG 用データなどについて、正確性が保たれているか、破損していないか、属性による偏りが無いか、個人情報・機密情報・著作権等に関わる問題が無いか、構成管理が適切かを評価項目に挙げています(AIセーフティ・インスティテュート「AIセーフティに関する評価観点ガイド(第1.20版)」2026年7月7日公表)。
たとえば社内の規程や手順書を読ませて回答させる仕組みで古い規程が残っていれば、AI は古い規程のまま答えます。要件書には次の項目を書いてください。
- 読ませるデータの一覧と持ち主: どのシステムの、どの部署が管理するデータか
- 鮮度: 更新の頻度と、古いデータを外す手順
- 個人情報・機密情報の有無: 含む場合は利用目的の範囲内か、どの環境で処理するか
- AI が動く権限: 参照だけか書き込みもするか、誰の権限で動くか、利用者が見てよい範囲を超えて答えないか
- 記録: どのデータを参照して答えたかを、後から確かめられるか
データの棚卸しの進め方と個人情報の扱いは、それぞれ AI のデータ整備の記事 と 生成 AI と個人情報の記事 が参考になります。
モデルの利用料と応答速度は、業務の側から上限を決める
生成 AI のモデルを外部のサービスで使う場合、利用料は処理した文章の量(トークン)に応じて増える形が多く、件数が増えれば月の費用も増える仕組みです。応答の速さも、モデルの大きさや読ませる文章の長さで変わります。開発の後に「思ったより高い・遅い」と分かるとモデルの選び直しから始めることになるので、要件定義の時点で上限を書いておきます。
- 件数の見込み: 1日・1か月の処理件数と、繁忙期の件数
- 利用料の上限: 1件あたりと1か月あたりで、いくらまでなら業務の効果に見合うか
- 待てる応答時間: 画面の前で人が待つ業務か、夜間にまとめて処理してよい業務か
- 上限を超えたときの動き: 処理を止める、翌日に回す、軽いモデルに切り替える
AI エージェントは手順を自分で選ぶため、1件の処理でモデルを何回呼ぶかが事前に読みにくいのが難点です。AISI の評価観点ガイドは、AI エージェントの計算リソースの使用量を記録・確認できるか、使用量に応じて処理を中断したり優先順位を変えたりできるかを評価項目に挙げています(AIセーフティ・インスティテュート「AIセーフティに関する評価観点ガイド(第1.20版)」2026年7月7日公表)。
費用の内訳の考え方は、AI 開発の費用の記事 を参照してください。
運用後の見直しは、測り直す頻度と責任者を書く
AI は、本番に入った後に精度が変わります。業務の中身や入力の傾向が変わったり、外部のモデルの提供元がモデルを更新したりするためです。要件には、誰が、いつ、何を測り直すかを書いておきます。
AISI の評価観点ガイドは、AI セーフティ評価を開発・提供・利用の各フェーズで、一度のみでなく繰り返し実施するものとしています(AIセーフティ・インスティテュート「AIセーフティに関する評価観点ガイド(第1.20版)」2026年7月7日公表)。AI事業者ガイドラインも、AI 提供者に対して、適切な目的で AI システム・サービスが利用されているかを定期的に検証するよう求めています(総務省・経済産業省「AI事業者ガイドライン(第1.2版)別添(付属資料)」2026年3月31日公表)。
- 測り直す頻度: 月に1回、四半期に1回など、業務の変化の速さに合わせる
- 測るデータ: 要件定義で用意したテスト用データに、運用中に見つかった誤りの例を足していく
- モデルを更新したときの扱い: 本番に反映する前に、同じテスト用データで測り直す
- 使われ方の確認: 想定していない業務に使われていないか
- 見直しの責任者: 業務の持ち主の部署と、技術の窓口
本番に入った AI エージェントの運用の分担については、AI エージェントの運用の記事 も参考にしてください。
要件書の見出しの例
6項目を通常の要件と合わせると、AI 開発の要件書は次の見出しで組み立てられます。製品やモデルの名前は試作で比べた後に決めればよく、要件書の時点では書かなくてよい項目です。
| 見出し |
書くこと |
主に埋める人 |
| 1. 目的と対象の業務 |
業務の範囲、今の数字(件数・所要時間・誤りの件数) |
業務の持ち主 |
| 2. 業務の区分 |
工程ごとに、正解が決まるか揺れるか |
業務の持ち主と推進役 |
| 3. 判断の分担 |
AI に任せる判断・人が確認する判断・任せない判断 |
業務の持ち主 |
| 4. 精度の基準とテスト用データ |
指標・合格の数字・データの件数と中身・正解を付ける人 |
業務の担当者と開発側 |
| 5. 誤ったときの扱い |
見つけ方・止める条件・止めている間の手順・知らせる先 |
業務の持ち主と情報システム部門 |
| 6. 入力データと権限 |
データの一覧と持ち主・鮮度・個人情報・AI が動く権限 |
情報システム部門と法務 |
| 7. 利用料と応答速度 |
件数の見込み・利用料の上限・待てる時間・超えたときの動き |
推進役と開発側 |
| 8. 運用後の見直し |
頻度・テスト用データの追加・モデル更新時の再テスト・責任者 |
業務の持ち主 |
| 9. 機能・非機能の要件 |
画面・連携・可用性・セキュリティ |
情報システム部門と開発側 |
決めきれない項目は、決める時点と決める人を書いておく
要件定義の時点で、すべての欄が埋まるとは限りません。テスト用データがまだ集まっていない欄や、試作をしないと利用料の見込みが出ない欄は、残るのが普通です。空欄のまま進めず、「試作の後の打ち合わせで、業務の持ち主が決める」のように、決める時点と決める人を書いておけば、開発の途中で判断が宙に浮くことを防げます。
埋まらない欄が多い業務は、要件定義より先に、小さく試して数字を集める工程が要ります。試作で何を確かめるかは AI の PoC の記事 で扱っており、全社の AI 導入の進め方に関するほかの記事は AX 戦略のカテゴリ にまとめています。