メディア
AI エージェント

社内 AI チャットボットを作る前に決めること|対象の問い合わせ・参照する資料・閲覧権限・回答の責任

公開
執筆者: Offers AX 編集部・編集部

社内 AI チャットボットが現場で使われ続けるかどうかは、モデルの性能よりも、作る前の取り決めで大きく左右されます。決めることは6つです。どの問い合わせを任せるか、どの資料を参照させて誰が更新するか、閲覧権限が違う資料をどう扱うか、答えられないときに誰へ引き継ぐか、誤った回答の責任を誰が持ちどう確かめるか、そして利用状況を何で見るか。

この6つを決めずに作ると、改定前の規程を根拠にした回答や、見せてはいけない資料の要約が出てから慌てて止めることになりがちです。表にして先に決めておけば、作り方が既存サービスの設定でも個別開発でも、運用の中で直す場所がはっきりします。

O
執筆者

編集部

Offers AX 編集部

株式会社overflow が運営する Offers AX の編集部です。全社の AI 導入(AX)を支援する現場の知見をもとに記事を制作しています。

この執筆者の詳細・記事一覧 →

任せる問い合わせは、答えが文書に書いてあるものから選ぶ

最初に任せるのは、件数が多く、答えが社内の文書に書いてあり、間違えたときの影響が小さい問い合わせです。社内 AI チャットボットの多くは、社内の文書を検索し、見つけた箇所をもとに回答を作る仕組み(RAG=検索拡張生成)で動きます。文書に答えが無い問い合わせは、どれだけ性能の高いモデルを使っても根拠のある回答になりません。

候補を選ぶときは、総務・人事・情報システムの窓口に届いた問い合わせの記録を1〜3か月分集め、次の4つの観点で分けてみてください。

観点 任せやすい 任せにくい
答えの出どころ 規程・手順書・FAQ に書いてある 担当者の頭の中にしかない
個人の事情 誰が聞いても同じ答えになる 本人の雇用条件や家族の状況で答えが変わる
判断の有無 書いてあることを案内するだけ 例外を認めるか、可否の判断が要る
誤ったときの影響 聞き直せば済む 給与・処遇・法令上の手続きに影響する

例えば「出張の日当はいくらか」「VPN の接続手順はどこにあるか」は、文書に答えがあり、誰が聞いても同じ答えになるので任せやすい問い合わせです。

一方、「自分の有給休暇はあと何日残っているか」は本人のデータを読む必要があります。「この経費は精算できるか」のように例外の判断を含む質問は、AI には根拠の案内までを任せ、可否は担当者が答える形が無難でしょう。

最初から全部を任せようとせず、件数の多い分類から2〜3つに絞って始めると、整えるべき資料が見え、試してから広げる順序も組みやすくなります。小さく試して続けるかを判断する進め方は、PoC で止まらない進め方の記事で扱っています。

参照させる資料は、範囲と更新の持ち主を決めてから入れる

参照させる資料は、置き場所を丸ごと指定するのではなく、回答の根拠にしてよい文書を選び、文書ごとに更新の持ち主を決めてから入れるのが基本です。チャットボットは渡された資料の中身を正しいものとして扱うため、改定前の規程や下書きが混ざっていれば、それをもとにした回答が返ります。

検索の仕組みにある制約も知っておきたい点です。Copilot Studio(=社内向けの AI エージェントを設定で作る Microsoft のサービス)は、SharePoint を参照先にした場合、検索で見つかった文書のうち先頭の3件だけを要約して回答を作ります。アップロードしたばかりの文書はまだ検索の索引に載っていないことがあり、暗号化を伴う秘密度ラベルやパスワードで保護されたファイルは、利用者が開ける文書でも回答の根拠に使えません(Microsoft「SharePoint Knowledge Sources Don't Return Results - Copilot Studio」2026年8月更新)。

根拠に使われるのが3件だけということは、同じ話題の改定前の文書や重複した文書が残っていると、最新の文書が根拠から外れることがあるということです。資料を入れる前に、次の表を文書ごとに埋めておきましょう。

決めること 中身の例
根拠にしてよいか 正式に発行された規程・手順書だけにし、下書き・議事録・個人のメモは入れない
持ち主 文書を更新する責任を持つ部署と担当者
更新のきっかけ 規程の改定、制度の変更、システムの切り替え、問い合わせで誤りが見つかったとき
改定前の文書の扱い 参照先から外れた保管場所へ移す
確認の周期 四半期に1度、持ち主が中身と置き場所を確かめる

検索に使うデータの弱点は、LLM(大規模言語モデル)を使うアプリケーションの主要なリスクの1つに挙げられています。対策には、参照先の情報源を検証し、信頼できると確かめた情報源に限ることが含まれます(OWASP「Top 10 for LLM Applications 2025」LLM08:2025 Vector and Embedding Weaknesses)。

持ち主の決まっていない文書ほど、誰も誤りに気づかないまま回答の根拠に残りがちです。資料の整理は導入前の一度きりの作業ではなく、持ち主が回し続ける仕事として割り当ててください。

閲覧権限が違う資料は、検索の時点で質問した人の権限で絞る

閲覧権限が人によって違う資料を参照させるときは、回答を作る前の検索の時点で、質問した人が開ける文書だけに絞る仕組みが要ります。チャットボット全体に1つの強い権限を持たせると、人事評価や給与のように一部の人しか見られない文書の中身が、権限の無い人への回答に混ざるからです。

既存サービスには、この絞り込みが組み込まれているものがあります。Microsoft 365 Copilot が回答に使うのは、利用者が少なくとも閲覧の権限を持つ組織のデータだけです。そのため、SharePoint などの権限の仕組みを使い、適切な人が適切な資料にアクセスできる状態にしておくことが重要だとされています(Microsoft「Data, Privacy, and Security for Microsoft Copilot」2026年7月更新)。

裏を返すと、既存の共有設定が広すぎれば、その中身はそのまま回答に出ます。全社に共有したまま放置されたフォルダに人事の資料が入っていれば、チャットボットはそれを正当に読める資料として扱うわけです。導入の前に、参照先にするサイトとフォルダの共有範囲を棚卸ししてください。

権限が足りないときの振る舞いも、押さえておきたい点です。Copilot Studio は、利用者に読む権限が無い文書について、エラーを出さず、文書が見つからなかったのと同じ振る舞いをします(Microsoft「SharePoint Knowledge Sources Don't Return Results - Copilot Studio」2026年8月更新)。

つまり「答えられない」と返った問い合わせには、資料が無い場合と権限が無い場合の両方が含まれます。答えられないときの案内文は「該当する資料が見つからないか、閲覧の権限が無い可能性があります」のように両方を想定して書き、問い合わせ先を添えておくと利用者が迷いません。

個別開発なら、この絞り込みは自分たちで作るものです。組み込みの文書単位のアクセス制御を使えない場合の方法として、Azure AI Search(=Microsoft の検索基盤)では、文書ごとに閲覧できるグループの ID を項目に持たせ、検索のたびにその項目で結果を絞る方式が示されています。この ID は絞り込みに使う文字列にすぎず、それ自体で認証や認可を行うものではないこと、項目に値を入れる専用の機能は無いことも明記されています(Microsoft「Security Filter Pattern - Azure AI Search」2026年8月更新)。

元のシステムで権限を変えたときに、検索の索引の側も直す仕組みまで作らなければ、異動した人が前の部署の資料を読めるまま残ってしまうでしょう。OWASP も、権限を考慮した検索データの保管と、データの論理的な区分けを対策に挙げています。

人事・給与のように個人ごとに見られる範囲が違う資料は、最初の対象から外し、全社に公開してよい規程と手順書から始めるのが安全です。個人情報の扱いは生成 AI と個人情報の記事、情報の持ち出しの防ぎ方は生成 AI の情報漏洩を防ぐ記事にまとめています。

作り方は、資料の置き場所と権限の持ち方で選ぶ

既存サービスの設定で作るか、検索基盤と LLM を組み合わせて個別に開発するかは、参照させたい資料がどこにあり、その権限をどう扱いたいかで選ぶのが近道です。ここでは公式ドキュメントが詳しい Microsoft の製品を例にしましたが、他社の製品でも比べる観点は変わりません。

観点 既存サービスの設定(Microsoft 365 Copilot・Copilot Studio など) 個別開発(検索基盤と LLM を組み合わせる)
資料の置き場所 そのサービスがつながる場所(SharePoint など)にある資料が中心 基幹システム・独自のデータベース・複数の SaaS にまたがる資料も扱える
閲覧権限 元の場所の権限をそのまま使う。共有設定の棚卸しが前提 権限の情報を索引に持たせ、検索のたびに絞る仕組みを自分で作る
人への引き継ぎ 用意された仕組みを設定で使う。窓口のシステムとの接続が要る場合がある 社内の問い合わせ窓口やチケット管理と自由につなげられる
利用状況の記録 用意された画面で解決・引き継ぎ・離脱などを見られる 何を記録し、どこに保存するかを自分で決めて作る
向く場合 資料が1つのサービスにまとまっていて、権限も整っている 資料が散らばっている、業務システムの手続きまでつなげたい
気をつける点 製品の制約(ファイル形式・容量・検索に使う件数)に合わせる 権限の同期と運用の担い手を社内に用意する

既存サービスで始め、足りない部分が見えてから個別開発に移るのも選択肢の1つです。問い合わせに答えるだけでなく、申請の起票や台帳の更新のように業務システムを操作させたくなった時点で、作るものはチャットボットから AI エージェントに近づきます。

その作り方と発注の仕方は業務に入る AI エージェントの作り方と発注の仕方、操作の権限の決め方はAI エージェントに渡す権限の決め方で扱っています。AI エージェントに関する他の記事の一覧は AI エージェントのカテゴリです。

Offers AX は、動くものを見ながら対象と資料を決め、社内へ引き継ぐ

Offers AX は、課題調査とユースケースの選定から AI エージェントの設計・構築、社内への引き継ぎまでを、戦略と実装を分けずに進める支援です。数週間で動く試作品を作り、実際の業務で検証してから本実装に進むため、どの問い合わせを任せるか、どの資料を根拠にするかを、要件定義書ではなく動くものを見ながら決められます。効果は実測し、その数字で続けるかを判断する設計です。

構築は原則としてお客様の環境(GCP・Azure・AWS)で行い、当社の環境に顧客データを抱えません。問い合わせに使う社内文書や権限の情報を社外のサービスへ預けずに済み、契約が終わっても作ったものはお客様の環境に残ります。引き継ぎのドキュメントの整備と社内の運用体制の設計も、支援の範囲に含みます。

社内 AI チャットボットの対象選びや資料と権限の棚卸しから相談したい場合は、Offers AX のサービスページで進め方をご覧ください。任せたい問い合わせの候補が決まっているなら、無料相談を申し込むから日程を決められます。

答えられないときに、人へ引き継ぐ経路を先に作る

チャットボットが答えられない問い合わせは必ず出るので、誰に、どの情報を付けて引き継ぐかを、公開前に決めておくことが大切です。引き継ぎ先が無いと、利用者は答えの出ない会話を繰り返したあと、結局は従来の窓口へ同じ説明をし直すことになります。

決めることの具体例として、Copilot Studio の引き継ぎの仕組みを見てみましょう。引き継ぐときには、会話の履歴全体と関連する変数を担当者に渡せます。引き継ぎの起き方は2通りで、質問に合う話題が見つからないときや利用者が人との会話を求めたときに自動で切り替わる場合と、作り手が「この話題は人が対応する」と決めておく場合です。担当者の窓口システムとつながずに、問い合わせ窓口やチケット管理の URL を案内するだけの設定もできます(Microsoft「Hand off to a live agent - Microsoft Copilot Studio」2026年4月更新)。

社内向けに置き換えると、決めることは次の4つです。

決めること 中身の例
引き継ぎ先 分類ごとの担当窓口(経費は経理、アカウントは情報システム)
引き継ぐ条件 根拠の文書が見つからない、利用者が人を求めた、例外の判断を含む
渡す情報 会話の履歴、質問の分類、AI が参照した文書
人が答えた後 答えを規程や FAQ に反映し、次から AI が答えられるようにする

最後の行が特に大切です。人が答えた内容を資料に戻さなければ、同じ問い合わせが毎回人に回り続けます。引き継ぎの記録は、資料の足りないところを教えてくれる材料として扱いましょう。

誤った回答の責任は会社が持つ前提で、確認の手順を決める

チャットボットの回答が誤っていたときの責任は、作った会社が持つ前提で設計します。航空会社のウェブサイトのチャットボットが忌引運賃について誤った案内をした事案で、カナダ・ブリティッシュコロンビア州の民事紛争解決審判所は、チャットボットは自らの行動に責任を持つ別の法的主体だという航空会社の主張を退けました(Civil Resolution Tribunal「Moffatt v. Air Canada, 2024 BCCRT 149」2024年2月決定)。

決定は、ウェブサイト上の情報はすべて航空会社が責任を持つことは明らかだとし、チャットボットの正確さを確保するための合理的な注意を払わなかったと判断しています。ウェブサイトのある部分で得た情報を、利用者が別の部分で確かめ直さなければならない理由も説明されていない、という指摘でした。

社外の顧客向けの事案ですが、社内でも構図は変わりません。社員がチャットボットの案内どおりに申請して手続きを誤った場合に、「AI が間違えた」で済ませることはできないはずです。生成 AI の回答は100%事実であることが保証されたものではなく、他の人に送る前に利用者が自分の判断で確かめるべきだと、製品の説明にも明記されています(Microsoft「Data, Privacy, and Security for Microsoft Copilot」2026年7月更新)。

確認の手順は、回答の種類ごとに分けて決めると運用しやすくなります。

回答の種類 例 AI の扱い 確かめ方
文書の案内 手順書の場所、申請画面への行き方 根拠の文書へのリンクを付けて答える 利用者が根拠の文書を開いて確かめる
規程の要約 日当の金額、休暇の取得条件 該当する条文を示して答える 金額や期限は原文で確かめるよう案内を添える
個別の判断 精算できるか、例外を認めるか 判断はせず、根拠と担当窓口を案内する 担当者が答える

あわせて、誤りに気づいた人が報告する経路(回答ごとの評価ボタンや報告フォーム)と、報告を受けて資料を直す担当者も決めておきます。報告が資料の持ち主に届き、直した結果が回答に反映されるまでを1つの手順にしておけば、同じ誤りは繰り返されにくくなるでしょう。

利用状況は、解決・引き継ぎ・離脱と、答えられなかった質問で見る

利用状況は、会話が解決したか、人に引き継がれたか、途中で放置されたかの3つと、答えられなかった質問の中身で見ます。利用者数や会話の件数だけでは、使われているかは分かっても、役に立っているかまでは分からないためです。

Copilot Studio の分析画面では、利用者が実際にやり取りした会話が「解決」「引き継ぎ」「離脱」に分けて数えられます。解決には、利用者が解決したと確認した「確認済み」と、確認が無いまま終わった「推定」の区別があります。やり取りの途中で30分間操作が無く、解決にも引き継ぎにも至らなかった会話が離脱です。

回答できた質問とできなかった質問の数を示す回答率と、回答の一部を抜き出し、網羅性・関連性・根拠との一致の観点で AI が品質を判定する機能もあります(Microsoft「Monitor conversational agent effectiveness」2026年10月更新)。

記録の残り方も確かめておきましょう。同じ画面で会話の記録を見られるのは直近28日分で、利用者数の集計は利用者の認証を有効にしている場合に限られます(Microsoft「Monitor agent performance in Copilot Studio」2026年10月更新)。

見るときは、数字を次の行動に結び付けておくと見直しが続きます。

見る数字 多いときに疑うこと 次の行動
答えられなかった質問 資料が無い、権限が無い、対象外の質問 資料を足すか、対象外として案内文を直す
引き継ぎ 特定の話題で資料が足りない 人が答えた内容を資料に戻す
離脱 回答が長い、根拠が分からない、誤っている 該当する会話を読み、回答の作り方か資料を直す
低い評価の回答 改定前の文書を根拠にしている 資料の持ち主に知らせて文書を直す

月に1度、資料の持ち主と窓口の担当者が集まり、この表の上から順に直す運用が現実的です。会話の記録を長く残したい場合は、保存期間と閲覧できる人を決めたうえで、社内の保管先へ定期的に書き出してください。会話には社員の個人的な事情が書かれることもあるので、記録を読める人は運用の担当者に限っておくのが安全です。

社内 AI チャットボットは、公開した時点ではなく、資料と権限と引き継ぎの取り決めが回り始めた時点から役に立ちます。任せる問い合わせを絞り、根拠にする文書と持ち主を決め、権限の絞り込みと人への引き継ぎを用意してから公開する。そのうえで解決・引き継ぎ・離脱を月に1度見直していけば、窓口の担当者が受ける問い合わせは、人の判断が要るものへ少しずつ寄っていきます。

AI を全社の成果につなげる Offers AX

コンサルティング・AI エージェント開発・内製化支援の3本柱で、実装まで支援します。無料相談を受け付けています。

無料で相談する

Offers AX のサービスを見る

記事一覧へ