AI バイアスとは、学習データや設計の偏りによって、AI の判断や出力が特定の属性の人に不利に偏る現象のことです。採用・評価・与信のように人の処遇を左右する用途で問題になりやすく、偏りをゼロにはできない前提で、確かめ方と人の判断の入れ方を先に決めておくことが対策の中心になります。
AI バイアスは、データ・設計・使われ方のどこからでも入る偏り
AI バイアスは、学習に使うデータだけでなく、何を良しとするかの設計や、出力を人がどう使うかからも生まれる偏りです。
日本の国の指針は公平性の原則として、AI システム・サービスの開発・提供・利用で、人種・性別・国籍・年齢・政治的信念・宗教などの多様な背景を理由とした、特定の個人や集団への不当で有害な偏見と差別をなくすよう努めることを求めています(総務省・経済産業省「AI事業者ガイドライン(第1.2版)」2026年3月31日公表)。
同じ項には、それでも回避できないバイアスがあると認めたうえで、人権と多様な文化を尊重する観点から許容できるかを評価し、そのうえで開発・提供・利用する、という考え方も書かれています。偏りを無くしきることより、どこまでを許すかを評価して決めることが求められているわけです。
ガイドラインの言う「バイアス」は、サンプリングの偏りのような統計の用語と、思い込みのような認知の偏りを指す心理学の用語をまとめた呼び方です。
米国の国立標準技術研究所(NIST)の文書も、バイアスは AI に新しいものでも AI だけのものでもなく、AI システムでバイアスのリスクをゼロにはできない、という前提から出発します。そのうえで、バイアスを特定し、理解し、測り、管理し、減らすための方法を整えていく立場を取っています(NIST「Towards a Standard for Identifying and Managing Bias in Artificial Intelligence(NIST SP 1270)」2022年3月公表)。
NIST は AI バイアスを制度・統計・人の3つに分けている
NIST は AI バイアスを、制度的なバイアス、統計的・計算的なバイアス、人のバイアスの3つに分類しています。
いま行われている対策の多くはデータの代表性やアルゴリズムの公平性といった計算の側に集中していて、人と制度の側の要因は見落とされている、という問題意識から作られた分類です(NIST「NIST SP 1270」2022年3月公表)。
| 種類 | 中身 | 企業の現場で起きる例 |
|---|---|---|
| 制度的なバイアス(Systemic) | 組織の手続きや慣行が、特定の集団を有利にし、別の集団を不利にする。意識的な偏見が無くても、多数派が既存のルールに従うだけで生じる。AI の学習データや、AI を作り使う組織の慣行に入り込む | 過去の採用・昇進の記録に当時の慣行による属性の偏りが残り、それを学んだ AI が同じ傾向を再現する |
| 統計的・計算的なバイアス(Statistical / Computational) | 標本が母集団を代表していないことから生じる系統的な誤り。偏見や差別の意図が無くても起きる。ある種類のデータで学習した AI が、そのデータの外にうまく当てはまらないときに出やすい | 特定の職種や拠点のデータが少なく、その人たちに対する判定の精度だけが低い |
| 人のバイアス(Human) | 人の思考の系統的な誤り。多くは無自覚で、AI の出力を使って判断するときや、欠けた情報を補うときに表れる。バイアスへの意識を高めるだけでは制御できない | AI が出した評価案や候補の順位を、そのまま正しいものとして受け入れる |
表の「企業の現場で起きる例」は、NIST の定義をもとに編集部が人事・審査の業務に置き換えたものです。
3つは別々に起きるのではなく、互いに影響し合います。NIST は AI のライフサイクルを企画(Pre-Design)・設計と開発・導入(Deployment)・試験と評価の4つで整理し、企画の時点で決める「何を問題とするか」「そもそも AI が要るか」といった判断にも、組織の制度的なバイアスや限られた視点が反映されうるとしています。企画の時点の判断が、その後の設計・開発と導入の全体に及ぶということです。
問題になりやすいのは、採用・評価・与信など人の処遇を決める判断
AI バイアスの影響が大きいのは、採用・人事評価・与信のように、AI の出力が個人の処遇や機会を左右する用途です。
NIST は、AI のバイアスが害を生んだ分野として採用・医療・刑事司法を挙げ、仕事やローンに申し込んだ人が公平に判断されていないと感じると AI への社会の信頼が下がる、と指摘しています。AI を使った採用の技術が、人が担っていた採用の工程を置き換える形で広がっていることにも触れています。
下の表は、起きる場面ごとに、偏りが入る原因をデータの偏り・指標の選び方・利用のされ方の3つに分けて、編集部が例を整理したものです。
| 場面 | データの偏り | 指標の選び方 | 利用のされ方 |
|---|---|---|---|
| 書類選考の絞り込み | 過去の合格者の記録が、特定の性別・年齢・学歴に偏っている | 「過去に採用した人に似ているか」を良い応募者の基準にする | 上位の応募者だけを人が読み、下位は AI の判定のまま見送る |
| 人事評価・昇進候補の提示 | 評価者ごとの甘さ・厳しさが過去の評価記録に残っている | 在籍年数や勤務時間など、属性と結びつきやすい値を成果の代わりに使う | AI の評価案に、承認者が根拠を考えずに承認の印を押す |
| 与信・審査 | 過去に審査を受けた層のデータしか無く、申し込みの少なかった層の傾向が分からない | 返済の実績ではなく、住所や勤務先を返済能力の代わりに使う | 否決の理由を説明できないまま結果だけを伝える |
| 生成 AI での文面・要約づくり | 参照させる社内文書や過去の文例に、特定の属性への言い回しの偏りがある | 「よく使われてきた文面に近いか」で良し悪しを決める | 生成された文面や面談記録の要約を、確かめずにそのまま使う |
属性の列をデータから外しても、偏りは残りえます。学習データに表れない潜在的なバイアスの例として、国の指針は、人種や性別などの明らかな属性を取り除いたデータでも関連する情報から属性が推し量られてしまう場合と、複数の属性の組み合わせで偏りが生じる場合(交差バイアス)を挙げています(総務省・経済産業省「AI事業者ガイドライン(第1.2版)」2026年3月31日公表)。
性別の列を外しても、名前・出身校・休職の履歴などから性別や年齢が推し量れることがある、ということです。属性の列を外しただけで「公平に作った」と言い切らないことが大切です。
人事の業務のどこに AI を入れられるかの全体像は、人事の AI 活用の10領域 の記事にまとめています。
生成 AI のバイアスは、プロンプトと参照させる情報からも入る
生成 AI では、モデルの学習データに加えて、利用者が入力するプロンプトや、答えるときに参照させる情報もバイアスの入り口になります。
国の指針はバイアスを生む要因が多岐にわたるとして、アルゴリズム、学習データ、AI モデルの学習過程、利用者が入力するプロンプト、推論時に参照する情報、連携する外部サービス、利用者の振る舞いまでを含めて、公平性の問題になりうる要因を特定するよう求めています(総務省・経済産業省「AI事業者ガイドライン(第1.2版)」2026年3月31日公表)。
モデルを自社で作っていない会社でも、プロンプトのひな形、参照させる社内文書、出力の使い方を決めるのは自社です。外部の生成 AI を使う企業にも、確かめる対象は残るということです。
実務で始めやすい確かめ方は、次の3つです。
- プロンプトのひな形に、判断に関係の無い属性(性別・年齢・国籍など)を入れていないかを見る
- 参照させる文書や文例が、特定の部署・職種・時期に偏っていないかを見る
- 属性だけを入れ替えた同じ内容の入力(名前だけを変えた職務経歴など)を用意し、出力の評価や言い回しが変わらないかを比べる
3つ目は、AI レッドチーミング で公平性の観点を確かめるときにも使える方法です。
対策は、データの確認・属性ごとの結果の比較・人の最終判断を組み合わせる
AI バイアスへの対策は1つの手当てで完了せず、データの確認、属性ごとの結果の比較、人の最終判断の3つを組み合わせて行います。
データの確認
最初に確かめるのは、データに誰が含まれ、誰が欠けているかです。NIST はデータの課題を扱う章を「誰が数えられているか(Who is Counted?)」と題し、データセットを、試験・評価と人の要因に並ぶ3つの課題の1つに置いています(NIST「NIST SP 1270」2022年3月公表)。
属性ごとの件数、データの期間、どの拠点・職種から来たデータかを一覧にし、件数の少ない集団を把握しておきます。属性を推し量れる列が残っていないかも、同じ時に確かめる項目です。
属性ごとの結果の比較
次は、AI の判定結果を属性ごとに分けて比べる工程です。NIST は、統計的なバイアスの伝統的な試験は、人種や性別などの保護された属性の間で予測の違いを見るものだと説明しています。
NIST SP 1270 は例として、米国の雇用選考の統一ガイドライン(UGESP)を引いています。ある人種・性別・民族の選考通過率が、最も高い集団の通過率の5分の4(80%)未満なら、連邦の執行機関は一般に不利な影響の証拠とみなす、という規定です。米国の行政の目安で日本の法令の基準ではないものの、属性ごとの通過率を並べて見る習慣を作るときの参考になるでしょう。
注意したいのは、公平性の指標を1つに決めきれないことです。NIST は、ある種の数学的な公平性の条件は限られた場合を除いて同時には満たせないとしつつ、バイアスを減らすことと良い性能は両立できるとも書いています。どの属性で何を比べ、どこまでの差を許すかは、用途ごとに事前に決めて記録しておくのが現実的です。
人の最終判断
最後は、AI に単独で判断させず、人が判断する時点を決めることです。AI の出力結果が公平性を欠かないよう、適切なタイミングで人間の判断を介在させる利用を検討し、その人間の判断が自動化バイアスに左右されないよう対策を講じるべきだ、というのが国の指針の考え方です(総務省・経済産業省「AI事業者ガイドライン(第1.2版)」2026年3月31日公表)。
対策の例として同じガイドラインが挙げるのは、AI の欠点を理解できるトレーニングを受けることや、AI の評価や判断を承認するときに、承認する理由や根拠を人自身が独自に考えてから承認することです。
ただし、人を置けば十分というわけでもありません。NIST は、人が AI の判断を有効かつ客観的に監督できるという見方は問題のある前提だとし、人も自分の認知バイアスを判断に持ち込むと指摘しています。承認の画面に AI の評価案だけを出すのではなく、承認者が自分の言葉で根拠を書く欄を設けておけば、確認したつもりで承認する運用を減らせるはずです。
確かめる時期も、使い始める前の1度では足りません。NIST は、導入の前にバイアスへの手当てを十分に評価すること、導入後も性能を監視して評価し直すことが必要だとしています。
企業が AI を人の処遇に使う前に決めること
人の処遇に関わる用途で AI を使い始める前に決めておくのは、用途、比べる属性と指標、許容の範囲、人の関わり方、記録、見直すきっかけの6つです。
| 決めること | 中身 |
|---|---|
| 用途と影響 | どの判断に AI を使うか。結果で誰の処遇・機会が変わるか |
| 比べる属性と指標 | 性別・年齢などのどの属性で、通過率・評価の分布・誤りの割合のうち何を比べるか |
| 許容の範囲 | 回避できない差をどこまで許すか。それを誰が評価して決めるか |
| 人の関わり方 | どの時点で誰が判断するか。承認者が根拠を書く欄を設けるか |
| 記録 | 入力・AI の出力・人の判断とその根拠を、後から追える形で残すか |
| 見直すきっかけ | モデルの更新、参照させるデータの追加、利用する部署や対象者の拡大 |
株式会社overflow の Offers AX は、コンサルティング・AI エージェント開発・内製化支援の3つを、業務の現場に近い距離で戦略立案と実装を一体で進める FDE 型で支援するサービスです。人事業務に特化した AI エージェントの開発と伴走も扱っています。
AI の出力は下書き・参考情報の位置づけとし、事実認定・合否・処遇は人が判断する、というのが支援の前提です。仕組みはお客様の環境(GCP・Azure・AWS)に構築し、当社の環境には顧客データを抱えません。数週間で動くプロトタイプを作り、実際の業務で確かめてから本実装へ進む流れです。
支援の進め方は Offers AX のサービスページ をご覧ください。採用や評価に AI を入れる前に、属性ごとの比べ方や承認の手順をどう組むかを相談したい場合は、無料相談を申し込む からお申し込みいただけます。
6つを全社のルールにどう組み込むかは AI ガバナンス の記事、リスクを洗い出して手を打つ流れは AI のリスク管理 の記事が扱っています。許容の範囲を社内のどの会議体で決めるかは、AI 倫理委員会 の記事が参考になるはずです。
AI バイアスと公平性・責任ある AI・自動化バイアスの違い
AI バイアスは起きてしまう偏りという現象を指し、公平性はそれを抑える側の原則、責任ある AI はさらに広い原則の集まりを指します。
| 用語 | 何を指すか | AI バイアスとの関係 |
|---|---|---|
| AI バイアス | AI の判断や出力が特定の属性の人に不利に偏る現象 | このページの用語 |
| 公平性 | 属性を理由にした不当で有害な偏見と差別をなくすよう努める原則 | AI バイアスを抑え、許せる範囲を決めることが中身の中心 |
| 責任ある AI | 公平性・透明性・安全性・プライバシー保護・説明責任などの原則に沿って AI を開発・利用・統治する考え方 | 公平性はその原則の1つ |
| 自動化バイアス | 人が自動化されたシステムや技術を過度に信頼し、依存する現象 | 人のバイアスの1つ。AI の偏りを人が見逃す原因になる |
| AI ガバナンス | 原則を組織で回し続ける体制と手順 | AI バイアスの確認を、誰がいつ行うかを決める器 |
社内で議論するときは、「AI に偏りがあるか」という現象の話と、「どこまでの差を許すか」という公平性の判断の話を分けておくと、技術の担当と人事・法務の担当で話が噛み合いやすくなります。
AI バイアスと一緒に使われる用語
AI バイアスの話題では、次の用語がよく並びます。
- 自動化バイアス: 人間の判断や意思決定で、自動化されたシステムや技術への過度の信頼や依存が生じる現象。AI事業者ガイドラインが定義を置いている
- 交差バイアス: 性別と年齢のように、複数の属性の組み合わせによって生じる偏り
- 代理変数: 属性そのものではないが属性と強く結びつき、属性の代わりとして働いてしまう値。出身校・住所・休職の履歴など
- 公平性の指標: 属性ごとの通過率の差や誤りの割合の差など、偏りを数で比べるための物差し
- AI事業者ガイドライン: 総務省と経済産業省がまとめた、AI の開発者・提供者・利用者向けの指針。公平性を共通の指針の1つに置いている
- NIST AI RMF: NIST が公表した、AI のリスクを管理するための任意の枠組み。NIST SP 1270 はこれに関連する文書の1つ
- AI レッドチーミング: 攻撃者の視点で AI を試し、弱点を見つけて直す評価手法
- データガバナンス: データの品質や扱い方を組織で管理する取り組み。学習データや参照データの偏りの確認とつながる
人事を起点に AI を業務へ入れる進め方は、人事の AX のカテゴリ の記事にまとめています。