OWASP Top 10 for LLM Applications とは、非営利団体の OWASP が、大規模言語モデル(LLM)を組み込んだアプリケーションで特に注意すべきセキュリティ上のリスクを10項目にまとめて公開している一覧のことです。2026年11月6日時点の最新は2026年8月公開の2026年版で、自社の生成 AI アプリや AI エージェントを点検するときの確認項目として使えます。
OWASP Top 10 for LLM Applications は、LLM を部品として組み込んだアプリのリスク一覧
この一覧が扱うのは、LLM そのものの性能ではなく、LLM を部品として組み込んだ業務アプリケーション全体のセキュリティ上のリスクです。
発行元の OWASP(Open Worldwide Application Security Project)は、ソフトウェアのセキュリティを高める活動をする米国の非営利財団で、資料はすべて無料で公開されています(OWASP Foundation「About the OWASP Foundation」2026年11月6日確認)。LLM の一覧の作成と更新は、その中の OWASP GenAI Security Project が担当です。
2026年版は2026年8月4日に公開されました。前書きによると、公開の脆弱性データベースと AI による被害の事例を集めたデータベースから実際の事故7,714件を集め、分類できるだけの情報を持つ6,639件を振り分けたうえで、実務家の投票に4分の3、事故のデータに4分の1の重みを置いて順位を決めています(OWASP GenAI Security Project「OWASP Top 10 for LLM Applications 2026」2026年8月4日)。実務家の合意に、実際に起きた事故の傾向を重ねた順位です。
公式の配布ページは、想定する読み手を開発者・設計者・セキュリティの担当チーム・CISO(最高情報セキュリティ責任者)としています。前書きはこの一覧の対象を、モデルがアプリケーションの部品であるときのリスクと定め、AI エージェントに固有のリスクは別の一覧(Top 10 for Agentic Applications)に分けた構成です。
前書きが示す考え方も、企業が読むうえで押さえておきたい点です。だまされないモデルを作ろうとするのをやめ、モデルが誤っても大きな被害につながらないよう周りの仕組みを設計する、という立場をとっています。10項目は、モデルの賢さに頼らず、権限・検査・承認の仕組みで守ることを前提に並んでいます。
2026年版の10項目と、それぞれが指すリスク
2026年版の10項目は次の表のとおりで、番号がそのまま順位です。前書きは、上から順に10項目すべてに取り組むよう勧めています。
| 番号 | 項目名(原文) | 指すリスク |
|---|---|---|
| LLM01:2026 | Prompt Injection | 利用者の入力や、AI が読み込む外部の文書・道具の結果・画像や音声に紛れた指示によって、AI の動きが開発者の意図から外れる |
| LLM02:2026 | Sensitive Information Disclosure | 個人情報・認証情報・営業秘密などが、許可されていない経路で AI から出ていく |
| LLM03:2026 | Excessive Agency | AI に持たせた機能・権限・自律の度合いが大きすぎて、AI の誤りや乗っ取りが実害のある操作につながる |
| LLM04:2026 | Supply Chain | 学習データ・モデル・アダプター・変換の仕組み・配備の基盤など、外から取り込む部品に問題が紛れる |
| LLM05:2026 | Data and Model Poisoning | 事前学習・追加学習・埋め込みの作成・RAG・モデルの配布の過程で、データやモデルに有害な振る舞いや偏りが仕込まれる |
| LLM06:2026 | Unbounded Consumption | 推論の回数や量に歯止めが無く、サービスの停止・想定外の費用・モデルの複製につながる |
| LLM07:2026 | Misinformation | 誤った・不完全な・根拠の無い出力が、正しいものとして使われる |
| LLM08:2026 | Hidden Context Exposure | システムプロンプトのような、利用者に見せない前提の指示や設定が引き出されたり推測されたりする |
| LLM09:2026 | Vector and Embedding Weaknesses | 検索の仕組み(ベクトル検索・RAG)で、見せてはいけない文書が検索結果に混ざる、他の利用者の文書の存在が推測される |
| LLM10:2026 | Improper Output Handling | AI の出力を検査せずに他のシステムへ渡し、意図しない処理が実行される |
右の列は、各項目の定義を編集部が要約したものです(OWASP GenAI Security Project「OWASP Top 10 for LLM Applications 2026」2026年8月4日・2026年11月6日確認)。
公式サイトの LLM Top 10 の一覧ページ は、2026年11月6日に確かめた時点でも2025年版の10項目を表示していました。社内の資料やベンダーの説明で項目を引くときは、番号に付いた年(LLM03:2026 か LLM06:2025 か)まで確かめると、取り違えを防げます。
2025年版からの変更は、AI に持たせる権限の重みが増したこと
2025年版からの最も大きな変更は、AI に持たせる機能・権限・自律の度合いが大きすぎるリスク(Excessive Agency)が6位から3位に上がったことです。前書きは、これを一覧の中で最も影響の大きい動きと呼んでいます。
| 項目 | 2025年版 | 2026年版 |
|---|---|---|
| Prompt Injection | LLM01 | LLM01 |
| Sensitive Information Disclosure | LLM02 | LLM02 |
| Excessive Agency | LLM06 | LLM03 |
| Supply Chain | LLM03 | LLM04 |
| Data and Model Poisoning | LLM04 | LLM05 |
| Unbounded Consumption | LLM10 | LLM06 |
| Misinformation | LLM09 | LLM07 |
| System Prompt Leakage → Hidden Context Exposure | LLM07 | LLM08 |
| Vector and Embedding Weaknesses | LLM08 | LLM09 |
| Improper Output Handling | LLM05 | LLM10 |
表は、2025年版の公式ページと2026年版の前書き・本文を突き合わせた結果です(OWASP GenAI Security Project「2025 Top 10 Risk & Mitigations for LLMs and Gen AI Apps」2026年11月6日確認)。
名前と対象の範囲の変更は、次の3つです。
- 2025年版の System Prompt Leakage(システムプロンプトの漏えい)は、Hidden Context Exposure(隠れた前提情報の露出)に名前が変わった
- Prompt Injection は、画像や音声に指示を隠すような、文字以外を経由するものも対象に含めた
- Improper Output Handling は、AI が生成した安全でないコードも対象に含めた
Improper Output Handling の5位から10位への移動は、前書きによれば一覧の中で最も大きな下げ幅です。順位が下がっても対策が要らなくなったわけではなく、AI の出力を他のシステムへそのまま渡す設計は、2026年版でも一覧に残るリスクです。
企業にとっての意味は、AI の使い方が広がるほど3位の項目の比重が増すことにあります。社内の質問に答えるだけのチャットボットと、メールを送る・予定を入れる・データを書き換える AI エージェントでは、乗っ取られたときや誤ったときに起きることの大きさがまったく違います。AI エージェントに固有の守り方は、AI エージェントのセキュリティ の記事で詳しく扱う内容です。
企業の点検では、10項目を入力・出力・権限と外部連携・運用の4つに分ける
企業で点検するときは、10項目を「入力」「出力」「権限と外部連携」「運用」の4つに分けると、どの部署が何を確かめるかが決めやすくなります。この分け方は OWASP の公式の分類ではなく、社内の担当を割り振るために編集部が整理したものです。
| 分類 | 該当する項目 | 社内で起きうること | 主に確かめる担当 |
|---|---|---|---|
| 入力に関わる | LLM01 Prompt Injection / LLM05 Data and Model Poisoning | 社外のメールや Web ページに紛れた指示で AI の動きが変わる。検索や学習に使うデータが汚される | AI を作る開発の担当、データを持つ部署 |
| 出力に関わる | LLM02 Sensitive Information Disclosure / LLM07 Misinformation / LLM10 Improper Output Handling | 回答に個人情報が混ざる。誤った回答がそのまま社外の文書に使われる。AI の出力が検査なしに他のシステムで実行される | 開発の担当、AI の回答を使う業務部門、法務・個人情報の担当 |
| 権限と外部連携に関わる | LLM03 Excessive Agency / LLM08 Hidden Context Exposure / LLM09 Vector and Embedding Weaknesses | AI が人の確認なしにメール送信やデータ更新をする。システムプロンプトに書いた情報が引き出される。見る権限の無い文書が検索で見える | 情報システム部門、業務の責任者 |
| 運用に関わる | LLM04 Supply Chain / LLM06 Unbounded Consumption | 取り込んだモデルや部品の問題がそのまま入る。利用量に上限が無く費用が膨らむ | 情報システム部門、AI 推進の担当、購買・経理 |
1つの項目が複数の分類にまたがることもあります。表は担当を決める出発点として使い、細かな境目にこだわりすぎないのが実務的です。
自社の AI を点検するときは、使っている AI の棚卸しから始める
点検は、社内で動いている AI の一覧を作り、それぞれが何を読み、何を出し、何をできるかを書き出すところから始めます。
- 社内の AI を棚卸しする: 情報システム部門が把握しているものに加え、部署が独自に契約した AI サービスや、個人が業務で使っている AI も洗い出す。把握されていない AI の扱いは シャドー AI を参照
- AI ごとに、読むもの・出すもの・できる操作を書き出す: 読む社内資料と社外の文書、回答の使い道、呼び出せる道具とその権限を1行ずつ並べる
- 4つの分類で、先に見る項目を絞る: 社内規程に答えるだけのチャットボットなら入力と出力が中心になり、メール送信や社内システムの更新ができる AI エージェントなら権限と外部連携から見る
- 項目ごとに担当と確かめ方を決める: 設計書と設定で確かめるものと、実際に試して確かめるものを分ける。試し方は AI レッドチーミング を参照
- どの年の一覧で点検したかを記録する: LLM03:2026 のように年つきの番号で残し、一覧が更新されたら変わった項目だけを見直す
点検の結果は、AI を使う業務ごとのリスクの台帳として残しておくと、社内のルール作りにもそのまま使えます。全社の決まりへの落とし込み方は、AI ガバナンス と AI のリスク管理 が参考になるはずです。
株式会社overflow の Offers AX は、コンサルティング・AI エージェント開発・内製化支援の3つを、業務の現場に近い距離で戦略立案と実装を一体で進める FDE 型で支援するサービスです。AI の処理基盤は認証や監査ログを含めてお客様の既存環境(GCP・Azure・AWS)に構築し、当社の環境には顧客データを抱えません。数週間で動くプロトタイプを作り、実際の業務で確かめてから本実装へ進む流れです。
支援の進め方は Offers AX のサービスページ をご覧ください。社内の AI の棚卸しや、AI エージェントに持たせる権限の決め方を既存の業務とあわせて相談したい場合は、無料相談を申し込む からお申し込みいただけます。
分類ごとに確かめることは、OWASP が挙げる対策から引ける
4つの分類それぞれで確かめることは、OWASP が各項目に挙げている対策から引き出せます。攻撃の手口には触れず、点検で見る点に絞って整理しました。
入力に関わる項目では、AI が読む文書を指示として扱わない
入力の点検で確かめるのは、AI が読む文書の中に、AI の動きを変える指示が紛れていないかという点です。
OWASP は、利用者が自分で入力する直接の場合と、AI が読み込む外部の文書を経由する間接の場合を分けて説明しています。間接の場合は埋め込まれた指示を利用者が見ておらず、本人が気づかないまま AI の動きが変わり得る点が厄介です。2026年版では画像・音声・動画に紛れたものも対象に加わり、文字だけでなく画像や音声の入口でも検査が要るとしています(OWASP GenAI Security Project「OWASP Top 10 for LLM Applications 2026」2026年8月4日)。
データとモデルの汚染(LLM05)は、事前学習・追加学習・埋め込みの作成・RAG・モデルの配布のどの過程でも起こり得る、というのが OWASP の説明です。
点検では、AI が読む社外の文書(メール・Web ページ・取引先から届いたファイル)を一覧にし、それを指示として扱わない設計になっているかと、検索や追加学習に使うデータの出どころを記録しているかを確かめます。個別のリスクの仕組みは プロンプトインジェクション、機械で検査して止める仕組みは AI ガードレール を参照してください。
出力に関わる項目では、AI の出力を検査してから使う
出力の点検で確かめるのは、AI が出したものを、人や他のシステムが確かめずに使っていないかです。
出力の不適切な処理(LLM10)について OWASP は、AI の出力を信頼しない前提で検査してから他の機能へ渡すこと、データベースを操作するときは出力をそのまま命令に組み込まない書き方(パラメータ化クエリ)を使うことを挙げています。誤情報(LLM07)の原因にはハルシネーションと並んで出力への過信が挙げられており、流暢で自信のある回答ほど正しいものとして扱われやすい、という指摘です。
影響の大きい用途に向けては、回答の根拠を示させる仕組みと、人の承認を挟む手順が対策に並びます。機微な情報の漏えい(LLM02)では、AI の推論の途中経過や道具に渡した引数も出力として扱い、閲覧の制限が無い監視ツールにそのまま記録しないことが対策の1つです。
点検では、AI の回答を社外の文書や顧客への連絡に使う業務を洗い出し、どこで人が確かめているかを書き出してください。誤りの性質は ハルシネーション で詳しく扱っています。
権限と外部連携に関わる項目では、AI に持たせる道具と権限を絞る
権限の点検で確かめるのは、AI が誤ったり乗っ取られたりしたときに、何ができてしまうかです。
OWASP は Excessive Agency(LLM03)の原因を、機能が多すぎる、権限が強すぎる、自律の度合いが高すぎる、の3つに分けています。対策の見出しも、持たせる道具を減らす、道具の機能を絞る、道具の権限を絞る、利用者の承認を求める、と並ぶ構成です。
隠れた前提情報の露出(LLM08)の対策は、システムプロンプトのような利用者に見せない前提に機微な情報を置かないことと、認可やアクセスの制御を AI の判断に任せず、AI とは別の仕組みで行うことです。
ベクトルと埋め込みの弱点(LLM09)では、利用者ごとの絞り込みを検索の条件そのものに含め、サーバー側で確かめるよう求めています。検索してから絞り込む作りだと、他の利用者の文書を読めなくても、件数や応答時間から文書の存在を推測される余地が残るためです。
点検では、AI ごとに使える道具と権限の一覧を作り、送信・削除・支払いのように取り消しにくい操作に人の承認が入っているかを確かめます。社外のツールやデータへ AI をつなぐときの注意点は、MCP の企業でのセキュリティ の記事を参照してください。
運用に関わる項目では、費用の上限と部品の出どころを管理する
運用の点検で確かめるのは、利用量と費用に上限があるか、取り込んだモデルや部品の出どころを把握しているか、の2点です。
際限のない消費(LLM06)の対策として OWASP は、利用回数の制限と入力の大きさの検査、費用の上限を超えたら止める仕組み、AI エージェントの処理が一定の量を超えたら自動で止める仕組みを挙げています。利用量の上限や記録を1か所で管理する方法として、LLM ゲートウェイ を置く選択肢もあるでしょう。
サプライチェーン(LLM04)が対象にするのは、学習データ・モデル・アダプター・変換の仕組み・配備の基盤などの部品です。MCP サーバーや道具の登録先については、AI エージェントの一覧の項目(ASI04)で扱うとしています。点検では、使っているモデルと外部の部品の一覧を作り、更新のたびに誰が確かめるかを決めておくのが基本です。
似た語との違いは、対象とする範囲と使う場面
似た語との違いは、何を対象にし、どの場面で使うかにあります。2026年版の特徴の1つは、NIST・MITRE ATLAS・CWE など他の枠組みとの対応表を広げたことです(OWASP GenAI Security Project 2026年9月1日の発表)。
| 語 | 指すもの | OWASP Top 10 for LLM Applications との関係 |
|---|---|---|
| OWASP Top 10 | 同じ OWASP が公開している、Web アプリケーションのセキュリティに関する開発者向けの啓発資料 | 同じ発行元の別の一覧。LLM を組み込んだ Web アプリは両方の確認対象になる |
| OWASP Top 10 for Agentic Applications | 同じプロジェクトが公開している、AI エージェントに固有のリスクの一覧 | LLM の一覧はモデルを部品として扱い、AI エージェントの自律的な動きはこちらが扱う |
| NIST AI RMF | 米国の NIST が2023年1月に公表した、AI のリスクを管理するための任意の枠組み | 組織のリスク管理の枠組み。LLM の一覧は、その中で技術的なリスクを洗い出す確認項目として使える |
| AI ガードレール | AI への入力と、AI の出力・操作を検査して止める仕組み | 一覧の多くの項目に対する、対策の手段の1つ |
| AI レッドチーミング | 攻撃する側の視点で AI を試し、弱点を探す取り組み | 一覧の10項目を、試す観点の出発点として使える |
組織としての管理の枠組みで全体の方針を決め、この一覧で技術的なリスクを1つずつ確かめる、という組み合わせが使いやすいでしょう。
OWASP Top 10 for LLM Applications と一緒に使われる用語
- LLM(大規模言語モデル): 大量の文章から学習し、文章の生成や要約をする AI のモデル
- AI エージェント: 道具を使いながら複数の手順を自分で進める AI。詳しくは AI エージェント
- プロンプトインジェクション: AI に読ませる文書や入力に指示を紛れ込ませ、AI の動きを変える攻撃。詳しくは プロンプトインジェクション
- ハルシネーション: AI がもっともらしい誤りを作ること。詳しくは ハルシネーション
- LLM ゲートウェイ: 複数の LLM の呼び出しを1か所に集めて管理する仕組み。詳しくは LLM ゲートウェイ
- シャドー AI: 会社が把握していないところで業務に使われている AI。詳しくは シャドー AI
AI エージェントを業務に入れるときの設計と運用は、AI エージェントのカテゴリ の記事にまとめています。