小規模言語モデル(SLM)とは、大規模言語モデル(LLM)より少ないパラメータで作られ、少ない計算資源で動く言語モデルのことです。特定の業務に絞って学習させやすく、社内のサーバーや端末の上でも動かせるので、データを社外に出さずに AI を使いたい企業の選択肢になっています。
規模の目安は「おおよそ百億パラメータまで」
何パラメータまでを SLM と呼ぶかに、統一された定義はありません。2026年7月24日に公表された総務省の「令和8年版 情報通信白書」は、SLM を一般に LLM と比べてパラメータ数が小さいモデルとしたうえで、規模感には幅があり、厳密な定義は統一されていない状況だと整理しています。
白書が挙げる例は3つです。海外のベンチマーク研究は70億以下、IBM の解説は数十億〜数百億程度、人工知能学会の論文には140億以下を SLM として扱う例がありました。白書自身は、おおよそ百億程度までのモデルを SLM として扱っています。
パラメータは、モデルが学習の中で調整する数値です。その数が多いほど幅広い知識を持たせやすい反面、動かすときに必要な計算機の能力とメモリが大きくなります。SLM はこの数を抑え、高性能な GPU を何台も並べなくても動く大きさにしたモデルです。
大規模言語モデルとの違いは、動かす場所と答えられる範囲に出る
SLM と LLM の違いは、性能の上下より、どこで動かせるかと、どこまで広い問いに答えられるかに表れます。企業が比べるときの観点を表にすると次のとおりです。
| 観点 | 小規模言語モデル(SLM) | 大規模言語モデル(LLM) |
|---|---|---|
| 得意な業務 | 特定の分野・業務に絞った要約、分類、定型の文書づくり | 幅広い知識を使う質問への回答、複雑な推論 |
| 必要な設備 | 計算量が少なく、1台のサーバーや PC、スマートフォンなどの端末でも動かせる | 大規模な計算資源が要るため、提供元のクラウドの API で使うことが多い |
| 費用の増え方 | 自社で動かす場合、費用の中心は設備の用意と運用。計算資源と消費電力を抑えられる | API で使う場合、処理する文章の量(トークン数)に応じて増える |
| データを社外に出さずに済むか | 社内のサーバーや端末の上で処理を完結させやすい | API で使う場合、入力したデータは提供元の環境で処理される |
| 向かない用途 | 汎用的な知識や高度な推論が求められる用途 | 通信の無い環境や、データを社外に出せない業務 |
SLM は、特定分野に限定して学習させることで軽量で精度の高いモデルにでき、計算資源や消費電力に制約のある環境でも使えます。通信を必要としないので、個人情報の保護やセキュリティの観点でも期待が集まっている技術です(総務省「令和8年版 情報通信白書」2026年7月24日公表)。
API で使う LLM の費用がトークン数でどう積み上がるかは、LLM のトークンの用語ページで扱っています。
限界についても、同じ白書ははっきり書いています。パラメータ数が少ないことで知識のカバー範囲や複雑な推論能力には限界があり、実務では検索拡張生成(RAG)で外部の知識を使う構成や、LLM と SLM を組み合わせる構成が有効なアプローチとして整理されているという記述です。
Microsoft も2024年4月23日の Phi-3 の発表で、SLM は単純な作業でよく働くように設計されており、深い知識の検索のためには設計されていないと説明しました。同じ発表には、顧客によって小さなモデルだけで足りる場合も大きなモデルが要る場合もあるとして、1種類のモデルから複数のモデルの組み合わせへ移っていく見方も示されています。
企業が SLM を選ぶのは、業務を絞れて、データを外に出したくない場面
SLM が合うのは、任せる業務がはっきり絞れていて、データを社外に出したくないか、通信に頼れない場面です。SLM を使った製品・サービスには、端末の上の AI 機能や、端末とクラウドの AI を使い分ける仕組みがあり、企業の活用でも通信の無い環境での作業の効率化や、領域特化型の AI の実装が始まっています(総務省「令和8年版 情報通信白書」2026年7月24日公表)。
企業の業務に置き換えると、選ぶ場面は次の3つです。
- 機密性の高い情報を扱う業務: 人事の面談記録、契約書、設計図面、顧客の個人情報のように、外部のクラウドへ送ることを社内の規程が認めにくいデータを扱う業務です。モデルを社内のサーバーや端末に置けば、処理が社外に出ない構成を作れます
- すぐに返事が要る業務・通信の無い現場: 工場の設備や店舗の端末のように、通信の遅れや途切れが業務を止める場面です。白書は、端末内で処理するエッジ AI としての利用や、即時応答が求められるサービスへの応用を挙げています
- 用途が限られている業務: 問い合わせの分類、特定の書式の書類からの項目の抜き出し、社内用語に沿った要約のように、入力と出力の形式が決まっている業務です。白書は、金融やコード生成など特定領域に特化した SLM で、安全性と信頼性を保ちながら業務を支える活用を挙げました
具体的な例として、白書は総務省の地域社会DX推進パッケージ事業による神戸市のスタジアムでの実証を紹介しています。監視カメラの近くの機器が人物や異常を検知して情報を圧縮し、エッジサーバーの上の SLM がその情報をまとめて要約と指示を作り、警備員に知らせる仕組みです。クラウドの AI と比べて通信の混雑に左右されず、省電力・省コストである点に期待が集まっていると書かれています。
導入するときに決める4つのこと
SLM を業務に入れるときは、モデルの名前より先に、任せる業務と動かす場所を決めます。この順番で決めておくと、検証の結果を比べやすいからです。
- 任せる業務と、正解の基準: 「問い合わせを10種類に分類する」「申請書から5つの項目を抜き出す」のように1つの業務に絞り、過去の処理結果から正解の例を集めて採点の基準にします。採点の作り方は AI エージェントの評価の記事が詳しく扱っています
- 動かす場所: 社内のサーバー、クラウドの自社専用の環境、現場の端末のどこに置くかを、扱うデータの区分と必要な応答速度から決めます。場所ごとの比べ方は、生成 AI をオンプレミスで動かす記事を参照してください
- 知識の持たせ方: 社内の文書を追加で学習させるか、RAG で必要な文書をその都度渡すかを決めます。どちらでも文書が整理されて最新の状態にあることが前提なので、AI 導入のためのデータ整備の記事を先に確かめておくと手戻りが減ります
- LLM との振り分けと、見直しの時期: SLM で答えられない問いをどこへ回すか、新しいモデルが出たときにいつ再評価するかを、最初の設計に書いておくことが大切です
業務に絞ったモデルを、自社の環境で動かすまで
SLM が成果につながるかは、モデルの性能より、任せる業務の切り出し方と、社内の環境に組み込む設計で決まります。株式会社overflow の Offers AX は、課題調査とユースケースの選定から、プロトタイプによる実業務での検証、効果を確かめてからの本実装、社内への引き継ぎまでを一体で支援するサービスです。要件定義書ではなく動くもので合意しながら進めるので、どの大きさのモデルで足りるかも、実業務で試した結果を見て判断できます。
構築はお客様の既存環境(GCP・Azure・AWS)で行い、当社環境に顧客データを抱えない設計です。高い機密性が求められる案件では、処理を貸与 PC の中で完結させ、テレメトリを含む外部通信の無効化、端末内の暗号化、アクセス制御、監査ログまで設計に含めた構成で対応しています。
支援の中身は Offers AX のサービスページにまとめてあり、自社のどの業務から SLM を試すかを相談したい場合は、無料相談を申し込むからご連絡ください。
向かないのは、幅広い問いに何でも答える用途
SLM が向かないのは、社内のあらゆる質問に1つのモデルで答える用途です。知識の範囲が狭いぶん、範囲の外の質問には答えられないか、もっともらしい誤りを返すおそれがあります。誤った答えへの備え方は、ハルシネーションの用語ページを参照してください。
全社員が使う社内の質問窓口のように、人事・経理・情報システムの規程を横断して答えるものは、LLM に社内文書を検索させる構成から始めるほうが組み立てやすく、作り方は社内 AI チャットボットの記事で扱っています。
どちらか一方に決める必要はなく、定型の業務は社内の SLM に任せ、幅広い知識が要る問いだけを LLM に回す振り分けも選べます。この振り分けを置けば、データを外に出す範囲を絞りながら、答えられる範囲を保つことが可能です。複数のモデルへの振り分けを1か所で管理する仕組みは、LLM ゲートウェイの用語ページで説明しています。
「軽量 LLM」との関係は、呼び名より動く環境で見る
SLM と「軽量 LLM」は重なる部分が大きく、呼び名は提供元によって違います。企業が選ぶときは呼び名より、何台の GPU で動くか、自社のどの環境に置けるかを確かめるほうが確実です。
提供元が自ら「小規模言語モデル」と呼んで発表したモデルには、Microsoft が2024年4月23日に発表した Phi-3-mini(38億パラメータ)と、Preferred Networks が2024年8月28日に提供を始めた PLaMo Lite(10億パラメータ)があります。Preferred Networks は PLaMo Lite を、自動車やロボット、製造設備、PC などのエッジデバイス向けに開発した、クラウドを介さずにエッジデバイス上や企業が自社で保有するオンプレミス環境で動く SLM という位置づけです。
一方、NTT は2025年10月20日に提供を始めた tsuzumi 2 を LLM と呼びつつ、「1GPUで動作可能な軽量モデル」と説明しました。オンプレミスやプライベートクラウドで運用でき、機密性の高い情報も扱える点が、NTT の挙げる特徴です。
どちらの呼び名でも、企業が確かめることは同じで、必要な計算機の規模、置ける場所、任せたい業務での精度の3つです。精度は公表された数字より、自社の業務の正解例で測った結果で判断します。
関連する用語
- LLM のトークン: LLM が文章を処理する単位で、API の費用や一度に渡せる文章の量の基準になる
- LLM ゲートウェイ: 複数のモデルへの問い合わせの振り分けや、利用の記録を1か所で管理する仕組み
- AI エージェント: 目的に沿って手順を組み、ツールを使いながら業務を進める AI。定型の手順の一部を SLM に任せる構成もある
- ハルシネーション: AI がもっともらしい誤りを返す現象。知識の範囲が狭い SLM では、範囲外の質問の扱いを決めておく
- コンテキストエンジニアリング: モデルに渡す情報を設計する考え方。RAG で SLM に文書を渡す構成でも、何をどの順で渡すかの設計に使う
AI エージェントの作り方と運用の記事は、AI エージェントのカテゴリにまとめています。