SLM(小規模言語モデル)の定義とパラメータ数の目安
SLM は、パラメータの数がおおむね数百万から数十億の範囲にある言語モデルを指します。IBM の解説は、LLM が数千億、場合によっては数兆のパラメータを持つのと対照的だと説明しています(IBM「小規模言語モデル(SLM)とは」・2024年10月31日公開)。
パラメータは、モデルが学習の中で調整する重みなどの内部の変数です。数が少ないほど、動かすのに必要なメモリと計算の量は減ります。IBM の解説は、エッジ・デバイスやモバイル・アプリケーションのように計算資源の限られた環境でも使える点を、SLM の特徴に挙げています。
同じ解説が SLM の例に挙げるモデルと、そのパラメータの規模は次のとおりです。
モデル | 公開元 | 解説が挙げるパラメータの規模 |
|---|
Gemma | Google | 20億・70億・90億 |
Granite 3.0 | IBM | 20億・80億 |
Llama 3.2 | Meta | 10億・30億 |
SLM と LLM の境目を決める共通の基準はなく、何億のパラメータから SLM と呼ぶかは、モデルの公開元や解説によって違います。
SLM と LLM の違いは規模と得意な範囲
SLM と LLM の違いは、パラメータの規模と、それに伴う動かし方・得意な範囲の違いです。LLM は幅広い話題に対応できる代わりに大きな計算資源を必要とし、SLM は対象を絞った業務を、少ない計算資源と短い応答時間で処理できます。
比べる点 | SLM | LLM |
|---|
パラメータの規模 | 数百万〜数十億 | 数千億〜数兆 |
動かす場所 | 端末・オンプレミス・プライベートクラウドにも置ける | 大規模な計算資源を持つクラウドの API で使うことが多い |
得意な範囲 | 特定の業務に合わせて調整したタスク | 幅広い知識を要する複雑なタスク |
応答の速さ | パラメータが少なく短い時間で応答できる | 規模に応じて計算に時間がかかる |
(IBM「小規模言語モデル(SLM)とは」をもとに作成)
IBM の解説は、SLM のメリットとして、複数の GPU(Graphics Processing Unit)などの特殊な設備がなくても利用や実験ができること、プライベートなクラウドやオンプレミスに置けるためデータ保護を強めやすいこと、応答が速いこと、開発・インフラ・運用の費用を抑えられることを挙げています。プライバシーとセキュリティが重く問われる金融や医療の分野では、特に価値があるという説明です。
限界として挙げているのは、幅広い知識を要する複雑なタスクは不得手な傾向にあること、知識の幅が狭いこと、大きなモデルのバイアスを引き継ぐおそれがあること、ハルシネーション(事実と違う出力)の検証が欠かせないことの4つです。
SLM と LLM は、どちらか一方を選ぶものとは限りません。IBM の解説は、問い合わせを評価して送り先のモデルを選ぶ仕組み(インテリジェント・ルーティング)を作り、基本的な依頼は SLM、複雑な依頼は LLM に任せる組み合わせ方も紹介しています。
SLM が向く業務と向かない業務
SLM が向くのは、扱う範囲が決まっていて、同じ種類の処理を大量に、速く、手元に近い環境で回したい業務です。幅広い知識を組み合わせて答える必要のある業務には向きません。
向く業務 | 向かない業務 |
|---|
帳票・文書からの項目の抽出や分類など、入力と出力の形が決まった処理 | 幅広い話題をまたいで調べ、組み合わせて答える処理 |
応答の速さが求められるチャットボットや対話の機能 | 正解の形が決まっておらず、毎回違う種類の依頼が来る処理 |
機密性の高いデータを社外の API に出さずに処理したい業務 | 自社に学習用のデータや評価の仕組みがまだ無い業務 |
端末やオンプレミスなど計算資源の限られた環境での処理 | |
(IBM の同じ解説のメリット・限界・ユースケースと、次に見る freee の事例をもとに作成)
学習に使えるデータや精度を測る評価のデータが無いまま SLM に切り替えると、汎用のモデルより良くなったかを確かめられません。小さいモデルに移す前に、今のモデルでの精度・速度・費用を測っておくことが、比べるための出発点です。
SLM を作る4つのモデル圧縮の手法
SLM は、一から小さく作るほか、大きなモデルを圧縮して作ることがあります。IBM の解説が挙げる一般的な圧縮の手法は、プルーニング・量子化・低ランク因数分解・知識蒸留の4つです。
手法 | 何をするか |
|---|
プルーニング | 重要性の低いパラメータや冗長なパラメータをニューラル・ネットワークから削る |
量子化 | 重みなどを32ビット浮動小数点ではなく8ビット整数のような粗いデータで表し、計算の負荷を減らして推論を速くする |
低ランク因数分解 | 大きな重みの行列を小さな低ランクの行列に分け、パラメータと計算の回数を減らす |
知識蒸留 | 学習済みの大きな「教師モデル」の予測と推論の仕方を、小さな「生徒モデル」に学ばせる |
(IBM「小規模言語モデル(SLM)とは」をもとに作成)
同じ解説によると、知識蒸留は多くの SLM で使われる一般的な方法です。プルーニングと低ランク因数分解では、落ちた精度を取り戻すためにファインチューニング(追加の学習)が必要になることも多いとされます。
業務に使う段階では、ドメイン固有のデータセットで SLM をファインチューニングし、特定のニーズに合わせられる点を、IBM の解説は SLM がさまざまな用途に使える理由に挙げています。圧縮で小さくしたモデルを、自社の業務のデータで調整して使う流れです。
freee が帳票の読み取りに小型言語モデルを使った事例
freee は、帳票の読み取り(Agentic OCR・Optical Character Recognition)に、Amazon SageMaker HyperPod と13年かけて積み上げてきた自社のデータで鍛えた小型言語モデルを使っています。CAIO(Chief AI Officer)の横路氏によると、最新のクローズドモデルと比べて精度が10ポイント上がり、推論の速度は5倍になりました(freee公式note「【CAIO横路の視点】AWS Summit Japan 2026 基調講演に登壇して。…」・2026年7月14日)。
この内容は、2026年6月25日に幕張メッセで開かれた AWS Summit Japan 2026 の基調講演で、freee が AWS の上に積み上げてきた3つの柱(AI エージェント・独自モデル・開発組織の変革)の1つとして話されたものです。本番への投入を決められたのは、通常なら1週間かかる推論の最適化の検証を AWS 上で半日で終えられたためだと、横路氏は書いています。
freee が小型言語モデルに取り組む考え方は、2025年11月の対談でも語られています。freee の AI プロダクトマネージャーによると、領収書の読み取りなどのコア機能では、汎用モデルよりもタスクに特化した SLM をファインチューニングしたほうが精度が出て、レスポンスが速く、コストも安いとのことです(AWS 公式ブログの freee の対談記事「その AI の精度が 1% 上がったとき、顧客価値は?」・2025年11月11日・フリー株式会社監修)。
同じ対談によると、freee では ML(機械学習)の専門性を持つメンバーが集まる AI ラボが、各プロダクトのチームに出向いて AI 機能を実装しています。LLM が登場する前は、OCR や勘定科目の推定など、モデルを学習させる従来の機械学習が中心でした。SLM が注目されてファインチューニングの重要性が見直されたことで、ML の専門性の価値が改めて確かめられたと話しています。
帳票の読み取りは、読み取る項目が決まっていて処理の件数が多く、SLM が向く条件をそろえた業務です。自社のデータを13年分持っていたことも、ファインチューニングで精度を出せた前提として語られています。
freee が示した、モデルを選ぶ前に決めておく基準
対談で freee が重視していると話すのは、モデルの選び方そのものより、事前に決める「成功基準」と「撤退基準」です。成功基準は、コスト・精度・レイテンシ・品質といった技術の要素が、どれだけ利用者の価値につながるかを数字で結びつける指標を指し、撤退基準とセットで事前に決めておくべきだと話しています。担当のチームには「精度が1%上がったら、ユーザーの価値はどのくらい上がるのか」を考えてくるよう求めているそうです。
帳票の読み取りでは、「確認コスト」と「修正コスト」を分けて考えています。AI の精度が80%でも90%でも、利用者が全件を確かめる必要があるなら確認の時間は減りません。freee は複数の AI エージェントで読み取りの精度を検証する仕組み(AIデータ化β)で、読み取った結果を別の LLM が評価し、アラートが出た20%だけを確かめればよい形にして、確認の時間を80%減らしたと説明しています。
SLM を使うかどうかも、この基準の上で決まる選択の1つです。精度・速度・コストのどれを利用者のどの作業の短縮につなげるのかを先に決めておけば、汎用のモデルと自社で調整したモデルのどちらが合うかを数字で比べられます。
Offers の求人で LLM・生成AI が条件に挙がる割合
Offers に掲載された2026年公開の正社員求人のうち、必須条件か歓迎条件で LLM・大規模言語モデル・生成AI の経験・知識・関心に触れる求人は18.4%(94件・46社)でした。このうち37件(7.2%)は必須条件で触れています(Offers(株式会社overflow)調べ・他社の求人をまとめて載せる2アカウントを除いた正社員求人 n=512・2026年1月〜11月10日公開)。
Offers では、必須条件・歓迎条件・開発内容まで載った正社員求人を見て、LLM や機械学習の経験がどの職場でどう求められているかを確かめられます。
条件の書き方には、LLM を組み込んだ開発の経験を問うものも、生成AI のツールを業務で使った経験を問うものもあります。モデルを本番で回す側の経験を具体的に書く求人には、次のような項目がありました。
求人の条件に書かれた項目(抜粋) | 問われている経験 |
|---|
「LLMアプリケーションの評価・改善の経験」 | 出力の品質を測り、直していく経験 |
「評価指標設計、ハルシネーション抑制」 | 評価の基準を決め、誤った出力を減らす経験 |
「LLM実行基盤を作るために必要なインフラ知識」 | モデルを動かす基盤を作り、運用する知識 |
「大規模言語モデルや機械学習モデルのプロダクト組み込み・運用経験」 | モデルを製品に組み込み、本番で運用した経験 |
評価・基盤・運用は、使うモデルが LLM でも SLM でも同じように求められる経験です。freee の事例でも、精度と速度を測って比べたことと、推論の最適化を検証したことが、本番への投入の判断を支えていました。
SLM の広がりでエンジニアが職務経歴で示せる3つの経験
SLM のように、タスクに合わせてモデルを選び、自社で調整して動かす選択肢が広がると、職務経歴で伝わりやすいのは、モデルの選定・評価・運用を自分で回した経験です。次の3つは、具体的な場面と数字で書き出しておくと、AI に関わる開発の経験として伝わる材料です。
タスクと評価の基準を決めた経験
何を入力に何を出力するタスクとして切り出し、どの指標で良し悪しを測ったかを書きます。精度だけでなく、確認の手間や処理の時間など、利用者の作業につながる数字で測ったかまで書けていることが、freee が話す「成功基準」と同じ考え方を実務で持っている裏づけです。
モデルを比べて選んだ経験
汎用のモデルの API(Application Programming Interface)と、小さいモデルや自社で調整したモデルを、精度・速度・費用で比べた経験は、SLM が選択肢に入る職場でそのまま問われます。比べた結果として汎用のモデルを使い続けると決めた経験も、判断の根拠を説明できれば同じ価値を持つものです。
推論の基盤を作り、運用した経験
モデルを動かすサーバーやコンテナの設計、量子化などによる推論の高速化、本番での監視と障害への対応は、Web やバックエンドのエンジニアが今の仕事から近づきやすい領域です。クラウドの運用や API の設計の経験は、モデルを本番で回す仕事でもそのまま土台になります。
AI に関わる仕事の型と、それぞれで問われる経験は「AIエンジニアはやめとけと言われる理由と求人の実態」で詳しく比べました。職種の年収の水準を統計と求人で確かめるなら「AIエンジニアの年収|統計と求人で見る相場」が参考になります。開発に使う AI コーディングツールの名前を挙げる求人の割合は「2026 Developer Surveyの結果と求人」にまとめました。
SLM の定義やモデルの規模の区分は、発表する会社や時期によって変わります。新しいモデルを業務で試すときは、公開元の説明でパラメータの数・ライセンス・想定する用途を確かめてから使ってください。