SLM（小規模言語モデル）

SLMは Small Language Model の略です。どこからを「小さい」と呼ぶかの決まった線はありませんが、一般に、手元のサーバーやパソコン、スマートフォンなどでも動かせる規模のモデルを指します。大きなモデルの知識を受け継がせる方法などで、規模の割に高い性能を出せるものもあります。

業務では、決まった種類の文書の分類や要約、社内の定型の問い合わせへの回答など、範囲を絞った用途に向いています。応答が速く、処理の費用を抑えやすいうえ、社外にデータを出さずに動かせるため、ローカルLLMとして使われることも多くあります。

幅広い知識や、込み入った推論が求められる作業では、大きなモデルに及ばないことがあります。用途を絞り、必要に応じてファインチューニングで業務に合わせ、難しい問いだけを大きなモデルに回す、といった組み合わせ方も考えられます。