LLM がスポットライトを浴びているのを誰もが見ています。 しかし、もう少しズームインすると、何か別のことが起こります。 小規模言語モデル (SLM) は、より軽く、より高速で、よりアクセスしやすくなっています。 エージェント AI や分散型システムの場合は、より適している可能性があります。 その理由🧵は次のとおりです

2/ LLM は単に「大きい」だけです。 数兆のパラメータ、強力なジェネラリスト、そして実行にコストがかかります。 これらは、広範でオープンエンドのタスクに最適です。しかし、それらは集中化されており、不透明で、カスタマイズが困難です。 SLM はコンパクトで透明性があり、柔軟性があります。自分の条件に合わせて微調整して実行できます。

3/ SLM は現実世界の設定で輝きます。 効率的で迅速に対応し、重いインフラストラクチャを必要としません。エッジデバイスやプライバシーに配慮したユースケースに最適です。 蒸留、剪定、テスト時間推論などのツールを使用すると、わずかなコストで本格的なパフォーマンスを実現します。

4/ 新しい研究がそれを証明しています。 アラン・チューリング研究所は、ラップトップで3Bパラメータモデルを実行しました。スマートチューニングにより、健康推論タスクのフロンティアモデルとほぼ一致しました。 この波は成長しており、Phi、Nemotron-H、Qwen3、Mu、SmolLLM はすべて SLM を主流に押し上げています。

5/ この研究の詳細:

6/ 私たちは、オープンでローカルで分散型の AI を構築することを信じています。 SLMはそれを可能にします。これらは単なる軽量の代替手段ではなく、スケーラブルなモジュール式エージェント システムの基礎となります。 小さいことは妥協ではありません。 小さいは強力なデザインの選択肢です。

7/ このトピック👇に関するブログ全文を読む