https://www.knightli.com/ja/tags/lm-studio/ Recent content in LM Studio on KnightLiブログ Hugo -- gohugo.io ja Wed, 08 Apr 2026 18:42:00 +0800 https://www.knightli.com/ja/2026/04/08/gemma4-on-raspberry-pi5-benchmark/ Wed, 08 Apr 2026 18:42:00 +0800 https://www.knightli.com/ja/2026/04/08/gemma4-on-raspberry-pi5-benchmark/ <p>極端な試み: <code>Raspberry Pi 5（8GB RAM）</code> で Gemma 4 を実行します。目標は、大規模なモデル バージョンではなく、<code>E2B</code> の最小バージョンです。</p> <p>結論から始めましょう。実行して使用することはできますが、対話頻度の低いシナリオに適しており、リアルタイム要件の高い対話エクスペリエンスには適していません。</p> <h2 id="テスト環境">テスト環境 </h2><ul> <li>デバイス: Raspberry Pi 5 (4コアCPU、8GB RAM)</li> <li>システム: Ubuntu サーバー (グラフィカル インターフェイスなし)</li> <li>アクセス方法：SSH</li> <li>モデルの実行方法: LM Studio CLI (コマンドラインモードのみ)</li> <li>モデル：Gemma 4 E2B (約4.5GB)</li> </ul> <h2 id="ステップ-1-lm-studio-cli-をインストールして起動する">ステップ 1: LM Studio CLI をインストールして起動する </h2><p>LM Studio の CLI バージョンをインストールし、サービスを開始して、使用可能なコマンドを確認します。</p> <p>これは純粋なコマンド ライン環境であるため、このコマンド ラインのみの展開方法は Raspberry Pi に非常に適しています。</p> <h2 id="ステップ-2-モデルのストレージを-ssd-に切り替える">ステップ 2: モデルのストレージを SSD に切り替える </h2><p>SDカードの頻繁な読み書きを避けるため、モデルのダウンロードディレクトリを外付けSSDに変更しました。</p> <p>SSD を Raspberry Pi 5 に接続する体験は、明らかに以前のモデルよりも実用的です。長期的なローカル モデルでは、最初に SSD を使用することをお勧めします。</p> <h2 id="ステップ-3-gemma-4-e2b-をダウンロードしてロードする">ステップ 3: Gemma 4 E2B をダウンロードしてロードする </h2><p>ダウンロードが完了すると、モデルをメモリに正常にロードできるようになります。</p> <p>公式情報によると、Gemma 4 シリーズには次の機能があります。</p> <ul> <li>エージェントシナリオのツール呼び出し機能 (関数呼び出し)</li> <li>マルチモーダル機能 (画像/ビデオを含む。小型モデルには音声関連機能もある)</li> <li><code>128K</code> コンテキスト ウィンドウ</li> <li>Apache 2.0 ライセンス (商用利用可能)</li> </ul> <p>Raspberry Pi のハードウェア条件から判断すると、最初に試すには E2B レベルの方が適しています。</p> <h2 id="ステップ-4-api-を開始して-lan-アクセスを開く">ステップ 4: API を開始して LAN アクセスを開く </h2><p>モデルがロードされた後、まずローカル ポートで API (<code>4000</code>) を開始し、HTTP リクエストを通じてモデル リストが返されることを確認します。</p> <p>問題は、デフォルトではこのマシンのみを監視し、LAN 上の他のデバイスは直接アクセスできないことです。</p> <p>起動パラメータでホストを直接設定できないため、ポート転送に <code>socat</code> を使用して、Raspberry Pi の外部ポート要求を LM Studio の内部ポートにブリッジし、LAN アクセスを実現しました。</p> <p>結果はうまくいきました。同じ LAN 上の MacBook 上のモデルのリストを正常にリクエストして取得することができました。</p> <h2 id="ステップ-5-エディター-zed-にアクセスします">ステップ 5: エディター (Zed) にアクセスします。 </h2><p>LM Studio のローカル サービスは OpenAI API フォームと互換性があるため、カスタム <code>base_url</code> をサポートするほとんどのツールに直接アクセスできます。</p> <p>Raspberry Pi 上の Gemma 4 インスタンスを指す新しい LLM プロバイダーを Zed に追加したところ、エディターでのチャット テストに合格しました。</p> <h2 id="実際の使用感の判断">実際の使用感の判断 </h2><p>このパッケージは次の用途に適しています。</p> <ul> <li>ローカルオートメーションスクリプト</li> <li>同時実行性とリアルタイム要件が低い補助タスク</li> <li>個人学習とエッジデバイスの実験</li> </ul> <p>以下にはあまり適していません:</p> <ul> <li>高頻度の対話型チャット</li> <li>応答遅延の影響を受けやすい開発コラボレーション シナリオ</li> </ul> <h2 id="結論は">結論は </h2><p>Gemma 4 (E2B) を <code>Raspberry Pi 5</code> で実行することは実現可能で、予想よりもうまく機能します。</p> <p>オフラインで実行し、ツールを入手し、軽度および中度のタスクを完了できるようにすることが目標である場合、このルートは試してみる価値があります。スムーズなリアルタイム インタラクションが目標の場合でも、より強力なハードウェアを入手することをお勧めします。</p>