時雨堂の ローカル LLM (DGX Spark x 2) 2026 年 10 月版

時雨堂では 8 月から DGX Spark を 2 台導入して、ローカル LLM を利用しています。現時点で何に使っているのかを雑に書いて行きます。

自動レビュー

時雨堂では Issue (ただの markdown ファイル) を作って、それでブランチを切って作業をする仕組みです。その際に Issue のプレレビューにローカル LLM を利用しています。

プレレビューというのは、そもそも自分のローカルでも Ollama Cloud や Codex を利用してレビューはするためです。

使い方はシンプルで GitHub のリポジトリがあり、そこにレビューしてほしいリポジトリのレビュー番号を書いておくだけで勝手にレビューしてコミットしてくれます。

ローカル LLM なので 24 時間 365 日動いており、レビュー依頼がない場合は勝手に社内の Issue をレビューして回ります。

セキュリティ対策

ローカル LLM には無検閲と呼ばれるモデルを利用しているため、セキュリティ対策にも利用しています。自社のソースコードのレビューに利用したり、実際に自社のサービスの怪しい点を探し出したりさせています。またセキュリティの相談も気軽にできて良いです。

DGX Spark x 2 はどうか

とても良いです。静かですし、買ってから 3 ヶ月間休まず働き続けてくれています。

もともとは DeepSeek V4 Flash 0731 を動かすために買ったのですが、今は DeepSeek V4.1 Flash 1017 の量子化された無検閲モデルを動かしています。速度は 100 tok/s 程度で、並列化なし、コンテキスト 512 K 、最大トークン 128K で動かしています。ハーネスは DSH を利用しています。

蛇足

もう 2 台買うかずっと悩んでいます。