NVIDIAは120BのNemotron 3.5 Super VLと、ローカル向けBolt 74B-A9Bを公開しました。4GB向けBolt E4Bは10月23日に提供予定としています。 企業サーバーから手元の機器まで、業務ごとにモデルを配置する選択肢が広がります。メモリ容量だけでなく、量子化後の精度やツール操作の信頼性を確認することが重要です。 サーバーと端末をまたぐモデル群を拡充 NVIDIAは2026年10月15日、公開モデルのNemotron 3.5 Super VLとBoltシリーズを発表しました。Super VLは千二百億パラメータを持ち、画像理解やツール利用を伴う企業向けエージェントを対象にしています。Bolt 74B-A9Bは、ローカル機器の二十四GBのメモリに収める設計です。Super VLとこのBoltモデルは発表時点で利用可能です。一方、四GB向けのBolt E4Bは十月二十三日の提供予定です。背景には、常時動くエージェントを用途に応じた計算資源へ配置する狙いがあります。すべてを同じ大型モデルに任せる構成とは異なり、サーバーと端末それぞれの資源制約に合わせた選択肢を示しています。提供開始済みと予定段階のモデルは区別して扱う必要があります。 ローカル実行ではモデル以外の容量も必要 Bolt 74B-A9Bはネイティブな二ビット量子化を使い、RTXやDGX Spark上でほかのアプリと併用する想定です。Bolt E4Bは会話や複数ターンの操作を行う端末向けで、Jetsonなども対象に挙げています。影響を受けるのは、社内端末で動く開発支援、音声対話、組み込み機器の担当者です。Super VLについては、独自データや業務手順を使った追加学習も紹介されています。ただし、原文の速度や精度の比較はNVIDIAが示した評価条件での主張です。小さいメモリでモデルを保持できても、長い入力、複数利用者、連携アプリが使う容量は別に必要になる可能性があります。実行場所を端末へ移す場合も、検索や外部サービスとの接続が残れば、そのデータ経路を把握する必要があると見られます。 量子化した実行形態のまま業務を検証する 採用の論点は、モデルの大きさだけでなく、予定する機器と数値精度で業務を完了できるかです。圧縮前のモデルの評価を、そのまま端末上の結果と見なさないことが重要になります。自社の検証では、画像の読み違い、誤ったツール選択、途中の失敗からの回復を含む作業を用意する必要があると見られます。費用面では、端末購入、配布、モデル更新、故障対応をクラウド推論の継続費用と比較することが論点です。追加学習する場合は、利用データの権利と評価用データの分離も確認点になります。将来提供予定のBolt E4Bを前提に配備を決める場合は、実際の公開条件と対応ソフトウェアを確認する段階が残ります。公開ウェイトの取得と、安全に業務操作を許可する判断は、それぞれ別に設計する必要があります。