画像・動画・文章を入力し、文章を返すモデルを提供します。NVFP4とBF16の二つの構成と、配備・推論例を公開しました。 モデルが扱える最大文脈と配備設定の上限は異なります。画像化の前処理、量子化、GPU費用を一緒に確認します。 視覚と言語のモデルを管理された配備へ AWSは11月9日、NVIDIA Nemotron 3.5 Super VLをSageMaker JumpStartで利用できると発表しました。画像、動画、文章を入力して文章を生成するモデルです。Studioの画面やPython SDKから配備する手順を示しています。書類の理解、画面操作の支援、動画への質問、複数の入力形式を使うエージェントを想定します。モデルの公開そのものと、AWS上の配備経路への追加を区別する必要があります。今回の記事は実行構成と性能測定、入力例を中心にしています。開発者にとってはモデルを選ぶだけでなく、どの精度と計算資源で動かすかを比較する材料です。入力形式に対応していても、業務の文書をそのまま渡せるとは限らない点も説明しています。 重みの形式と文脈設定を選ぶ モデルの言語部分は1,200億パラメータで、トークンごとに120億を有効化する構成です。視覚側にC-RADIOを組み合わせます。モデルとしては最大100万トークンの文脈に対応し、要求ごとに推論の使用を設定できます。JumpStartでは量子化したNVFP4と、基準になるBF16の重みを提供します。ただし、配備用の設定には別の文脈長があり、既定の短い要求向け設定がモデルの最大値をそのまま使うわけではありません。PDFは生のファイルではなく、ページを画像へ変換して入力するよう案内しています。文書処理の担当者には、解像度、ページ数、順序を含む前処理も関係します。動画も視覚入力の扱いを確認する必要があります。モデルの能力と、実際に配備した環境の条件をそろえて評価することが重要です。 品質と配備費用を一つの負荷で比較 実務では量子化した構成と基準の構成で、読取り精度や応答時間がどの程度変わるかが論点になると見られます。特に小さい文字や複雑な表は、モデルだけでなく画像化の処理にも左右される可能性があります。最大文脈に対応するという説明だけで長い入力の運用費用を見積もらず、実際の配備設定とGPUを確認します。SDKで指定する計算資源や推論構成を記録し、比較の条件をそろえることが判断材料です。画面操作に使う場合も、文章の出力を実行へ渡す際の権限や確認工程が必要になると見られます。原文は試用後にエンドポイントや関連する資源を削除する手順も示しています。処理していない時間の費用まで含めて、配備を続ける場合と試験だけ行う場合の管理を決めることが運用上の焦点になります。負荷の少ない時間帯の扱いも確認点です。