NVIDIAは画像と文章を扱うEmbed、Rerank、631MのParseを紹介しました。エージェントの根拠取得と文書処理を支えるモデル群です。 検索精度は後段の推論費用にも影響します。索引作成、再順位付け、抽出を分けて、自社資料で品質と費用を確認することが焦点です。 エージェントへ渡す根拠の取得を改善 NVIDIAは10月21日、Nemotron Retrieverへ3.5世代のモデルを追加したと発表しました。文章と画像の埋め込み、候補の再順位付け、文書の抽出を扱います。Embedには8Bと1B、1BのNVFP4版を用意し、Rerankは8B、Parseは631Mです。図表や画像に含まれる情報も検索し、関連する根拠をエージェントへ渡す狙いです。根拠が不足すると追加の検索や読解が増えるため、検索品質を後段の推論費用と結び付けています。記事はNVIDIAの著者によるモデルの一次情報です。複数の処理段階をまとめて紹介していますが、導入ではそれぞれを選んで評価できます。モデルの段階を分けて比較できる点が、検索構成を見直す際の入口になります。 画像を含む資料から候補を探して並べ直す Embedは文書画像や表、グラフ、設計図などを扱い、Rerankが問いと候補を合わせて関連性を評価します。多言語での比較や、用途別の微調整レシピも示しています。記事はLLMやツール、課題、実行方針を揃え、検索の構成だけを変える実験を説明しています。指定の条件では再順位付けによって推論トークンを減らし、検索精度も改善したと報告しました。企業のRAGやエージェント基盤を作る開発者が対象です。量子化したEmbedは対応ハードウェア上での処理量を重視する選択肢になります。一方、モデルの精度と索引の更新費用、配備する機器は別に確認する必要があります。公開されたベンチマーク順位や速度を、自社資料の結果へ直接当てはめることはできません。検索のどの段階を変えるかを揃えた比較が重要と考えられます。 検索から回答までを同じ業務で測る 実務では、検索だけのスコアに加え、最終回答が根拠を正しく使えたかを確認することが論点です。文書抽出で表や図の意味を落とせば、後の検索モデルを改善しても必要な情報に届かない場合があります。まず代表的な資料と問いを用意し、抽出、索引、候補取得、再順位付けを分けて失敗を記録する方法が考えられます。1Bと8B、精度形式や配信基盤の違いは、メモリーと処理量にも影響します。推論トークンの削減だけでなく、追加した再順位付けの費用も含めて比較する必要があります。利用者の権限を越えた資料が候補へ入らないかも確認する対象です。モデルの更新で索引を作り直す場合の負担を測り、品質と運用の両方から選ぶことが判断材料になります。根拠を得る段階の改善を、利用者の仕事の成果へつなぐ視点が重要です。