学習と処理のジョブは必要なファイルからコンテナを読み込めます。AWSは検証した仕事で、最初の読み込みを含む全体時間の短縮を報告しました。 初回の学習処理とジョブ全体の時間を測ることが焦点です。対象レジストリ、派生イメージの索引、Docker依存のスクリプトを確認する必要があります。 全イメージの取得を待たずに処理を始める AWSは10月27日、Amazon SageMaker AIの学習ジョブと処理ジョブ向けに、SOCI索引を使うコンテナの遅延読み込みを発表しました。従来は、イメージ全体を取得して展開するまで、利用者のコードを実行できませんでした。大きな深層学習用イメージでは、この待ち時間もジョブの費用に含まれます。SOCIは、起動に必要なファイルを先に取り出し、残りを処理中に取得します。索引は元のイメージに対応する別の成果物として保存され、元のダイジェストや署名を変えないと説明しています。SageMaker AIは索引を自動で確認し、使えない場合は通常の取得方式へ戻ります。学習アルゴリズムを変える発表ではなく、実験を始める前の準備時間を減らす基盤の更新です。 短い実験を繰り返す現場の待機を減らす 効果が出やすいのは、短い処理や、多くの実験を繰り返す仕事です。AWSは複数の大きさのイメージと、GPU・CPUの構成を使って計測しています。画像分類とLLMの調整では、初回の学習に追加の読み込みが生じた一方、ジョブ全体では1〜6分早く完了したと報告しています。この短縮はジョブごとの固定的な効果で、学習自体が何倍にも速くなるという意味ではありません。提供済みのDeep Learning Containerの対応タグを使う方法と、自分のイメージへ索引を作る方法があります。既存の定義や入力データの指定を大きく変えずに試せる点は、実験を管理するチームに関係します。ただし、起動時にイメージ内の大半を走査する処理では、取得を後回しにする利点が小さくなる可能性があると説明しています。 初回処理と実行環境まで含めて確かめる 利用条件には、Amazon ECRのプライベートリポジトリであることがあります。ほかのレジストリなどは遅延読み込みの対象外です。対応するベースイメージから派生イメージを作る場合も、最終的なイメージに索引を付ける必要があります。導入時は、ビルド後に索引を作る工程と、指定タグから索引を確認する工程が論点です。また、実行環境はcontainerdを使うため、Dockerのコマンドやソケットへ依存した起動スクリプトを点検する必要があります。費用の判断には、ダウンロード時間だけでなく初回の学習、全体の完了時間を揃えて測る方法が考えられます。非常に短い仕事と長時間の学習では、同じ数分の削減でも効果が異なります。索引作成の運用負担を含め、よく使うイメージと実際の処理で短縮を確認することが焦点です。