Hugging FaceのPyTorchチームはFP8、MoEのデコード、動画処理のメモリー削減などを紹介しました。macOS 15以降とPython 3.11以降が必要です。 Mac上のモデル利用で速度と容量の選択肢が広がります。改善率はモデルや機器に依存するため、実際の処理で確認することが焦点です。 Macで実モデルを動かして見つけた課題を改善 Hugging FaceのPyTorchチームは10月20日、PyTorch 2.15のMPSバックエンドを解説しました。Hubの言語、画像、動画モデルを動かし、未対応の演算や速度の低下、メモリー使用量の問題を見つけて上流へ修正する取り組みです。今回の更新はFP8の利用、言語モデルのデコード、線形代数、音声や動画の処理などを含みます。MPSGraphの処理を専用のMetalカーネルへ置き換える改善も説明しています。利用条件として、MPSにはmacOS 15以降、PyTorch 2.15にはPython 3.11以降が必要です。既存環境での更新前にはこの条件を確認する必要があります。 言語モデルの速度と動画の使用量を改善 原文はM3 Ultra上の特定のMoEモデルで、2.14から大幅にデコード速度が向上した例を示しています。線形層、softmax、経路選択や同期の削減など、複数の変更を組み合わせています。FP8はBF16より小さい領域で値を持つ選択肢を加えます。Wan2.2の動画VAEでは、紹介された構成の最大メモリー使用量が大きく下がったとしています。対象はMacでTransformers、Diffusers、ComfyUIなどを使う開発者です。PythonからMPSのストリームを扱う機能や、計時の改善も含まれます。記事の改善率は指定された機器、モデル、設定での比較です。すべてのMacや処理へ同じ倍率を当てはめることはできません。速度、使用メモリー、出力の正しさをそれぞれ測る必要があります。将来の2.16に関する予告も含まれるため、現在利用できる変更とは分けて読むことが重要です。 環境条件と数値精度を揃えて更新を判断 実務では、OSやPythonの更新が既存ツールへ与える影響を先に確認することが論点です。低精度の値を使う場合は、容量や速度の改善と合わせて、出力品質が許容できるかを測る必要があります。初回コンパイルと定常処理を分け、実際に使うモデルと入力サイズで比較する方法が考えられます。メモリーが少ない環境では、単に速度を上げる以上に、以前は実行できなかった作業を扱えることが価値になる可能性があります。一方、処理の一部だけが改善しても、全体の所要時間が同じ比率で短くなるとは限りません。記事の測定条件を参照し、手元の環境の差を残して確認することが重要です。バージョンを固定した試験環境で代表的な処理を動かし、問題が出た際の戻し方を用意することが更新判断の材料になります。将来の機能を前提にした運用計画とは区別する必要があります。