音声AIの利用量を別のメタデータ接続で報告し、Marketplaceのソフトウェア料金へ反映します。Deepgramが開始時のパートナーです。 ソフトウェア料金とエンドポイント基盤料金は別です。課金単位、切断時の扱い、利用記録と請求の照合が焦点になります。 長い音声接続の利用量を途中で報告 AWSは11月11日、SageMaker AIの双方向ストリーミングに従量計測を導入すると発表しました。AWS Marketplaceでモデルを提供する企業が、実際の利用量をソフトウェア料金へ反映するための機能です。Deepgramが音声認識と音声合成の開始時のパートナーです。通常の要求と応答では、応答時のヘッダーに利用量を付けられます。しかし長時間続く音声接続では、利用量が途中で増え、終了まで合計が決まりません。そこで推論のデータとは別の接続で計測値を送ります。既存のエンドポイントを動かす基盤料金は引き続き発生し、すべての費用が使った音声の量だけになるわけではありません。 推論と計測を二つの接続に分ける 仕組みは推論用のWebSocketと、計測用の補助WebSocketを組み合わせます。両方を共通の要求IDで対応させ、モデルのサーバーが利用量を送ります。料金の単位は提供者が定義します。音声1秒を1単位とする場合、処理した12分の音声は720単位になります。接続が12分開いていたことだけで、その量が決まるわけではありません。重複を抑えるためのトークンもあり、同じ接続で重複した記録は落とされます。メタデータ接続には1秒に1メッセージ、最大512バイトの制限があります。音声Agentや字幕、コンタクトセンターを運用する企業には、ソフトウェア利用料をAWSの請求へまとめる仕組みとして関わります。提供側には、使った量を正しく数えて送る実装が必要です。送った量の意味を利用者と共有し、実際の請求と追い合わせられる形で残すことが重要になると見られます。 切断時の継続方針と請求の照合を決める 計測接続が作れない場合や途中で切れた場合、標準では推論を続けます。必須にするヘッダーを設定すると、計測できなければ推論を止める方針に変えられます。可用性と計測の継続性のどちらを優先するかが論点です。ただし、送信した記録が必ず課金されたことを意味するわけではありません。AWSはMarketplaceの報告と購入者の請求を照合するよう説明しています。利用者には単位の意味、無音の扱い、途中終了時の数え方を確認することが判断材料です。提供者は増えた分を途中で送る実装により、異常終了時の未報告量を減らせます。ソフトウェアの単価だけでなく、確保したエンドポイントの費用も含めて比較する必要があると見られます。試作のテンプレートは本番向けの確認を済ませた実装ではないため、送信の失敗や重複を含む検証が重要になります。