Vast.aiのGPU支出を、AWS・Google Cloud・Azureと並べて可視化

レンタルGPUとサーバーレス推論のコストを、ワークロード別・GPUモデル別・実際の課金項目別に、コストと使用状況レポートで確認できるようになりました。Cloud Intelligence™で今すぐご利用いただけます。

Vast.aiは数千の独立ホストからGPUを貸し出しており、課金はプリペイド式メーターのような仕組みです。クレジット残高が減り、総支出額の数字がそれに連動して動きますが、どちらを見ても、どのワークロードが、どのGPUで残高を消費したのかはわかりません。しかも料金水準を考えると、推測で済ませるには高くつきます。H200を8基搭載したノードは1時間あたり45ドルを超えるため、週末に起動したままのノードが1台あるだけで、誰かがコンソールを開く前にコストは4桁ドルに達してしまいます。

Cloud Intelligence™では、これらのコストをインスタンス別・日別に、Vast.aiが実際に課金する4つの項目に分けてレポートできるようになりました。

主な機能

インスタンスごとの日次コストを、GPU時間、ストレージ、受信帯域、送信帯域に分けて表示します。それぞれが独立した行になるため、ジョブの実際のコスト要因がGPUではなくデータ転送だった、ということもひと目でわかります。

ワークロードを個別に把握。 サーバーレスエンドポイント、直接レンタルしたインスタンス、ネットワークボリュームは、それぞれ別のサービスとしてレポートされます。Charge type（課金タイプ）のラベルにより、どのレポートでも区別できます。

GPUモデルとホストの所在国も、Vast.ai側で情報が保持されている行には表示されます。H200の1時間あたりのコストをRTX 6000と比較したり、他プロバイダーのオンデマンドキャパシティと比較したりできます。

AIダッシュボードに反映される支出。 Vast.aiはAI用途のGPUキャパシティを販売するプラットフォームであるため、Vast.aiのすべての行はAI支出としてカウントされます。レンダリングやバッチ処理など、AIとは言えない用途でGPUをレンタルしている場合は、接続前にこの点を把握しておくことをおすすめします。

クレジットのチャージはコストレポートに含まれません。 Vast.aiのクレジットは前払い残高であり、消費実績ではないため、チャージをコストとして計上すると、実際の支出が二重にカウントされてしまいます。

利用開始の手順

1. Vast.aiコンソールのAccountで、請求情報とインスタンスの読み取り権限を持つAPIキーを作成します。お客様のアカウントへの書き込みは一切行われません。詳しくはVast.ai接続ガイドをご覧ください。
2. Cloud Intelligence™でData ingestion and integrationsを開き、Vast.aiを選択します。Billing Profiles Admin権限が必要です。
3. アカウント名とキーを入力し、Test connectionを実行して保存します。Vast.aiアカウントは1つずつ個別に接続してください。
4. レポートで最初のビューを作成し、Charge typeまたはGPUモデルでグループ化すれば、GPU時間の使われ方を確認できます。