RunPodのGPUコストを、他のAI支出と並べて可視化

Pod、Serverlessエンドポイント、ネットワークボリュームにおけるRunPodの日次支出を、GPUタイプ別にCloud Intelligence™で確認できるようになりました

RunPodの課金は、前払い残高から秒単位で差し引かれる仕組みです。実験には最適ですが、レポーティングとなると厄介です。請求書に載るのはクレジットのチャージ額、残高に表示されるのは残りの金額だけで、どのPod、どのServerlessエンドポイント、どのGPUが先週のクレジットを使い切ったのかは分かりません。Serverlessではさらに複雑になります。ワーカーは空いているキャパシティに配置されるため、設定したGPUと実際に課金されたGPUが一致するとは限らないからです。

Cloud Intelligence™はRunPodの請求データを直接読み取り、サービス、Pod、Serverlessエンドポイント、GPUタイプ別に分析できる日次のコストデータに変換します。AWS、Google Cloud、OpenAI、Anthropicの支出と並べて確認できます。

主な機能

すべてのRunPodプロダクトを一元管理。 Pod(コンピュートに加えてコンテナとボリュームディスク)、Serverlessエンドポイント(フレックスワーカーとアクティブワーカー)、ネットワークボリュームを、Cloud Analyticsの3つのサービスとして扱えます。

GPUタイプ別の支出。 PodとServerlessの各行には、実際に稼働したGPU(RTX 3090からH100、MIGスライスまで)が記録されるため、ハードウェアのクラス別にコストの内訳を把握できます。

リソース単位のアトリビューション。 PodとServerlessエンドポイントのIDをラベルとして利用できるため、アカウント単位ではなくワークロード単位でアロケーションやレポートを作成できます。

AI支出を全体の文脈で把握。 RunPodのコストはGenAI Intelligenceダッシュボードに他のAIプロバイダーと並んで表示され、レポートやアロケーションでも他のコストと同じように扱えます。

金額だけでなく使用量も。 PodとServerlessは課金対象のGPU時間、ネットワークボリュームはGB時間で確認できます。

セットアップは拍子抜けするほどシンプルです。必要なのは読み取り専用のAPIキー1つだけで、エージェントのインストールもデプロイ作業も不要です。Cloud Intelligence™がRunPodアカウント内のリソースを起動・停止・変更することは一切ありません。データは6時間ごとに更新され、各日のデータはUTC基準で1日が締まった後に取り込まれるため、表示される数値はRunPodの請求額と一致します。

始め方

1. RunPodコンソールで、追跡したいアカウントまたはチームにRead Only権限のAPIキーを作成します(読み取り専用APIキーの作成)。
2. Cloud Intelligence™でIntegrationsを開き、RunPodのConnectを選択します(RunPodアカウントの接続)。
3. 初回同期時に最大12か月分の履歴が取り込まれます。取り込みが完了したら、RunPodプロバイダーでフィルタしたレポートを開き、SKUでグループ化すると、GPUタイプ別の支出を確認できます(RunPodのレポーティングディメンション)。