Cloud Intelligence™Cloud Intelligence™
Integrations

OpenAIのトークン支出を管理

すべてのプロジェクト、APIキー、チームを横断して、OpenAIの使用状況、モデル構成、トークンコストをリアルタイムに可視化します。

OpenAIのモデル別支出ダッシュボードのモックアップ

AI機能を本番環境で運用するチームに選ばれています

Akamai
Blumira
Chess.com
Current
OneFootball
Promptly
Recurly
Lusha
Mux

セットアップ

APIキー1つで、OpenAIを完全に可視化。

読み取り専用の管理者キーでOpenAI組織を接続するだけ。DoiTが使用状況、モデル別のトークン数、請求データを自動で取り込みます。プロキシの設置もSDKの変更も、手作業のCSVエクスポートも不要です。接続から数時間で統合レポートを確認できます。

提供機能

OpenAI運用の現場に応える機能設計

FinOps担当者やエンジニアリングリーダーがOpenAI組織を接続する際に、実際に求めている機能を揃えました。

統合された使用状況レポート

独自のトークン計測の仕組みを作ることなく、OpenAIの支出をプロジェクト別、APIキー別、モデル別、チーム別に分析できます。

リアルタイム異常検知

トークンの急増やプロンプトの暴走を、数時間後ではなく数分以内にアラートで通知します。

モデル構成の最適化

品質を落とさずに安価なモデルで処理できるのにGPT-4にルーティングされているプロンプトを発見できます。

入力トークンと出力トークンの内訳

すべてのモデルにわたり、入力・キャッシュ・出力トークン別にコストを分解できます。

機能レベルのコスト帰属

呼び出し元のAPIキーだけでなく、トークン支出を生み出しているプロダクト機能や顧客まで紐づけられます。

予算とガードレール

プロジェクト別・チーム別に予算を設定し、エージェントの暴走で翌月の請求に驚かされる事態を防ぎます。

標準のダッシュボードが教えてくれるのは「何が起きたか」まで。Cloud Intelligence™は「どう対処するか」を支援します。

OpenAI標準の使用状況ページの、その先へ

  • マルチプロジェクトの集約ビュー

    すべてのOpenAIプロジェクトと組織を横断した統合ビューから、任意のキーやモデルまでドリルダウンできます。

  • リアルタイム異常アラート

    モデル・プロジェクト・キーの各軸で機械学習による検知を行い、Slackやメールに通知します。

  • モデルコストの予測

    新機能のGA前に、プロダクトの成長を踏まえたトークン消費量を予測できます。

  • タグとコスト配分の整備

    APIキーをプロダクト、顧客、コストセンターにマッピングし、共有利用分を経理が求める形で按分できます。

  • マルチクラウドAIのコスト帰属

    OpenAIの支出をBedrock、Vertex、Azure OpenAIと統合し、AI関連コストの全体像を一元的に把握できます。

  • Forward Deployed Engineers

    世界トップクラスのクラウドアーキテクトが、お客様のチームの一員として最適化の実装を支援します。

Attribute + OpenAI

OpenAIの支出をワークロード単位まで分解

Attributeは実行時にOpenAIのAPI呼び出しを読み取り、モデル識別子とリクエストのメタデータを取得して、リクエストを発生させているサービス、顧客、機能ごとにコストを正確にマッピングします。 こんな企業に最適: OpenAIを本番環境で運用しているSaaS企業、特に原因不明のAIコスト増加を調査しているチーム。

  • モデル別のコスト内訳

    GPT-4o、GPT-4、GPT-3.5、o1のコストを分けて把握できます。

  • プロンプトと生成のコスト

    入力トークンと出力トークンのコストを個別に確認できます。

  • サービス・顧客へのコスト帰属

    各API呼び出しを、対応するサービスとその先の顧客に紐づけられます。

  • ゲートウェイの分解

    OpenAIネイティブなLLMゲートウェイ構成でも、コスト帰属を維持できます。

  • トレンドと異常検知

    支出の推移を追跡し、OpenAIコストの異常な増加を検出します。


成長企業が選ぶCloud Intelligence™

21%

導入後90日以内の平均削減率

28

平均導入期間

Oren Ashkenazy

DoiTの信頼性へのこだわりとシステムの柔軟性のおかげで、エンジニアの手を一切煩わせることなく、Amazon EKSのworkloadsを安全に最適化できています。

Oren Ashkenazy

Fiverr社 DevOps・クラウドディレクター

OpenAI組織を接続してみませんか?

トークン支出を、確実に管理下に。

Frequently asked
questions

複数のプロジェクトやAPIキーにまたがるOpenAIコストを1つのビューで確認できますか?

管理者キーでOpenAI組織を一度接続するだけです。Cloud Intelligence™がすべてのプロジェクトとAPIキーの使用状況を取り込むため、独自の計測ツールや手作業のCSVエクスポートなしに、トークン支出をプロジェクト別、モデル別、キー別、チーム別に単一のビューで分析できます。

OpenAIの使用データをCloud Intelligence™に接続するには何が必要ですか?

OpenAI組織にスコープを限定した読み取り専用の管理者キーを使用します。データの取り込みと正規化、モデルごとの入力・出力・キャッシュトークンの日次レポートはDoiTが処理します。ほとんどのチームが1日以内に利用を開始できています。

トークン支出の大部分を占めるモデルや機能を特定できますか?

使用状況レポートでは、総支出から特定のモデル、プロジェクト、APIキーまでドリルダウンできます。キーのマッピングが完了すれば、SQLを書くことなく機能別、顧客別、環境別にフィルタリングできます。

OpenAIのコスト異常が発生した時点でアラートを受け取れますか?

異常検知はモデル、プロジェクト、キーを横断して常時稼働しています。トークン使用量がベースラインから逸脱した場合(エージェントのループ、不適切なプロンプト、新機能の急激な利用拡大など)、想定される原因とともにSlackまたはメールでアラートが届きます。

OpenAIを利用するチームやプロダクト機能ごとに予算を設定できますか?

はい。プロジェクト、キー、タグ付けした機能ごとに予算としきい値を定義でき、支出が上限に近づくにつれて段階的なアラートを受け取れます。エージェントの暴走が月末のサプライズになる事態を防げます。

OpenAIの支出を他のAIプロバイダーと統合できますか?

Cloud Intelligence™はOpenAI、Azure OpenAI、Amazon Bedrock、Google Vertex AI、Anthropicを1つのレポートに統合します。トークン単価の経済性や、機能別・顧客別のAI総コストを比較できます。

OpenAI標準の使用状況ダッシュボードをすでに使っています。Cloud Intelligence™は何が違うのですか?

OpenAIのダッシュボードは使用状況を閲覧するツールです。Cloud Intelligence™はプラットフォームとして、プロバイダー横断のAI可視化、プロアクティブな推奨、リアルタイム異常検知、予算管理とガバナンス、そしてデータが示す内容に基づく実行を支援するForward Deployed Engineersへのアクセスを提供します。

Cloud Intelligence™はOpenAI組織にどのようなアクセス権を持ち、どのように保護されていますか?

Cloud Intelligence™は最小権限のスコープを持つ読み取り専用の管理者キーを使用します。取り込むのは使用状況と請求メタデータのみで、プロンプトや生成内容には一切アクセスしません。プラットフォームはSOC 2 Type II認証を取得しています。