Cloud Intelligence™Cloud Intelligence™
Integrations

OpenAIのトークンコストを可視化・最適化

OpenAIの利用状況、モデル構成、トークンコストを、プロジェクト・キー・チームごとにリアルタイムで把握。

OpenAIのモデル別支出ダッシュボードのモックアップ

本番環境でAI機能を提供する企業に選ばれています

Square
FanDuel
PlanetScale
CircleCI
Canva
Rippling
HelloFresh
Starburst

数分でつながる

APIキー1本で、OpenAIをまるごと可視化

読み取り専用の管理者キーでOpenAI組織を接続するだけ。DoiTが利用状況、モデル別のトークン数、請求データを自動で取り込みます。プロキシもSDKの改修もCSVの手動出力も不要。接続から数時間で統合レポートが使い始められます。

できること

OpenAI運用の現場を知り尽くした機能群

FinOpsやエンジニアリングのリーダーが、OpenAI組織を接続する際に実際に求めている機能を揃えました。

利用状況レポートを一元化

独自のトークン計測を組まなくても、プロジェクト・APIキー・モデル・チーム単位でOpenAIの支出を分析できます。

リアルタイム異常検知

トークンの急増や暴走プロンプトを、数時間ではなく数分で検知して通知。

モデル構成を最適化

品質を落とさずに安価なモデルへ切り替えられるGPT-4向けプロンプトを発見。

入力トークンと出力トークン

入力・キャッシュ・出力の各トークンごとに、モデル別コストを詳細に把握。

機能単位の費用アトリビューション

トークン支出を呼び出し元のAPIキーだけでなく、それを生んでいる製品機能や顧客にひも付け。

予算とガードレール

プロジェクト・チーム単位で予算を設定。暴走したエージェントが翌月に財務部門を慌てさせる事態を防ぎます。

標準の利用状況ダッシュボードが伝えるのは「何が起きたか」だけ。Cloud Intelligence™は「次に何をすべきか」まで導きます。

OpenAIの利用状況ページの、その先へ

  • 複数プロジェクトの横断集計

    OpenAIのあらゆるプロジェクトと組織を横断する統合ビューで、任意のキーやモデルへドリルダウン可能。

  • リアルタイム異常アラート

    モデル・プロジェクト・キーの各軸で機械学習が異常を検知し、SlackやEmailに通知。

  • モデルコストの予測

    新機能のGA前に、製品成長を踏まえたトークン消費量を予測。

  • タグと配賦の整備

    APIキーを製品・顧客・コストセンターに紐付け、共有利用分も財務部門が納得する形で按分。

  • マルチクラウドAIアトリビューション

    OpenAIの支出をBedrock、Vertex、Azure OpenAIと統合し、AIコスト全体を一元的に把握。

  • Forward Deployed Engineers

    世界トップクラスのクラウドアーキテクトが、チームの一員として最適化を実装します。

Attribute + OpenAI

OpenAI支出をworkload単位まで分解

AttributeはOpenAI APIの呼び出しを実行時に読み取り、モデル識別子やリクエストのメタデータを取得。コストを、リクエストを発生させているサービス・顧客・機能に正確にマッピングします。 おすすめの利用シーン:本番環境でOpenAIを稼働させるSaaS企業、特に原因不明のAIコスト増加を調査中のチーム。

  • モデル単位の内訳

    GPT-4o、GPT-4、GPT-3.5、o1のコストを個別に分離。

  • プロンプトと生成のコスト

    入力と出力のトークンコストを個別に可視化。

  • サービスと顧客のアトリビューション

    各呼び出しを、原因となっているサービスと下流の顧客にひも付け。

  • ゲートウェイ経由の分解

    OpenAIネイティブのLLMゲートウェイパターンを介してもアトリビューションを維持。

  • トレンドと異常

    支出の推移を追跡し、通常と異なるOpenAIコストの伸びを検出。


急成長企業がCloud Intelligence™を選んでいます

21%

導入後90日以内の平均削減率

28

平均導入期間

Oren Ashkenazy

DoiTの信頼性へのこだわりとシステムの柔軟性のおかげで、Amazon EKSのworkloadをエンジニアの手を煩わせることなく安全に最適化できています。

Oren Ashkenazy

Director of DevOps and Cloud, Fiverr

OpenAI組織を接続する準備はできましたか?

トークン支出を、今すぐ手の中に。

Frequently asked
questions

複数のプロジェクトやキーにまたがるOpenAIコストを、どのように可視化できますか?

管理者キーでOpenAI組織を一度接続するだけ。Cloud Intelligence™がすべてのプロジェクトとAPIキーの利用状況を取り込むので、プロジェクト・モデル・キー・チーム単位のトークン支出を単一のビューで分析できます。独自の計測やCSVの手動出力は一切不要です。

OpenAIの利用データをCloud Intelligence™と連携させる最適な方法は?

OpenAI組織にスコープを絞った読み取り専用の管理者キーをご利用ください。DoiTがデータの取り込みと正規化を行い、モデル別の入力・出力・キャッシュトークンを日次で可視化します。ほとんどのチームが1日以内に運用を開始しています。

どのモデルや機能がトークン支出の大半を占めているかを確認するには?

利用状況レポートから、総支出を起点に特定のモデル・プロジェクト・APIキーへドリルダウンできます。キーをマッピングしておけば、SQLを書かずに機能・顧客・環境ごとに絞り込みが可能です。

OpenAIのコスト異常をリアルタイムで監視するには?

モデル・プロジェクト・キーを横断して異常検知が常時稼働しています。トークン使用量がベースラインから逸脱した場合(ループしているエージェント、不適切なプロンプト、バズった新機能など)、想定される原因とともにSlackやEmailでアラートが届きます。

OpenAIの利用に対して、チームや製品機能ごとに予算を設定できますか?

はい。プロジェクト、キー、タグ付けされた機能ごとに予算と閾値を設定でき、支出が上限に近づくにつれて段階的にアラートが届きます。暴走したエージェントによる月末の想定外請求を防げます。

OpenAIの支出を他のAIプロバイダーと合わせて管理できますか?

Cloud Intelligence™はOpenAI、Azure OpenAI、Amazon Bedrock、Google Vertex AI、Anthropicを1つのレポートに統合。トークン単価の比較や、機能・顧客単位でのAIコスト総額を可視化できます。

Cloud Intelligence™は、OpenAI標準の利用状況ダッシュボードと何が違いますか?

OpenAIのダッシュボードは利用状況を閲覧するためのツールです。一方、Cloud Intelligence™はプラットフォームであり、プロバイダーを横断したAIの可視化、先回りの改善提案、リアルタイム異常検知、予算とガバナンス、そしてデータから見えた課題の実行を支援するForward Deployed Engineersへのアクセスまでを提供します。

OpenAI組織を接続する際、データは安全に保護されますか?

Cloud Intelligence™は最小権限の読み取り専用管理者キーを使用します。取り込むのは利用状況と請求メタデータのみで、プロンプトや生成内容は一切扱いません。プラットフォームはSOC 2 Type II認証を取得しています。