CloudFlowがOpenAIとAnthropicに対応

CloudFlowがOpenAI Administration APIとAnthropic Admin APIに対応。支出ガードレール、APIキーの整理、利用状況レポートを実現します。

AIの導入が進むにつれ、利用の拡大にガバナンスが追いつかないケースが少なくありません。APIキーはチームやプロジェクトごとに増え続け、支出は複数のプロバイダーに分散し、所有者の把握も難しくなります。FinOpsチームがコストや利用状況のデータを持っていても、それをタイムリーなアクションにつなげるには、手作業でのレビューやカスタムスクリプト、エンジニアリングチームとの調整が依然として必要です。

そこで実務上の課題が生まれます。各APIキーの所有者は誰か?もう使われていないキーはどれか?想定外の支出増は正当なものか?チームのしきい値を超えたときに何をすべきか?自動化がなければ、使われなくなった認証情報は放置され、コスト管理は超過が起きた後にしか機能しません。

CloudFlowは、OpenAI Administration APIとAnthropic Admin APIに対応しました。プロバイダーの管理・コスト・利用状況のデータを、フィルター、設定可能なしきい値、通知、自動アクションと組み合わせて、1つのワークフローで実行できます。

これにより、次のようなFinOps for AIのユースケースが実現できます。

• 使われていない、または一度も使用されていないAPIキーの監査
• チームやワークロード単位での利用状況と支出のモニタリング
• 設定可能な支出ガードレールの適用
• 介入が必要になる前の所有者への通知
• ポリシーに違反した認証情報の無効化
• レポートやレビューのためのガバナンスアクションの記録

では、どのように実践すればよいのでしょうか?

すぐに始められるように、こうした代表的なユースケースをCloudFlowで構築する方法を解説した2つのチュートリアルを用意しました。

使われていないAPIキーを監査する

OpenAIとAnthropicのAPIキーを棚卸しし、不要になった可能性のある認証情報を特定する、読み取り専用のガバナンスフローを構築します。このチュートリアルでは、フィルターと日時変換を使って、一度も使用されていないキーや90日以上使われていないキーを分類し、整形されたメールレポートを関係者に送信する方法を紹介します。

その過程で、プロバイダーアクションの結果に基づく分岐、タイムスタンプの扱い、構造化データのフィルタリング、テーブル形式の通知の作成方法を学べます。詳しくはAPIキー監査チュートリアルをご覧ください。

Anthropicの支出ガードレールを適用する

CloudFlow Datastore(シンプルなキーバリュー型データベース)に保存された、キーごとに設定可能なしきい値と照らし合わせて、Anthropic APIキーの支出を評価する自動制御を構築します。このフローは、ローリング形式のレポート期間を作成し、Anthropicのコストと利用状況のデータを組み合わせて各キーに帰属する支出を推定し、ポリシーに違反したキーを特定します。

しきい値を超過した場合、フローはキーを無効化し、関係者に通知した上で、後のレビューのためにその措置を記録します。このチュートリアルでは、プロバイダーアクション、Datastoreの設定、日時ロジック、カスタムデータ処理、通知、是正措置を1つのワークフローにまとめる方法を解説します。詳しくはAnthropic支出ガードレールチュートリアルをご覧ください。

今すぐ始める

OpenAIまたはAnthropicの接続を作成し、CloudFlowのワークフローにプロバイダーアクションを追加してください。なお、OpenAIとAnthropicのアクションは現在アーリープレビュー段階です。アクセスをご希望の方はお問い合わせください。

これらのチュートリアルはあくまで出発点にすぎません。CloudFlowを使ったFinOps for AIで、皆さんがどんなものを作り上げるのか、私たちも楽しみにしています!