エンジニアリングリーダーとして、私たちは今まさに大きなプラットフォームの転換期のただ中にいます。AIはもはやスライドを飾るバズワードではなく、ソフトウェアの作り方・届け方を根本から変える強力な武器になりました。
とはいえ、AIの導入は単一の課題ではありません。2本の道が並走する壮大な遠征のようなもので、それぞれまったく別の地図が必要です。1本目は開発者にAIを使わせる道。2本目は、はるかに難易度が高い、AIを自社製品そのものに組み込む道です。
どちらもうまく進めることが重要ですが、待ち受ける課題はまるで違います。特に、VP of Engineeringが必ず責任を問われる「コスト」については顕著です。
遠征1 – 開発者のためのAI
2つのうち、こちらは比較的わかりやすい方だと言えるでしょう。それでも、内側には数多くの論点が折り重なっています。たとえば:
- ROIをどう測るのか?本当に開発速度は上がっているのか、上がっているとしてどの程度か?
- エンジニアリングカルチャーやコードのオーナーシップにどんな影響があるのか?
- チーム編成や採用戦略にどう影響するのか?
- 社内からの反発(たいていはシニア層から出てきます)にどう向き合うのか?
いずれも別の機会にじっくり掘り下げるべき重要なテーマですが、コストモデルそのものはシンプルです。予測可能なシート課金のライセンス料、OpEx予算に並ぶ明快な一行にすぎません。
遠征2 – 製品に組み込むAI
ここから地図は一気に読みにくくなります。サポート用チャットボットにせよ、バックエンドの要約サービスにせよ、AIをソリューションに組み込んだ瞬間、それは単なるツールではなくなります。アプリケーションアーキテクチャの中核コンポーネントになるのです。
このAIコンポーネントは固定の運用費ではなく、顧客の利用量に応じて増減する変動コストであり、しかもその増え方はしばしば読めません。
別の見方をしてみましょう。あなたが社内パーティーを主催し、バーテンダーに「どんどん注いでください、支払いはまとめて一つの伝票で」と伝えたとします。パーティーには営業、マーケティング、エンジニアリングなど、いろいろなチームが集まっています。
問題:夜が更けた頃、バーテンダーが差し出した請求書は、桁数がまるで電話番号のようでした。
疑問:この巨額の請求は、参加者全員がビールを2〜3杯ずつ飲んだから(広く浅い、低コストの利用)でしょうか?それとも、新規契約を祝う営業チームが自分たちのテーブル全員に50年もののシングルモルトを何ラウンドも振る舞ったから(少人数だが極端に高コストな利用)でしょうか?
明細がなければ、まさに手探り状態です。妥当な消費なのか、予算を吹き飛ばす浪費なのか、区別すらつきません。
これは私たちがエンジニアリング現場で直面している課題そのものです。あなたのプラットフォームでは、複数のマイクロサービスが複数のAIサービスを利用しています。たとえば:
- マイクロサービスAは、プレミアム顧客向けの新しいAI分析機能を支えている。
- マイクロサービスBは、全ユーザーが使える「スマート要約」機能を担っている。
- マイクロサービスCは、サポートチケットを分類する社内プロセスを回している。
月末になると、AIプロバイダーから1通の合算請求書が届きます。そこへCFOから鋭い質問が飛んできて、あなたはそのコストを、発生源となった特定のサービス、機能、さらには顧客単位にまで割り当てるよう求められます。さて、どうやりますか?
これは仮定の話ではなく、私が毎日直面している現実です。「オープンバー」ジレンマを解く鍵は、注文された「一杯一杯」までわかる明細を手に入れることに尽きます。
幸い私はAttribute™に在籍しており、「Drinking our own Champagne(自社製品で自分の課題を解く)」で問題を片付けるのが大好きなのです。
そこで私たちは、eBPFベースのセンサーとディープパケットインスペクション機能を自分のマイクロサービスに向けて、各マイクロサービスがどのAIサービスを使っているかだけでなく、請求総額のうちどれだけを消費しているかまで突き止めました。
この仕組みは、バーの奥に控えて一杯ごとに丁寧に台帳を付ける会計士のような働きをします。各マイクロサービスがどのAIサービスを使っているかだけでなく、請求総額のうちどれだけ使ったのかまで正確に把握できるのです。しかも開発者にコードを書き換えてもらう必要はなく、AI支出の1ドル単位まで発生源をたどれます。
おまけに、「エンジニアリングの課題」をプロダクト機能へと昇華させ、全顧客にも提供できるようにしたという、この上ない達成感まで手に入りました。
今なら、社内のさまざまなチームを「オープンバー」AIイベントに招くのも安心です。最後に請求書を一人で抱えて財務部と対峙する羽目にはならない、とわかっているのですから……