powered by TechFeed
表示モード
Deep Dive

AI予算が年度内に2〜3倍超えが続出 — クラウドで「予測誤差1〜3%」を実現したFinOpsが、トークン課金の前で振り出しに戻った

6月26日、Tim Murphyが「FinOps for AI: How CIOs are navigating tokenomics」と題した記事を公開した。この記事では、AI支出が予算を大幅に超過するなか、CIOやCTOがトークノミクス(tokenomics)をどう管理しようとしているかについて詳しく紹介されている。

6月26日、Tim Murphyが「FinOps for AI: How CIOs are navigating tokenomics」と題した記事を公開した。この記事では、AI支出が予算を大幅に超過するなか、CIOやCTOがトークノミクス(tokenomics)をどう管理しようとしているかについて詳しく紹介されている。


「予測誤差1〜3%」が崩壊した

クラウドコスト管理の文脈では、成熟したFinOpsチームであれば予算と実績の誤差を1〜3%以内に抑えることが当然視されていた。AIはそれを完全に壊した。

FinOps Foundationのエグゼクティブディレクター、J.R. Storment氏はTechTargetのインタビューでこう述べている。

「クラウドでは解決済みの問題だった。成熟したFinOpsチームは1〜3%の誤差で着地できていた。AIでは完全に吹き飛んだ」

実際、AI予算が単年度内に予測の2〜3倍に達した事例が続出している。Uberについては、AI支出が3月時点で年間予算を使い切ったと元記事中で紹介されており、AI採用が予算・予測の整備を追い越した典型例として取り上げられている。

クラウドコストが主にエンジニアリング部門から発生していたのに対し、AI支出は営業・マーケティング・法務など全社横断で発生する。需要の予測が難しく、コスト帰属(どのチームや個人が費用を発生させたか)の把握も困難になっている。

ここでいう「トークノミクス」とは、LLM(大規模言語モデル)の利用コストがAPIへの入出力トークン数に応じて課金される仕組みを指す。クラウドのVM・ストレージ課金と異なり、トークン消費量はユーザーの入力内容・プロンプト設計・エージェント型ワークフローの複雑さによって大きく変動するため、従来のリソースベースのコスト予測手法がそのまま通用しない点が本質的な難しさだ。


「誰がAIコストを所有するか」が決まっていない

FinOps for AIのもう一つの構造的な課題が、ガバナンスの所有権だ。

従来、FinOpsはCIOまたはCTO配下に置かれることが多く、FinOps Foundationのデータでは「コミュニティの80%以上がCIOまたはCTO配下」という状況だった。しかしAIが全社的な取り組みに拡大するにつれ、チーフAIオフィサー、事業部門リーダー、テクノロジーリーダーが次々と関与を主張するようになり、所有権が曖昧になっている。

「どこの企業でも、コストの所有権だけでなく、戦略の所有権についても混乱が起きている」(Storment氏)

なお、FinOpsが従来から「技術部門の仕事」とされてきた背景には理由がある。インフラの意思決定を行うエンジニアに最も近い立場にあるからだ。Storment氏は「エンジニアは、財務担当者にインフラの運用方法を指図されることを嫌う」とも述べており、AIによって財務部門との摩擦が再燃するリスクもある。

StitcherAIのCEOで、FinOps FoundationにおけるFOCUS課金仕様の共同創設者であるUdam Dewaraja氏は、分散型アカウンタビリティという考え方を提唱する。

「全員が財務の専門家である必要はない。ただし、自分の領域と意思決定に対しては誰もが説明責任を持てる。それでも組織全体のガバナンスを担うFinOpsチームは必要だ」

FOCUS(FinOps Open Cost and Usage Specification)は、クラウド・SaaSのコストデータを統一フォーマットで扱うための業界標準仕様であり、AI関連コストへの対応拡張も現在進行中だ。


CIOが今すぐできること:コストの「見える化」から始める

業界標準の策定はまだ途上にある。Storment氏は、FinOps for AIはクラウドで培った「成熟期」から「黎明期」に逆戻りした段階にある、と表現する。クラウドFinOpsが本格的に普及し始めたのは2010年代中盤であり、業界共通の指標・ベストプラクティスが確立されるまでに数年を要した経緯がある。トークノミクス管理はいま、その再入門期にある。

そのなかでCIOが現実的に着手できるのは、AIコストの粒度ある可視化だ。

  • AI支出を単一の費用項目として扱うのではなく、ユーザー・チーム・プロジェクト単位でコストを帰属させる
  • モデル使用量、トークン消費、GPU利用、エージェント型ワークフローなど、コストドライバーごとの把握

ベンダー側も対応を進めている。Anthropicはエンタープライズ向けにユーザーごとの利用量・支出データのエクスポート機能(Claude向け)を提供。AWSはAmazon Bedrockに対してより詳細なコスト帰属機能を追加している。

最終的に組織が目指すのは、AI支出をビジネス価値に結びつけることだ。ただし現時点では、可視化・帰属・ガバナンスの基盤整備が優先課題であり、高度な最適化はその先にある。

FinOps Foundationが指摘するように、6〜10年前のクラウド時代にFinOpsがエンジニアリングリーダーと財務リーダーの橋渡し役を担ったように、今またトークノミクスを軸に新たな橋が必要とされている局面だ。


詳細はFinOps for AI: How CIOs are navigating tokenomicsを参照していただきたい。