powered by TechFeed
表示モード
Deep Dive

AIの「とにかく使え」フェーズが終わった — 非技術系スタッフのPDF変換がトークンを食い尽くし、UberはAI予算を枯渇、各社がコスト管理に追われ始めている

6月24日、Joseph Coxが「The Tokenpocalypse Is Here: Companies Are Scrambling To Stop Spending So Much on AI」と題した記事を公開した。AIトークンコストの急膨張に頭を抱えているのはエンジニアではなく、PDFをMarkdownに変換する非技術系スタッフだった——404 Mediaが入手した内部会議音声が明かすその実態は、従来のAIブームの語りとは大きく異なる。UberのCTOがAI予算の枯渇を認め、GitHubが従量課金に移行した今、企業のAI活用は「使い倒す」フェーズから「コストを正当化する」フェーズへと転換しつつある。

6月24日、Joseph Coxが「The Tokenpocalypse Is Here: Companies Are Scrambling To Stop Spending So Much on AI」と題した記事を公開した。AIトークンコストの急膨張に頭を抱えているのはエンジニアではなく、PDFをMarkdownに変換する非技術系スタッフだった——404 Mediaが入手した内部会議音声が明かすその実態は、従来のAIブームの語りとは大きく異なる。UberのCTOがAI予算の枯渇を認め、GitHubが従量課金に移行した今、企業のAI活用は「使い倒す」フェーズから「コストを正当化する」フェーズへと転換しつつある。


「トークンポカリプス」とは何か

AIの企業導入が進んだ結果、今度はそのコストが経営課題として浮上している。記事中で"Tokenpocalypse(トークンポカリプス)"と呼ばれるこの現象は、AIの利用が拡大するにつれてトークン消費量が爆発的に増加し、コストが予測不能になる状態を指す。トークンとは、LLM(大規模言語モデル)がテキストを処理する際の基本単位で、入出力の量に比例して課金される。

404 Mediaが入手した内部会議の音声によれば、コンサルティング大手Accentureは、非技術系社員によるAIトークンの大量消費に頭を抱えている。


誰がトークンを食っているのか

エンジニアではなく非技術系スタッフがトークン消費の主因だという。

Accentureのエージェント型AI戦略リードであるJustice Kwak氏は内部会議でこう述べている。

「少なくとも社内データを見ると、トークン消費を牽引しているのはエンジニアではない。非エンジニアが(大量消費につながる)行動を取っているケースが多い」

その典型例として挙がったのが、PDFをMarkdownに変換する作業だ。会議中、AccentureのクライアントグループリードであるStuart Henderson氏が「PDFをMarkdownに変換するのが大きなトークン食いの一つだと学んだ」と指摘すると、Kwak氏はそれが実際に社内データで確認されていると認めた。

PDFをスライドに変換するといった非専門的なタスクで大量のトークンが消費されているわけで、「AIでスーパーエンジニアが大量のコードを生成している」という従来のAIブームの語りとは大きく異なる実態だ。


業界全体で広がるコスト問題

Accentureだけの話ではない。業界全体で同様の問題が顕在化している。

  • GitHub Copilot:月額定額制からトークン単位の従量課金へ移行。開発者コミュニティから強い反発が起きており、TechCrunchの記事タイトルが"What a joke"(冗談じゃない)と題されるほどだった。
  • Uber:Claude CodeやCursorなどのAIツール利用を上限制限。以前は「できる限り使え」と社員に奨励していたが、CTOが年度途中でAI予算を使い切ったと認め、方針転換した。
  • Walmart:AIツールの需要急増を受け、社員の利用を上限制限。

Kwak氏はこの状況を次のように整理する。

「AIの利用がシンプルなチャットボットから、エージェント型ワークフローや自動化、そしてCopilot・Claude Code・Codexといったエンタープライズ全体へのツール展開へと移行するにつれ、AIはコスト構造において無視できない存在になってきた。支出は非常に予測しにくくなり、CFO・COO・CIOレベルのリーダーシップは、AIへの投資から本当に価値を得られているのかを問い続けている」

また、コントロール手段の整備が遅れすぎている点も問題として挙げられている。予算上限やティア制といった制御機能がようやく登場し始めたが、多くの企業ではすでに消費が先行している。


Accentureが開発する「Token IQ」

Accentureはこうしたトークンコスト管理の需要を新たなビジネス機会と捉え、「Token IQ」と呼ぶ製品の正式ローンチを近く予定しているとKwak氏は語った。AIへの支出全体は見えていても、プロジェクトごと・タスクごとにトークン消費がどの価値創出に紐づいているかが可視化できていない——その課題に応えるポジショニングとみられる。元記事の段階では機能の詳細や競合製品との比較は明らかにされていないが、ローンチ後の続報が注目される。

なお、Accenture自身は以前、シニアスタッフに対してAIを活用しなければ昇進に不利になると通達したとFinancial Timesが報じている。AI推進を強力に打ち出してきた同社が、今度はコスト管理ツールを売り出す側に回るという構図だ。


AIの「とにかく使え」フェーズは終わりを迎えつつある。次のフェーズは、使い方を最適化し、コストを正当化するための戦いになりそうだ。

詳細はThe Tokenpocalypse Is Here: Companies Are Scrambling To Stop Spending So Much on AIを参照していただきたい。