7月31日、Jowi Moralesが「Amazon accidentally spent $1.8 million using Claude for menial coding task, went 860% over budget」と題した記事を公開した。この記事では、AmazonがClaude Sonnetを使った単純なコーディングタスクで予算の860%超過となる180万ドルを浪費していたことが内部レポートによって明らかになった件について詳しく紹介されている。
180万ドルの請求書、5ヶ月間気づかれず
AmazonがAnthropicのAIモデル「Claude Sonnet」を使って著者情報とAmazon上の商品リストを照合するという、比較的単純なタスクを処理させた結果、割り当て予算の860%増しとなる180万ドルの請求が発生した。しかもこの問題は、発生から約5ヶ月間にわたって検知されなかったという。
Financial Timesが入手したAmazonの内部レポートによれば、コスト超過はこの案件だけではない。
- 54万1,000ドルの超過コスト：皮肉なことに、財務監査ツールの開発プロジェクトで発生
- 13万4,000ドルの超過コスト：物流ネットワークの配送時間短縮を目的としたシステムで発生
記事内では「以前はコストが些細な水準（trivially cheap）だったミスが、AIによって壊滅的に高価（catastrophically expensive）になった」と表現されている。AIエージェントの普及により、消費されるトークン数が急増したことが背景にある。
なぜこうなるのか：トークン課金モデルの罠
AIプロバイダーがサブスクリプション型からトークン従量課金型にビジネスモデルを切り替えたことで、コスト構造が根本的に変わった。Claude Sonnetを例に取ると、Anthropicの公式料金ページが示すとおり、入力・出力それぞれのトークン数に応じて課金される仕組みになっている。
ここで問題になるのが、AIエージェント特有の動作パターンだ。AIエージェントは人間のエンジニアと異なり、与えられたタスクを達成するまで自律的にツール呼び出しや自己評価を繰り返す「ループ動作」を行う。タスクの内容が単純であっても、エージェントが試行錯誤・確認・再試行のサイクルを何十回と回せば、消費トークン数は青天井に膨らむ。つまり、タスクの難易度とコストが必ずしも比例しないのがAIエージェント課金の本質的な罠だ。
Amazonはかつて、社内で最もAIを使っている社員を可視化する「リーダーボード」を運用していたが、AIコストの急騰を受けてこの制度を廃止している。また、AIコーディングボットによる障害が複数発生したことを受け、AIエージェントに付与する権限をシニアエンジニアと同等ではなく制限された範囲に絞る対策も講じた。
Amazonの見解と業界全体の問題
Amazonは内部プレゼンテーションでこう述べている。
「あらゆる新技術と同様に、我々は実験し、学び、改善しており、コスト効率の面でも同様だ。チームが互いに学んでいる小さく孤立した事例を取り上げ、それを通常業務として描写することは、Amazonの各チームがAIを活用している実態を反映していない」
確かに、Amazonの直近四半期売上高は1,810億ドル超であり、今回の超過コストはその月次売上の0.1%にも満たない。ただしこの論理が通用するのは規模の大きい企業に限られる話だ。
同様の問題は業界全体に広がっている。Financial Timesの同報道によれば、ある匿名企業が1ヶ月でClaudeに5億ドルを費やしたという事例も記録されている。UberのCTOは「AI利用量を極大化すること（tokenmaxxing）と成功するプロダクトを出荷することの間に相関はない」と明言している。ここで言う「tokenmaxxing」とは、成果に関係なくAIに大量のトークンを消費させること、つまりAI利用量の最大化を自己目的化してしまう行為を指す。多くのテック企業が年間予算を数週間で使い切るケースも出始めている。
エンジニアへの教訓
今回の件が示す教訓は明確だ。AIエージェントの導入にはコストモニタリングの仕組みを必ずセットで実装する必要がある。予算上限の設定、定期的なコストアラート、そしてエージェントの権限スコープの最小化は、実用上の必須要件と考えるべきだ。「試しに動かしてみる」だけでは済まない時代になっている。
詳細はAmazon accidentally spent $1.8 million using Claude for menial coding task, went 860% over budgetを参照していただきたい。
