9月4日、Pragmatic Engineerが「The Pulse: tech companies move to open AI models」と題した記事を公開した。Uber・Pinterest・Stripe・Coinbaseなど大手テック企業がプロプライエタリAIモデルからオープンモデルへ移行し、AIコストを大幅に削減している実態を詳しく紹介している。
大手テック企業がオープンAIモデルへ移行している
AIコストの高騰が続く中、テック企業の間で「OpenAIやAnthropicなどのプロプライエタリ（独自）モデルから、オープンモデルへ切り替える」という動きが広がりつつある。
記事で名前が挙がっているのは、Uber、Pinterest、Stripe、Coinbase、Ramp、AT&Tだ。これらの企業は、プロプライエタリモデルへの依存を減らし、オープンモデルとスマートモデルルーティング（用途に応じて最適なモデルを自動的に選択・切り替える仕組み）を組み合わせることで、AIにかかるコストを約50%削減することに成功しているという。
なぜ今、この動きが加速しているのか
背景にあるのは、LLM（大規模言語モデル）のオープンモデルの急速な品質向上だ。MetaのLlamaシリーズをはじめ、MistralやQwenなど、商用利用可能なオープンウェイトモデルが相次いでリリースされ、特定のタスクではGPT-4クラスに匹敵するパフォーマンスを発揮するケースも増えている。「高品質なアウトプットにはプロプライエタリモデルが必須」という前提が崩れつつある状況だ。
加えて、AIの利用が社内の多数のユースケースに広がるにつれて、APIコストが無視できない規模になってきた。特にUberやStripeのような大量のトランザクションを処理する企業にとって、1リクエストあたりの単価の差は月次コストに直結する。
スマートモデルルーティングとは何か
この戦略の核心がモデルルーティングだ。すべてのリクエストを高価なGPT-4クラスのモデルに投げるのではなく、タスクの複雑さや要求品質に応じて使うモデルを動的に振り分ける。
- シンプルな分類・要約タスク → 安価なオープンモデル
- 複雑な推論・コード生成 → プロプライエタリの高性能モデル
このアプローチにより、品質を維持しつつコストを下げることが可能になる。
各社の取り組み
記事では、各社が独自の形でオープンモデルへの移行を進めていることが報告されている。
Uberは、社内の多様なAIユースケースに対してモデルルーティングを導入し、タスクの性質に応じてオープンモデルとプロプライエタリモデルを使い分ける体制を整えている。同社は膨大なトランザクションを日常的に処理しており、コスト削減の効果が特に大きく出やすい構造にある。
Pinterestは、画像・コンテンツのレコメンデーションなど同社のコア機能にAIを活用しており、特定タスクに絞ったオープンモデルの採用によってコスト最適化を図っている。
Stripeは決済インフラを担う企業として、不正検知や問い合わせ対応など複数のユースケースでAIを活用している。プロプライエタリモデルへの全面依存から脱却し、タスクごとのモデル選定へと設計思想を転換している。
Coinbaseは暗号資産取引所として大量のユーザーインタラクションを処理しており、オープンモデルの活用によってコスト構造の改善を進めている。
RampおよびAT&Tも同様の方向性でオープンモデルへの移行を進めていることが記事内で言及されている。
各社に共通しているのは、「全タスクを1つのモデルで賄う」方針を捨て、タスクごとに最適なモデルを選ぶという設計思想への転換だ。この移行はOpenAIとの完全な決別を意味するわけではなく、複雑な推論など高品質が求められる場面ではプロプライエタリモデルを引き続き活用しつつ、コストパフォーマンスの観点からオープンモデルを積極的に組み合わせるハイブリッド戦略と言える。
自動ソフトウェアメンテナンスの実験
記事ではもう一つのトピックとして、自動ソフトウェアメンテナンスの実験についても触れられている。AIを活用して依存ライブラリのアップデートや定型的なコード修正を自動化する試みで、大規模なコードベースを抱える企業が直面するメンテナンスコストの削減を狙ったものだ。Dependabotのような既存ツールが担ってきた領域をLLMで拡張・高度化する方向性であり、エンジニアリングコストの削減手段として注目されている。ただし現時点では実験段階であり、本番運用における精度・信頼性については引き続き検証が必要な段階とのことだ。
エンジニアへの示唆
この動向が示すのは、「どのAIモデルを使うか」という意思決定が、今やインフラコストの最適化と同等の重みを持ち始めているという点だ。CTO・テックリードレベルでは、プロプライエタリモデルへのロックインリスクとコスト、オープンモデルの運用コスト（ホスティング、fine-tuning、評価基盤の整備）を天秤にかける判断が求められる局面が増えている。
また、モデルルーティングを実装するには、各タスクに対してモデル品質を定量評価できる仕組み（evals）が前提になる。「どのモデルで十分か」を判断する評価基盤なしには、コスト最適化は属人的な勘頼みになってしまう。オープンモデルへの移行は単なるコスト削減策にとどまらず、AIシステム全体の設計・評価体制の成熟度を問う取り組みでもある。
詳細はThe Pulse: tech companies move to open AI modelsを参照していただきたい。
