10月8日、OpenAIが「LegalOn halves Codex costs while maintaining development speed」と題した記事を公開した。法律AIスタートアップのLegalOn Technologiesが、モデル選択の最適化によりCodexのコストを半減（約50%削減）しつつ開発速度を維持した実践事例を紹介している。コストと生産性のトレードオフに悩むエンジニアリング組織にとって、具体的な施策が詳述された内容だ。
背景：LegalOn TechnologiesとCodex活用の経緯
LegalOn Technologiesは、契約書レビューや法務業務の自動化を手がける法律AIスタートアップだ。日本発の企業として知られ、自然言語処理を活用した法律文書の解析・支援ツールを展開している。同社はOpenAIのCodex（コード生成・実行に特化したAIシステム）を開発プロセスに組み込み、設計・実装・日常業務まで広く活用するようになった。
当初、開発者にはメインモデル（Fastモード）への無制限アクセスが付与されていた。しかし、高性能モデルを制限なく使い続ければ年間予算を超過するのは時間の問題だった。かといってアクセスを一律制限すれば、AIがもたらした生産性の向上が損なわれる。この「コスト対速度」のジレンマに対し、同社はどう対処したのか。
解決策の核心：タスク複雑度でモデルを使い分ける
同社のAI駆動開発センター・オブ・エクセレンス（AID CoE）が策定したのは、モデルを一律に使うのではなくタスクの複雑度に応じて複数のモデルを使い分けるガイドラインだ。AID CoEとは、社内のAI活用を横断的に推進・標準化する専門チームであり、モデルのテストや監視、各チームへの知見共有を担っている。
元記事に記載されたモデル選択の方針は、大まかに以下のような考え方に基づいている。
- 軽量モデル：要件が明確なコード実装や定型タスクなど、複雑な判断を要しない処理に充てる
- 中間モデル：標準的な設計・データ分析・ドキュメント作成など、汎用的な開発業務に用いる
- 高性能モデル：アーキテクチャ設計など高度な判断が求められる処理、またはエージェントのオーケストレーターとして活用する
「最も高性能なモデルを使えば良い」という発想から「タスクに合ったモデルを選ぶ」という発想へのシフトがポイントだ。マネージャーが各チームに知見を共有することで、エンジニア個人が適切なモデルを選べる体制を整えた。
コスト削減の3本柱
モデル選択だけでなく、以下の施策を組み合わせた。
- Fastモードのデフォルト制限：個別リクエストがある場合のみ許可。開発速度への影響を懸念する声もあったが、タスクの並列実行などのチーム内工夫でカバーした。
- 部門・グループ・個人単位の予算上限：管理者設定による月次利用上限をシステムで制御。
- 事業フェーズに応じた予算配分：既存の成熟事業には約20%のコスト効率化を求める一方、新規立ち上げ事業には積極的なAI活用を促すため予算を厚く配分した。
この組み合わせにより、Codexの利用コストを従来比で半減させることに成功した。元記事タイトルの"halves"が示す通り、コストをおよそ50%削減しながら開発速度は維持されている。
次のステップ：ROIを「顧客価値」で測る
コスト削減と開発速度の両立を達成した同社だが、次の問いに直面している。「開発が速くなること自体がAI投資の成功なのか？」
Senior Engineering ManagerのYuta Tokitake氏はこう語る。
「AIがシステム開発やアップデートを加速できることはほぼ自明だ。私たちが本当に理解したいのは、その速い開発が実際に顧客への価値に転換されているかどうかだ。」
この問いから生まれたのが、独自の評価指標だ。AIコストの測定単位を個別タスクではなくフィーチャーリリース単体に設定し、そのリリースが生む顧客価値とAI投資コストを紐付けることで、真のROIを可視化しようとしている。同社はこの指標を計算するパイプラインを現在構築中だ。
ガバナンスと自由のバランス
組織面では、個々のエンジニアが持つAIノウハウをナレッジベースに集約し、組織全体の知見として共有する仕組みも整備する予定だ。設計・実装・レビューの各フェーズでのベストなモデル組み合わせを記録し、個人の成功を全社的なベストプラクティスに転換する狙いがある。
Tokitake氏は採用方針の変化についても言及しており、AIスキルの重視を既に開始している。そして組織運営の指針をこう語る。
「ルールと予算による過度な制限は組織のモメンタムを損なう。必要なのは、リスク管理とチームが必要とするスピードを効果的に両立する柔軟なオペレーティングモデルだ。」
コスト管理から始まった取り組みが、ROIの再定義と組織能力の構築へと発展した事例として、エンジニアリング組織へのAI導入を検討している企業にとって参考になる内容だ。
詳細はLegalOn halves Codex costs while maintaining development speedを参照していただきたい。
