元OpenAI CTOのMira Muratiが「凍結されたAI」に挑む — 価値観をプロンプトでなくモデルの重みに焼き込むTinker APIを公開

7月11日、MarkTechPostが「Mira Murati's Thinking Machines Lab Makes The Technical Case For Human-Centered AI Built On Customizable Model Weights」と題した記事を公開した。OpenAIのCTO職を2023年に退き、2024年にThinking Machines Labを設立したMira Muratiが、「人間中心・分散型AI」の技術的ビジョンとその実装手段であるTinker APIを発表した。LoRAで価値観をモデルの重みに直接書き込むという同ラボのアプローチは、プロンプト依存の現状に対する明確なオルタナティブを提示している。

アライメントをモデルの重みに埋め込む——Tinker API

レポートの中でエンジニアに直接刺さるのが、価値観をどこに置くかという問いへの答えだ。

プロンプトはモデルの表面的な挙動を変えるに過ぎず、深層のモデルの習慣は変わらない。単一のアライメント管理者に集中すれば「乗っ取りの単一障害点」になる。だからこそラボは、価値観はプロンプトではなくモデルの重みに書き込まれるべきだと主張する。

その実装がTinker APIだ。LlamaやQwenなどのオープンウェイトモデルをLoRA（Low-Rank Adaptation）でファインチューニングし、ポータブルなアダプター重みとしてエクスポートできる。最小構成のコードは以下のとおりだ。

import tinker
from tinker import types

# 環境変数 TINKER_API_KEY を読み込む
service_client = tinker.ServiceClient()

# オープンウェイトベースモデルに対するLoRAファインチューニングクライアント
training_client = service_client.create_lora_training_client(
    base_model="Qwen/Qwen3-8B", rank=32,
)

for batch in dataset:                     # batch: list[types.Datum]
    fwd_bwd = training_client.forward_backward(batch, "cross_entropy")
    optim = training_client.optim_step(types.AdamParams(learning_rate=1e-4))
    fwd_bwd.result()                      # 勾配を蓄積
    optim.result()                        # 重みを更新

# 学習済みLoRA重みを保存し、推論クライアントを取得
sampling_client = training_client.save_weights_and_get_sampling_client(
    name="my-adapter",
)

「凍結されたAI」への問題提起

現在広く使われているAIモデルのほとんどは、少数の研究機関で学習を完了した後、そのまま「凍結」された状態で配布される。Thinking Machines Labは、この設計がモデルを使う人々を排除していると主張する。

ラボが7月10日に公開したレポート「The Future Worth Building Is Human」は、AIは分散型で、カスタマイズ可能であり、ユーザー自身によって形成されるべきだという立場を技術的に論じている。

この主張の哲学的根拠として、レポートはMichael PolanyiとFriedrich Hayekを引く。Polanyiの「暗黙知（tacit knowledge）」は、職人の技や組織固有のノウハウのように、言語化・データ化できず実践の中でのみ伝わる知識を指す。HayekはこれをAIアライメント文脈に先駆けた形で経済学に応用し、分散した個人の知識は中央機関には集約できないと論じた。レポートはこの議論を援用し、「人間の知識がそもそも分散しているのなら、それを扱うAIも分散して配置されなければならない」と結論付ける。プロンプトや中央集権的なアライメント仕様では、こうした暗黙知の多様性に対応できないというのが、Tinker APIの設計思想の背景にある。

チェスや数学は例外として認めている。目標が静的で明示できるクローズドなドメインでは、自己対戦や自律的な問題解決が有効だ。しかしそれ以外の領域では、知能の高さだけでは不十分だとラボは言う。

技術的なボトルネックを「エンジニアリング目標」として再定義

ラボは2つの制約を技術課題として提示する。

1. 通信チャネルの狭さ：テキストボックスに入力して待つ、という現在の対話モデルは帯域が狭い。ラボが開発している「インタラクションモデル」は、音声・映像・テキストを連続的に処理し、約200ミリ秒のマイクロターンでリアルタイムに応答する。詳細は別途公開されたインタラクションモデルの解説記事で確認できる。

2. 評価指標のズレ：METRのタスク完了時間ホライズンなどのベンチマークは、モデルが単独でどれだけ長く作業できるかを測る。しかしラボは、これが人間とAIが協働して達成できることを見落としていると指摘する。

集中型と分散型の対比

レポートが提示する比較表を整理すると、以下のようになる。

具体的なユースケース

レポートが示す実例は以下のとおりだ。病院が自院のプロトコルでモデルをファインチューニングし、データもアダプター重みも院内に保持する。法律事務所が自社スタイルに合わせたモデルを持ち、内部ガイダンスが変わるたびに再学習する。サポートチームがライブインタラクションでタスク実行中にモデルをその場で修正する。いずれのケースも、固定モデルを「借りる」のではなく、組織がモデルの所有権を保持する構造だ。

今回のレポートは、Thinking Machines Labが技術的立場を包括的に示した初の本格的な公開文書となる。OpenAI在籍時から大規模モデルの開発を主導してきたMuratiが、あえてオープンウェイト・分散型という方向性を選んだことは、業界の議論に一石を投じるものだ。

詳細はMira Murati's Thinking Machines Lab Makes The Technical Case For Human-Centered AI Built On Customizable Model Weightsを参照していただきたい。