10月27日、Adam Kovacが「Anthropic warns the risk of AI-created weapons could slow the frontier lab down」と題した記事を公開した。IPOを控えたAnthropicがSECへの提出書類の中でAIの安全リスクとビジネス成長の緊張関係を率直に開示しており、その内容が注目を集めている。
S-1に書かれた「自社モデルは危険かもしれない」という異例の警告
AnthropicがIPO（新規株式公開）に向けて米国証券取引委員会（SEC）に提出したS-1書類（上場申請書類）の中に、異例ともいえる自己開示が含まれていた。同社は「モデルが生物兵器や化学兵器の開発に悪用されるリスク」を明示的に認め、それを理由に新モデルの提供が遅延する可能性があると警告した。
通常、上場申請書類は投資家向けにリスクを列挙する義務がある。しかし、ここまで自社技術の危険性を具体的に記述するAI企業は珍しい。OpenAIやGoogle DeepMindなど他の大手フロンティアラボも安全性への取り組みを表明しているが、上場申請という法的拘束力のある文書の中で自社モデルの兵器転用リスクをここまで明示した例は際立っている。
Anthropicは2021年にOpenAIの元幹部らが「AIの安全性をより真剣に扱うべき」として独立する形で設立した経緯がある。その創業理念がS-1の文面にも色濃く反映されている。
「速く動くことのリスク」を自ら認める
書類の中でAnthropicは次のように記している。
「速く動くことはAIの恩恵を早めるが、速く動きすぎると、世界がAIシステムを安全にする能力を超えてしまう可能性がある」
同社はすでに自動分類器などの技術的安全策を導入していると述べているが、同時に「そうした安全策は不完全であり、進化する脅威モデルに対して陳腐化する可能性があり、これまでも迂回されてきたし、今後も迂回されうる」と認めた。
AIの安全テストの限界についてはAI研究者の間でも議論が続いており、この記述はその議論を背景にしている。安全性を担保しながらモデルの能力を高め続けるという二律背反は、Anthropicに限らずフロンティアラボ全体が直面している構造的な課題だ。
赤字の中でも科学分野への拡張を宣言
Anthropicは現在数十億ドル規模の赤字を計上している。元記事では具体的な赤字額は明示されていないが、モデルの学習・運用に要するコンピュートコストが膨大であることは広く知られており、収益化の加速が投資家の最大の関心事となっている。
そうした文脈で同社が収益化の柱の一つとして挙げているのが、生命科学・医療分野への進出だ。具体的には、同社のライフサイエンス研究所がClaude（クロード）を活用してCRISPRに類似したDNA配列を発見した事例を挙げ、新市場へのアクセス経路として位置づけた。
ただし、この方向性にもリスクを認めている。従来の科学・研究活動は同社のコアビジネスの範囲外であり、「職場での傷害や環境汚染など、コアビジネスとは異なる種類の法的責任」にさらされると書類に記述した。科学分野への進出は成長機会である一方で、これまでとは質の異なるリスク管理を迫られることを、同社自身が認識している。
「無責任に見えるほど大きい」コンピュート投資を予告
コンピュート（計算資源）への投資についても、Anthropicは率直だ。
「一見すると無責任なほど大きく見える投資を行う可能性が高い」
同社はこの投資姿勢を、AIが急激かつ急速に進歩し続けるという見通し——書類中では原文で「wild exponential growth（制御しがたい指数関数的成長）」と表現されている——への合理的な賭けだと説明し、技術変化が緩やかな業界の企業よりも積極的な投資が必要だと正当化した。
この姿勢はMicrosoftやAmazonといった大手クラウド企業がAIインフラへの大規模投資を競い合っている現状とも呼応している。Anthropicはすでにアマゾンから最大40億ドルの出資を受けており、AWS上でのClaudeの提供を通じてコンピュートコストの一部を賄う構造になっている。それでもなお「無責任に見えるほど大きい」投資を予告せざるを得ない点に、フロンティアモデルの開発競争がいかに資本集約的かが透けて見える。
S-1という法的開示文書の性質上、リスク記述は義務的な側面もある。しかし、Anthropicの書き方は定型的なリスク免責を超えており、自社のミッションと商業的成長の間の緊張を意識的に言語化している点が際立つ。「安全を重視するAI企業」というブランドをIPO後も維持できるかどうかは、市場と規制当局の両方が注視している。
詳細はAnthropic warns the risk of AI-created weapons could slow the frontier lab downを参照していただきたい。
