powered by TechFeed
表示モード
Apple

M5 Ultra搭載Mac Studio発表——512GBメモリ・1.2TB/s帯域幅で100B超のLLMをオンデバイス実行

8月25日、Appleが「Apple introduces new Mac Studio with M5 Max and M5 Ultra」と題した記事を公開した。M5 MaxおよびM5 Ultraを搭載した新しいMac Studioの詳細が明らかになった。

8月25日、Appleが「Apple introduces new Mac Studio with M5 Max and M5 Ultra」と題した記事を公開した。M5 MaxおよびM5 Ultraを搭載した新しいMac Studioの詳細が明らかになった。

AIエンジニアにとって最も刺さるポイントは、オンデバイスでフロンティアクラスのLLMを動かせるという点だ。M5 Ultraは最大512GBのユニファイドメモリ(CPUとGPUが同一メモリプールを共有するApple独自のアーキテクチャ。クラウドGPUサーバーのVRAMに相当する役割を担う)と1.2TB/sのメモリ帯域幅を実現し、Llama 3やMistralなど100Bパラメータを超えるオープンウェイトモデルを丸ごとローカルに乗せることが現実的になった。トークン課金もクラウドコストも不要で、完全にプライベートな環境でモデルを動かせる。

GDPRや各国のAIデータ規制が厳格化しつつある現在、「クラウドに一切データを送らずLLMを動かしたい」というニーズは急速に拡大している。そのニーズに対して、コンシューマ向けデスクトップ機がここまで応えられるようになってきたことは、インフラの選択肢を根本から変える可能性がある。

AIワークロードが別次元に

今回の最大の刷新は、GPUの各コアにNeural Acceleratorを直接統合したことにある。行列乗算(Matrix Multiplication)が劇的に高速化され、AIの推論・学習性能が大幅に向上した。

  • M5 Max:前世代(M4 Max)比で3.9倍のAI性能LM StudioでのLLMプロンプト処理はM1 Max比で10.7倍高速
  • M5 Ultra:M3 Ultra比で4.3倍のピークAIコンピュート性能、M1 Ultra比では9.8倍

メモリ帯域幅は前世代比50%増の1.2TB/s。LLM推論のボトルネックはしばしばメモリ帯域幅にあり、この数値の向上はトークン生成速度に直結する。

複数台クラスタリングでさらにスケールアウト

Thunderbolt 5とRDMA(Remote Direct Memory Access:CPUを介さずメモリ間で直接データ転送する技術)を使って複数のMac Studioをクラスタリングできる機能も追加された。4台を束ねると1台と比べて最大3倍高速なAI推論が実現できるという。各システムのメモリプールを統合して巨大な共有メモリ空間を作り出す仕組みで、チーム単位でのAIコンピュートリソースの共有にも対応する。小規模チームがオンプレミスでLLMインフラを構築する現実的な選択肢として注目される。

開発者向けフレームワーク

AI研究者・開発者向けに、macOS上の新フレームワークも発表された。

Core AIはAppleが今回新たに発表したフレームワークで、Apple Silicon向けに最適化されたAPIを提供する。ユニファイドメモリ、CPU、GPU、Neural Engineを統合的に活用でき、フルスケールのLLMのローカルデプロイや、カスタムモデルのアプリへの組み込みが可能だ。Mac Studio発売(9月22日)に合わせて提供開始となる予定だ。

MLX(AppleのオープンソースMLフレームワーク)は引き続きサポートされており、Mac上でのモデル実行・学習・ファインチューニングを効率的に行える。XcodeおよびサードパーティのAIツール群と組み合わせることで、実験から学習、デプロイまでの一連のAI開発フローをMac Studio上で完結させられる。

スペック詳細

M5 Max M5 Ultra
CPU 最大16コア 最大32コア
GPU 最大40コア 最大80コア
ユニファイドメモリ 最大128GB 最大512GB
メモリ帯域幅 614GB/s 1.2TB/s

※スペックは最大構成。詳細はMac Studio公式ページを参照。

ストレージはPCIe Gen 6ベースの次世代SSDアーキテクチャを採用し、前世代比最大2倍の速度を実現。巨大なLLMのロード時間短縮にも直結する。

接続性ではThunderbolt 5(最大120Gb/s)、Wi-Fi 7、Bluetooth 6がMac Studioに初搭載された。Wi-Fi 7とBluetooth 6はApple独自設計のN1チップによって実現されている。

主なベンチマーク(M5 Ultra)

  • LM StudioでのLLMプロンプト処理:M1 Ultra比9.8倍、M3 Ultra比4倍高速
  • テキストから画像生成:M1 Ultra比8.2倍、M3 Ultra比4.3倍高速
  • Maxon Redshiftでのシーンレンダリング:M1 Ultra比4.7倍、M3 Ultra比1.7倍高速
  • Foundry NukeでのCopyCat ML学習:M1 Ultra比15.4倍、M3 Ultra比3.3倍高速
  • 8K ProRes 422を30fpsで33ストリーム同時再生が可能

M5 Ultraには、M5 Maxの2倍のビデオエンコード・デコードブロックを持つMedia Engineも搭載される。Mac Studioは9月22日から販売開始で、現在予約受付中だ。

詳細はApple introduces new Mac Studio with M5 Max and M5 Ultraを参照していただきたい。