powered by TechFeed
表示モード
Deep Dive

ジェイルブレイクPS5でローカルLLMのGPU動作に成功——小型モデルは124トークン/秒、LAN越しのチャットUIも実装

10月16日、Jhet Borjaが「Jailbroken PS5s can now run local AI models at over 100+ tokens per second」と題した記事を公開した。ジェイルブレイク済みPS5上でローカルLLMをGPU経由でネイティブ動作させ、小型モデルで最大124トークン/秒を達成したプロジェクトを詳しく紹介している。

10月16日、Jhet Borjaが「Jailbroken PS5s can now run local AI models at over 100+ tokens per second」と題した記事を公開した。ジェイルブレイク済みPS5上でローカルLLMをGPU経由でネイティブ動作させ、小型モデルで最大124トークン/秒を達成したプロジェクトを詳しく紹介している。

「ゲームをしていない間のPS5をAIアシスタントとして使う」というアイデアが、実用域に踏み込んできた。同一LAN内の別デバイスのブラウザからPS5上のLLMにチャットでアクセスできるUIの実装まで完成しており、技術デモにとどまらない段階に達している。


CPUペイロードの限界を破った「ネイティブ実行」

PS5のジェイルブレイクは特定のファームウェアバージョン(現在は8.xx系の一部)に限定されており、最新ファームウェアへ更新済みの端末では動作しない。あくまでもホビイスト・研究者向けの取り組みであり、法的にも利用規約上のグレーゾーンに位置する点は前提として押さえておきたい。

ことの発端は元記事公開の約2週間前、GitHubユーザーcobanovがジェイルブレイク済みPS5上でllama.cpp(C++で実装されたLLM推論ライブラリ)を動かすポート「PS5LM」をRedditに投稿したことだ。ただしこの初期実装には大きな制約があった。

cobanovの版はLLMを「ペイロード」として実行する方式——PS5のホーム画面やシステムサービスが動いたまま、CPUに処理を割り込ませる形——だった。この手法ではRAMへのアクセスが約6.25 GiBに制限され、6.8 GiBクラスのモデルをロードしようとするとシステムがフリーズする。cobanov自身もGPU対応を目指していたが、別の開発者に先を越されることになった。

Redditユーザーu/AdIllustrious7246がPS5LMをフォークし、GPUを使ったネイティブアプリとして動作するよう改造した。


GPUアクセスを可能にした「PS5_Vulkan」

PS5のGPUはAMD製(RDNA 2アーキテクチャ)だが、コンソール機の性質上、PC向けGPUのように外部からAPIで直接アクセスする手段が通常は存在しない。この壁を破ったのが**PS5_Vulkan**だ。

VulkanはKhronos Groupが策定するクロスプラットフォームの低レベルグラフィクスAPIで、AMDはそのオープンソース実装「RADV」をLinux向けに提供している。PS5_VulkanはこのRADVをPS5に移植したプロジェクトであり、GPUへの命令送信を実現する。u/AdIllustrious7246はPS5_Vulkanを活用することで、llama.cppをGPU上で動かすことに成功した。

ネイティブ実行への移行により、使用可能なRAMも最大11.4 GiBまで拡張された。CPUペイロード方式では不可能だった大型モデルのロードも、この方式では問題なく動作する。


実測スループット

各モデルの実測値は以下の通りだ。

モデル パラメータ数 速度
Qwen3.8-27B 27B 約20トークン/秒
Gemma 4 E4B 4B 61トークン/秒
Llama 3.2 3B 3B 124トークン/秒

小型モデルであれば実用的な速度が出ており、27Bクラスの大型モデルでも会話には十分耐えられる水準だ。参考として、ミドルレンジのPC向けGPU(例:RTX 4060)でLlama 3.2 3Bを動かした場合は一般的に200〜300トークン/秒程度とされており、PS5はそれより遅いが、専用AIハードウェアを持たないゲーム機としては妥当な数字だ。

さらにu/AdIllustrious7246はダッシュボードも実装した。トークン生成速度、GPU/CPU使用率、消費電力、温度、モデルとKVキャッシュのメモリ分割状況をリアルタイムで表示する。加えてllama.cppのWeb UIとも連携しており、同一LAN内の別デバイスのブラウザからPS5上のLLMにチャットでアクセスできる。


PS5の転用事例が広がる中、AI活用も現実味

Tom's Hardwareのコメント欄では、かつての暗号通貨マイニングブーム時代のGPU価格高騰を想起するユーザーが続出したようだ。ただしBorjaはその可能性を低いと見ている。すでに大規模AIデータセンターの需要でGPU・RAM不足は進行中であり、PS5のGPUはPC向けハイエンドGPUと比べて性能も搭載RAMも限定的なためだ。

ジェイルブレイクPS5の活用事例は他にも広がっており、Xboxクラウドゲーミングの動作やNintendo Switchゲームの実行、PS2ディスクのネイティブサポートといったプロジェクトが次々と登場している。ゲームをしていない時間帯のPS5を手元のAIアシスタントとして活用するユースケースが、着実に現実に近づいている。


詳細はJailbroken PS5s can now run local AI models at over 100+ tokens per secondを参照していただきたい。