PS5LMは、PlayStation 5のハードウェアをローカルAI推論に活用するために設計されたオープンソースプロジェクトです。llama.cppのVulkanバックエンドを介してコンソールのRDNA 2 GPUを利用することで、このソフトウェアはユーザーがGGUF（GPT-Generated Unified Format：量子化された大規模言語モデルの一般的なフォーマット）モデルをデバイス上で直接ロードして実行することを可能にします。システムは、モデルとそのコンテキストのためにコンソールの共有メモリの約11.4 GBを使用し、llama.cppフレームワークでサポートされている様々なアーキテクチャや量子化手法に対応しています。
このプロジェクトは、ローカルネットワーク上の他のデバイス（ノートパソコン、スマートフォン、コーディングツールなど）へのリクエストを処理するプライベートなモデルサーバーとして機能します。OpenAIの/v1/chat/completionsやAnthropicの/v1/messagesを含む標準的なAPIとの互換性を提供しており、Claude Codeのような既存のソフトウェアと連携することが可能です。標準的なチャットに加え、PS5LMは「意思決定モデル（decision models）」をサポートしています。これは、長い文字列を生成するのではなく、単一のフォワードパスで型指定された意思決定、スコア、Yes/Noの回答を出力するように設計されたモデルです。コンソールのインターフェースは、テレビ画面上にリクエストと回答をストリーミングしながら、温度、消費電力、GPU/CPU負荷を含むリアルタイムのテレメトリを表示します。
プロジェクトは、テレビ画面上にリアルタイムのテレメトリとストリーミングリクエストを表示するユーザーインターフェースを提供します。
コンソールのインターフェースは、テレビ画面上にリクエストと回答をストリーミングしながら、温度、消費電力、GPU/CPU負荷を含むリアルタイムのテレメトリを表示します。
標準的なチャットに加え、PS5LMは、長い文字列を生成するのではなく、単一のフォワードパスで型指定された意思決定、スコア、Yes/Noの回答を出力するように設計された「意思決定モデル」をサポートします。
このプロジェクトは、Qwen 3.5やQwen 3.8などのモデルをネイティブに実行する方法を提供しますが、特定のハードウェアおよびソフトウェア要件があります。ユーザーは、バージョン7.00から13.60の間のファームウェアを実行している脱獄済みのPS5に加え、ホームブリューのサポートとファイルシステムへのアクセスを有効にするためのいくつかの特定のペイロード（etaHEN、ShadowMountPlus、elfldrなど）を所有している必要があります。パフォーマンスはモデルのサイズによって大きく異なります。例えば、Qwen 3.5 9BモデルはPS5 Slimで毎秒約55トークンを達成でき、より大きなQwen 3.8 27Bモデル（2ビット量子化）は64kのコンテキストウィンドウで毎秒約20トークンに達することが可能です。ローカルで実行されるため、システムはクラウド接続や外部アカウントを必要とせず、家庭用AIホスティングのためのプライベートな代替手段を提供します。