跳到正文

破解版 PS5 跑 llama.cpp:GGUF 模型原生跑上游戏主机

游戏机当推理机,这个组合终于有人做出来了。

PS5LM 项目

项目是什么

GitHub 开发者 cobanov 发布的 PS5LM 项目,演示了在破解版 PS5 上原生运行 llama.cpp——GGUF 格式的开源模型直接跑进索尼的游戏主机,不依赖远程服务器,不借助 PC 中转。项目在 Hacker News 冲到 215 分,评论区一半在讨论实现细节,一半在算 PS5 那颗定制 APU 跑本地模型的性价比账。

为什么有趣

PS5 的硬件规格放在今天的 PC 市场并不顶尖,但它是一台千元级(人民币口径)、功耗可控、静音、堆里塞着可用显存的现成设备。对本地大模型玩家来说,这台机器的吸引力不在性能巅峰,而在“白捡一台专用推理盒子”的想象空间——尤其 GGUF 生态和 llama.cpp 的移植性这几年被打磨得极好,什么设备都想往上靠一靠。

泼一盆冷水

前提写在标题里:破解版。固件升级会封堵、联机服务会封号、性能上主机 OS 的资源调度也远不如裸机 Linux 灵活,实际推理速度和一台同价位 PC 比并没有优势。这个项目的价值更多是“证明可行”的极客趣味,而不是实用的部署方案——但它侧面对 AMD ROCm 生态的补完倒是真的,毕竟 PS5 的 APU 和 AMD 显卡是远房亲戚。