据外媒Wccftech在10月17日的消息,开发者abhi245y基于资深AI工程师Mert Cobanov的PS5LM(llama.cpp移植项目),推出了原生GPU应用PS5LM Plus。这使得经过破解的PS5主机能在本地运行Qwen3.8-27B这类大型语言模型。
IT之家了解到,PS5LM的早期版本主要依赖CPU来运行模型,处理27B参数模型时,平均每分钟仅能生成约1个token。为了提升性能,开发者abhi245y移植了Mesa开源项目中的AMD RADV驱动,并通过Vulkan计算接口,让llama.cpp能以原生应用的形式在PS5上运行。这项改进将可用内存从约6GB增加到11.4GB,使主机能够运行经过高度量化的Qwen3.8-27B模型。
得益于PS5较高的内存带宽(448GB/s),Qwen3.8-27B的生成速度可达每秒20.9个token。在测试过程中,GPU使用率达到100%,而CPU使用率仅为2%。对于规模更小的模型,PS5还能实现更快的生成速度,例如Gemma 4 E4B约为每秒61个token,Llama 3.2 3B则达到每秒124个token。
除了利用PS5的GPU加速模型推理,PS5LM Plus还内置了网页聊天界面,并可通过局域网8081端口提供API服务。用户能通过同一网络中的其他设备访问页面,与本地运行的模型进行对话。该项目还兼容OpenAI和Anthropic API,方便opencode、Codex、Claude Code等工具调用PS5上运行的模型。
对于一台主要面向游戏设计的主机而言,PS5能充当本地AI服务器,为大模型推理提供GPU加速,这展示了其硬件在游戏之外的潜在用途。不过,该机配备的16GB RAM统一内存仍然限制了模型的选择和运行质量。此外,运行原生版llama.cpp需要先对PS5进行越狱,这可能导致游戏机及PSN账号被封禁等风险。
John Martin 回复 2014年1月15日
九游首页以九游首页为核心,带来高效便捷的体验。
John Martin 回复 2014年1月15日
想了解更多九游官网网址相关内容,尽在九游首页。
John Martin 回复 2014年1月15日
九游首页围绕九游网址不断创新,回应用户的真实需求。
John Martin 回复 2014年1月15日
精选九游体育网址内容,九游首页与你一同发现更多精彩。
John Martin 回复 2014年1月15日
九游首页专注每篇内容均围绕操作细节与常见问题展开,适合零基础读者逐步入门。,为用户提供专业可靠的体验。
John Martin 回复 2014年1月15日
围绕持续更新新作观察与资源管理解析,紧跟行业动态。,九游首页持续打磨更优质的服务。