TWITTER / X
PyTorch 2.15 将大幅改进 Apple MPS 后端：更快的 LLM 解码、FP8 支持与更低内存占用
Hugging Face 研究员转帖预告 PyTorch 2.15 中 Apple MPS（Metal Performance Shaders）后端的多项改进：更快的 LLM 解码、MPS 上支持 FP8 数据类型、更好的线性代数支持、更低的内存占用，并提及 2.16 的规划。详细内容见其附带的 Hugging Face 博客文章。
AI 解读
原文为 Hugging Face 研究员 LysandreJik 的转帖，内容关于 PyTorch 2.15 版本中 Apple Metal Performance Shaders (MPS) 后端的改进。原文明确列出：更快的 LLM 解码（Faster LLM decode）、MPS 上支持 FP8 dtype、更好的线性代数支持、更低的内存占用，以及 2.16 版本的计划，并附 Hugging Face 博客链接。为什么值得关注：MPS 后端性能提升意味着在 Apple Silicon（Mac）设备上用 PyTorch 运行大语言模型推理的体验将明显改善，这对本地/边缘 AI 开发者具有实际意义。推断部分（明确标注）：FP8 支持通常与推理加速和显存节省相关，若落地良好，可能缩小 Mac 与专用 GPU 在推理场景下的体验差距；但这些效果原文未量化，不能当作已确认事实。原文未提供具体性能数字、发布日期细节或博客正文内容。
推文原文
RT Is36E Lots of exciting changes coming to MPS in @PyTorch 2.15 release: - Faster LLM decode - FP8 dtype on MPS - Better Linear Algebra support - Less memory usage - And plans for 2.16! Take a look at the blog post for more details! https://huggingface.co/blog/mps-pytorch-2-15