AMD 发布针对 AI 优化的 ROCm 5.6


近日,AMD 发布了新的 AMD ROCm 5.6 开放软件平台 ,AMD AI群组高级副总裁 Vamsi Boppana 在博客中重点介绍了 ROCm 5.6 的一些新功能。

​对于 AI 和 LLM 工作负载,ROCm 5.6 带来了:

· 将 Hugging Face 单元测试套件集成到 ROCm QA 中

· PyTorch 2.0 感应器模式下对 OpenAI Triton 的增量支持

· 通过 ROCm 对 PyTorch、TensorFlow 和 JAX 提供 OpenXLA 支持,支持更广泛的社区。

对于 HPC 应用程序,ROCm 5.6 引入了对 FFT、BLAS 和求解器等多个数学库的改进,这些数学库构成了 HPC 应用程序的基础,并增强了 ROCm 开发和部署工具,包括安装、ROCgdb(CPU-GPU 集成调试器)、ROCm 分析器 和文档。

在接下来的几个月中,AMD 还将进一步优化框架和后端编译器,以实现更佳性能,其中包括 MLIR 基础设施改进,巩固 AMD 对 OpenAI Triton 和 OpenXLA 编译器的支持。 客户还可以在 Hugging Face 的 AMD 中心内期待更多针对AMD 解决方案优化的开源 AI 模型。

此外,AMD 透露,今年晚些时候,对AMD ROCm 的正式支持将开始在部分基于 AMD RDNA 3 的 GPU 上推出。Linux 上对基于 RDNA 3 的 GPU 的正式支持计划于今年秋季开始推出,首先是 48GB Radeon PRO W7900 和 24GB Radeon RX 7900 XTX,随着时间的推移,还会发布更多卡和扩展功能。

博客引自:New ROCm™ 5.6 Release Brings Enhancements and Opti... - AMD Community

最新文章