该申报吉尼斯了吗?赛灵思和 AMD 共创全新 AI 推断世界纪录

在加利福尼亚州圣何塞举办的赛灵思开发人员论坛上,我们的首席执行官 Victor Peng 和 AMD 首席技术官 Mark Papermaster 一起创造了一项吉尼斯纪录。但这次并非是什么小把戏,而是值得大书特书的记录。*

两家公司披露 AMD 和赛灵思正在共同努力实现 AMD EPYC CPU 与全新赛灵思 Alveo 加速卡系列的连接,以实现高性能实时 AI 推断处理。为了证明这一点,他们公布了一项每秒 3 万张图像的推断吞吐量的世界纪录*!

这套令人印象深刻的系统将于今天在赛灵思开发人员论坛的 Alveo 生态系统区亮相。它搭载两个 AMD EPYC 7551 服务器 CPU 和业界领先的 PCIe 连接,以及八片刚刚推出的赛灵思 Alveo U250 加速卡。推断性能由赛灵思 ML 套件提供支持,方便开发人员优化和部署加速推断,并支持 TensorFlow 等大量机器学习框架。基准测试在 GoogLeNet*,一种广泛使用的卷积神经网络上执行。

AMD 和赛灵思分享有关计算向异构系统架构演进发展的共同愿景规划并开展长期技术合作。两公司已优化驱动程序并调整 AMD EPYC CPU 与赛灵思 FPGA 间的互操作性性能。此外,我们也与其他同行就加速器使用的缓存一致性互联(CCIX 联合体——发音为“see-six”)进行协作,重在于多个处理器上实现缓存一致性和共享存储器。

AMD EPYC 是为人工智能和高性能计算工作负载提速的理想 CPU 平台。EPYC 拥有 32 个内核、64 条线程、8 个存储器通道及每插槽最大 2TB 的存储器,以及 128 条信道,并结合业界首款硬件嵌入 x86 服务器安全解决方案,专为提供存储器容量、带宽和处理器核而设计,有助于高效运行常见于 AI 和 HPC 的存储器占用量较大的工作负载。借助于 EPYC,客户能以显著提高的速度采集和分析较大的数据集,帮助他们显著加快复杂问题的解决速度。

赛灵思和 AMD 双方认为他们的技术合作前景光明。这高度吻合我们在各类 Alveo 加速器卡上和即将面世的 Versal 系列上将高性能 AMD EPYC 服务器和图形处理器与赛灵思加速平台相结合的路线图。

推荐阅读