MAU加速器

MAU 加速器可实现确定性的低尾时延和高吞吐量，无需在二者之间做权衡。这不仅有助于在给定的时延内使用更高质量的模型，而且还可显著节省基础架构成本并大幅降低能耗。 MAU 加速器运行在 Alveo U250 上，支持基于 ONNX 的行业标准开发流程