Vitis AI Library 用户指南

Vitis AI Library 是一组高层次库和 API,专为利用深度学习处理单元 (DPU) 来高效执行 AI 推断而构建。它是基于 Vitis AI 运行时利用统一 API 构建的,并且支持 XRT 2022.1。

Vitis AI Library 通过封装诸多高效且高质量的神经网络,提供易用且统一的接口。由此可简化深度学习神经网络的使 用,对于不具备深度学习或 FPGA 知识的用户也是如此。Vitis AI Library 使您能够专注于开发自己的应用,而不是底层硬件。

目标受众

Vitis AI Library 的目标用户如下:

  • 用户想要使用经过预训练的 AMD 赛灵思模型来快速构建应用。
  • 用户使用 Vitis AI Library 支持网络列表下其自有数据集来训练自有模型。
  • 用户具有与 Vitis AI Library 支持的模型类似的自定义模型,并使用 Vitis AI 后处理库。
  • 注释:如果您拥有的自定义模型与 Vitis AI Library 所支持的模型截然不同,或者您有专业的后处理要求,则可使用 Vitis AI Library 实现作为参考。

    本文档描述了如何使用 Vitis AI Library 来安装、使用和开发应用。如果您希望获取完整文档,请至文末扫码进行下载。

    相关库

    以下 Vitis™ AI Library 与本文档有关。

    Vitis AI Library 程序包列表

    模块框图

    Vitis AI Library 包含 4 个部分:

  • 基本库:基本库提供了基本编程接口,其中包含 DPU 和每个模型可用的后处理模块。dpu_task 是适用于 DPU 运算的接口库。cpu_task 是适用于分配给 CPU 的运算的接口库。xnnpp 是每个模型的后处理库,其中具有内置模块, 如最优化和加速。
  • 模型库:模型库能实现大部分开源神经网络部署,包括常见的网络类型,如分类、检测、分割等。这些库提供了易于使用的快速部署方法,并具有统一的接口,适用于 AMD 赛灵思模型或自定义模型。
  • 库测试样本:库测试样本用于快速测试和评估模型库。
  • 应用演示:应用演示为您展示了如何使用 Vitis AI Library 来开发应用。
  • Vitis AI Library 模块框图如下图所示。

    功能特性

    Vitis AI Library 特征包括:

  • 全栈应用解决方案
  • 经最优化的预处理和后处理函数/库
  • 开源模型库
  • 统一操作接口,具有 DPU 以及模型的预处理和后处理接口
  • 基于应用的实用模型库、预处理和后处理库以及应用示例
  • Vitis AI Library v2.5 版本说明

    本节包含有关 Vitis™ AI Library 2.5 版本的功能特性和更新的信息。

    关键功能特性与增强功能

    此版本的 Vitis AI Library 包含以下关键功能特性与增强功能:

  • 全新模型库:支持下列新模型库:OCR、Textmountain 检测、车辆分类、OFA_YOLO 检测、EfficientDet_D2、Movenet 检测。
  • 全新模型支持:添加 11 个全新 PyTorch 模型、添加 5 个全新 TensorFlow 模型、添加 1 个全新 TensorFlow2 模型。
  • 新增 CPU 运算符支持:添加 8 个 CPU 运算符。
  • 自定义运算符增强功能:在 Python 中添加自定义运算符寄存示例。
  • Xdputil 工具增强功能:xdputil 支持查看指定运算符的信息。
  • 兼容性

    Vitis™ AI Library 2.5 已经过下列镜像的测试。

  • xilinx-zcu102-dpu-v2022.1-v2.5.0.img.gz
  • xilinx-zcu104-dpu-v2022.1-v2.5.0.img.gz
  • xilinx-kv260-dpu-v2022.1-v2.5.0.img.gz
  • xilinx-vck190-dpu-v2022.1-v2.5.0.img.gz
  • 器件支持

    Vitis™ AI Library 2.5 支持以下平台和评估板 (EVB)。

    边缘器件支持

    云开发板支持

    文档导航

    第 1 章:引言——提供了有关 Vitis AI Library 的高层次综述。本章提供了有关 Vitis AI Library 整体、其框架、受支持的 网络和受支持的硬件平台的清晰综述。

    第 2 章:安装——描述了如何安装 Vitis AI Library 和运行示例。本章中的信息将有助于您快速设置主机和目标环境、编译并执行 Vitis AI Library 相关的示例。

    第 3 章:库和样本——描述了 Vitis AI Library 支持的每个模型库。本章提供了有关 Vitis AI Library 支持的模型库、每个库的用途、如何使用图像和视频来进行库测试以及如何测试库性能的综述。

    第 4 章:编程示例——描述了如何使用 Vitis AI Library 来开发应用。

    第 5 章:应用演示——描述了如何设置测试环境和运行应用演示。Vitis AI Library 提供了 2 个应用演示。

    第 6 章:API 编程——描述了如何查找编程 API。

    第 7 章:性能——描述了不同开发板上的 Vitis AI Library 性能。

    获取完整版《Vitis AI Library 用户指南(UG1354)》请扫描下方二维码进行下载

    最新文章

    最新文章