Vitis AI:从边缘到云的最佳人工智能推断

Vitis™ AI 是 Xilinx 的开发平台,适用于在 Xilinx 硬件平台(包括边缘设备和 Alveo 卡)上进行人工智能推断。它由优化的 IP、工具、库、模型和示例设计组成。Vitis AI 以高效易用为设计理念,可在 Xilinx FPGA 和 ACAP 上充分发挥人工智能加速的潜力。

您的开发如何与人工智能协作:

  • 支持主流框架和最新的模型,能够执行不同的深度学习任务。
  • 提供一系列全面的预先优化模型,这些模型现已就绪,可随时部署在 Xilinx 器件上。您可以找到最相似的模型,开始针对您的应用重新训练!
  • 提供一个功能强大的量化器,支持模型量化、校准和微调。对于高级用户,我们还提供一个可选的人工智能优化器,其可将模型修剪达 90%。
  • AI 分析器提供逐层分析,有助于解决瓶颈问题
  • AI 库提供高层次 C++ 和 Python API,可实现从边缘到云端的最大可移植性。
  • 可以从吞吐量、时延和电源角度定制可扩展的高效 IP 内核,满足您对许多不同应用的需求。


使用 Vitis AI 探索一切可能性:

AI 优化器

有了世界领先的模型压缩技术,我们可以在对精度影响极小的情况下,将模型的复杂性降低 5 至 50 倍。深度压缩可将您的 AI 推断性能提升到一个新的层次。


AI 量化器

通过将 32 位浮点权值和激活量转换为 INT8 这样的定点,AI 量化器可在不影响预测精度的情况下,降低计算复杂度。定点网络模型需要的内存带宽更少,因此比浮点网络模型速度更快,电源效率更高。


AI 编译器

将 AI 模型映射至高效指令集及数据流。还可执行高级优化任务,如层融合和指令排程等,并可尽量重复使用片上内存。


AI 配置器

性能分析器有助于程序员深入分析 AI 推断实现方案的效率和利用率。


AI 库

该运行时提供一系列轻量级 C++ 及 Python API,其可实现便捷的应用开发。此外,它还提供高效的任务调度、内存管理和中断处理。


模型简介

Vitis AI 模型专区包括优化的深度学习模型,可加速在 Xilinx 平台上部署深度学习推断的进程。这些模型涵盖不同的应用,包括但不限于 ADAS/AD、视频监控、机器人和数据中心等。您可以从这些预先训练的模型启动设计,享受深度学习加速的优势。


Xilinx AI 平台支持大量 AI/ML 模型,如下所示。我们始终致力于将最新的模型引入我们的平台:

通用应用

  •   图像分类:Googlenetv1、Resnet50、Resnet101、Resnet152 Inception v1、BN-inception、VGG16、SqueezeNet、Mobilenet、MobilenetV2
  •   目标检查:MobilnetV2-SSD, SSD, YOLO v2, YOLO v3, Tiny YOLO v2, Tiny YOLO v3
  •   市场细分:ENet, ESPNet

人脸

  •   面部检查:SSD、Densebox
  •   路标定位:坐标回归
  •   面部识别:ResNet + Triplet / A-softmax 丢失
  •   面部属性识别:分类与回归

行人

  •   行人检查:SSD
  •   姿态估计:坐标回归

视频分析

  •   目标检查:SSD、RefineDet
  •   行人属性识别:GoogleNet
  •   汽车属性识别:GoogleNet,修改后的 Densebox + GoogleNet
  •   车牌检查:修改的 DenseBox
  •   车牌识别:GoogleNet + 多任务学习

ADAS/AD(自动驾驶)

  •   目标检查:SSD、YOLOv2、YOLOv3
  •   车道检测:VPGNet
  •   语义分割:FPN

点击 “这里”,访问 Xilinx AI Model Zoo

推荐阅读