时势造利剑,自适应计算走向主流

本文转载自:CSDN

在过去,当软件工程师在CPU或者GPU上面进行开发时,需要改变或优化软件来适应硬件。但是随着近些年的人工智能,机器学习等科技的发展及普及,所有的软件开发者都在寻找一种让硬件适用软件的方式,由此提升程序开发的效率。同时也需要一个平台来适应各类开发人员的使用需求,这时候新的计算方式就应运而生了。

时势造利剑,自适应计算应运而生
早在1984 年,Ross Freeman 将其关于现场可编程门阵列 (FPGA) 的绝妙构想付诸实践并创立了赛灵思公司,确立了自适应计算的基本原理。通过赛灵思所提供的平台,可以让硬件去适应软件,而不是让软件适应硬件。用户可以根据具体的应用优化硬件,同时硬件是软件定义的,是软件可编程的。可以说自适应计算,就是新一代的计算形式。

从数据中心到网络,再到边缘乃至终端,自适应平台适用于各种类型的终端应用。从自动驾驶汽车到火星探测车,自适应计算正赋能新一代智能、高效应用。时至今日,FPGA包括其满足众多应用需求的能力,已经取得了长足的发展。

面对新产品新工具,不免会受到原有产品的质疑。近期CSDN采访到了赛灵思人工智能及软件市场总监罗霖。

当被问到:在业界已有这么多的计算平台(CPU、GPU、DSP等)的前提下,为什么还需要自适应计算这种新的计算形式?罗霖表示:

第一,科技方面,特别是AI领域的创新精彩纷呈、层出不穷,科技的创新一定程度受制于硬件架构的发展,比如硬件平台的功能、内部的微架构等,通用芯片的内存系统、数据通道等都是固定的,工程师们再进行软件开发时,需要通过修改或者更新算法/软件来适应硬件。但是开发者们所期望的是硬件适应算法本身,现在我们可以通过自适应硬件的计算平台来加速创新的步伐。

其次,开发者可以根据应用对硬件进行持续的优化,从而提升整体应用的性能。比如开发者可以在整个数据通路进行硬件的加速,不只包括AI的模型本身,还包括输入到输出数据的处理其间每个环节的优化,由此带来非常高的计算效率。

最后,为了让更多的开发者能够获益于自适应计算硬件平台开发的高效率,赛灵思在易用性上做了很多工作。通过为开发者提供其熟悉的语言、编程框架和集成开发环境,以及足够的加速API库和参考设计,赛灵思大幅降低了这种自适应门槛,可以让开发者快速上手设计。

赛灵思所带来的,不只芯片
任何的计算形式的普及、任何的计算平台的流行其实都离不开开发者,离不开开发生态系统的不断的壮大。赛灵思不只提供芯片,还提供芯片之上的很多其他的组件。通过完善的工具链来赋能所有的开发者。

罗霖用一张图来为我们介绍了赛灵思所提供的开发者工具链。如图所示是一个堆栈,在这个堆栈下面有赛灵思最新的Versal ACAP异构加速的硬件平台,上面会提供不同的处理单元,像有包括标量引擎、可编程逻辑、AI加速引擎。同时在提供操作系统和嵌入式运行时,提供硬件IP、加速库,提供定制的硬件设计,在AIE上面赛灵思也提供专门的AI的加速库。

在这上面赛灵思提供三种不同的开发工具,也就是FPGA开发者熟悉的Vivado,其比较适合于底层硬件的实现、硬件的IP、硬件的加速库的开发等等。

除此之外,赛灵思还有面向软件开发者的集成开发环境和平台Vitis。开发者在使用Vitis时可以用他们熟悉的高层次语言C、C++和Python来进行编程。

赛灵思还提供一个专门针对AI推断的一个开发平台Vitis AI,AI开发者可以使用他们熟悉的框架,比如TensorFlow、PyTorch、Caffe等来训练他们的模型,然后用Vitis AI来部署这些模型,让模型能够在赛灵思的硬件平台上实现高效的推理计算。

新型视频分析工具诞生:Vitis Video Analytics SDK
今年9月初,赛灵思推出一个新的工具叫 Vitis Video Analytics SDK,此SDK主要是用于构建和部署基于AI的智能视频的分析应用。罗霖谈到,推出Video Analytics SDK的首要原因是市场需求很大,从2020年到2027年,AI推断的市场总值的年均复合增长率是35%;另外AI推断市场约有55%是基于图像视频的应用,特别是视频流的实时分析、信息提取等。

据罗霖介绍,Video Analytics SDK的底层是基于赛灵思有嵌入式平台和加速平台,再上层是基于赛灵思的运行时库、Vitis、Vitis AI,其中赛灵思提供了基于非常主流的Gstreamer开放的多媒体的协议,提供了各种各样的插件。Vitis Video SDK提供了C++和python这样一个编程的接口,在这之上开发者可以基于其来构建很多应用像智慧城市、智慧零售、智慧医疗、智慧建筑等等。同时你可以看到其无需用RTL进行编程的,所以这上面的编程都是基C++和Python这样高层次的API,因而可以达到很高的一个开发效率。

赛灵思目前推出的一系列开发者工具链,包括Vitis、Vitis AI、或其他工具均受到了开发者群体的认可。据介绍,自Vitis发布以来,其下载量已经超过15万次,Vitis AI下载量超过10万次。开发者计划推出大概8个月,目前有超过10000的注册人数。经统计Vitis、Vitis AI有50%以上都是来自于新用户,这也证明了Vitis的成功。

完善开发者用户生态,立足解决现实问题
今年初,赛灵思推出了应用商店:Xilinx App Store,该产品可以是说在半导体厂商里面的全球第一家应用商店。赛灵思应用商店上线半年时间,已发布208个不同的应用,200多个面向Alveo加速卡和云相关的应用,像AWS的应用等等。目前赛灵思正在开发“快速使用”的功能,可以让开发者在10分钟之内完成应用的体验,优秀的用户体验同样非常关键。

除了提供更为应用商店,近期赛灵思也即将举办第二届自适应计算挑战赛,来吸引开发者的参与。去年第一届大赛的参赛者做了很多有趣的项目,现在大家也可以利用使用Vitis、Vitis AI和Vivado ML,去创造一些有趣的项目来解决生活里的具体问题。

据介绍,今年的赛事规模将较第一届更大,预计吸引2000个参赛选手,同时提供的硬件平台的数量约为去年的三倍,大概350套硬件平台,选手可以提交他的设计的方案,据此可以申请到免费的硬件。今年将会产生15名获胜选手,提供的总奖金额是70000美元。

罗霖表示,未来赛灵思将围绕开发者计划,打造开发者的用户生态,来扩大开发者的用户群。同时也将根据用户的反馈,不断的去完善我们的软件跟AI的开发工具。提供更多低成本,高性价比的开发平台,与新颖高效的开发工具,来满足更多的软件与AI的开发者的需求。

免责声明:本文为网络转载文章,转载此文目的在于传播相关技术资讯,版权归原作者所有,如涉及侵权,请联系小编删除(联系邮箱:service@eetrend.com )。

最新文章

最新文章