让自适应计算跻身主流处理器，赛灵思的三道必答题

什么是自适应计算？业界有这么多的计算平台，如CPU、GPU、DSP等，为什么还需要自适应计算？自适应计算能给业界带来什么？这些问题，是赛灵思于2018年推出自适应计算加速平台（Adaptive Compute Acceleration Platform）时，被问到的最多的问题。时隔三年，赛灵思又取得了哪些进展？
 
今年5月，赛灵思总裁兼首席执行官Victor Peng在接受媒体采访时曾表示，过去三年，赛灵思处于从FPGA公司向自适应计算平台公司转型的过程中。尽管面临各种外部挑战，但仍能保持当前的成长之路，这期间的几项重要决定，为未来奠定了积极的方向，这其中的一个重大决策就包括：让平台更易于使用，让自适应计算为更多的创新者赋能。 
 
日前，赛灵思人工智能及软件业务市场总监罗霖（ Andy Luo）在接受<与非网>采访时，进一步阐释了如何推动自适应计算力量的普及化，以及如何让自适应计算流行起来。

自适应计算能为业界带来什么？
 
罗霖首先指出了自适应计算与其他计算方式的根本区别——不论是基于CPU、GPU或其他计算平台做开发，需要优化软件来适应硬件，也就是说，硬件是固定的，只能通过改写代码来提升平台性能。而自适应计算的概念恰好相反，平台可提供开发工具、加速API等，可以为具体应用优化硬件、定义软件，并且这种优化是持续不断进行的，即使是产品量产后，在部署阶段也可以进行优化。简言之，所谓自适应计算，就是根据具体的应用优化硬件，硬件是软件定义的、软件可编程的，是新一代的计算形式。 
 
至于为什么需要自适应计算？则是在当前创新步伐加速之下，赛灵思着力推进的技术路线，它主要包含两方面：一是提高创新效率，二是提供面向所有开发者的易用性。
 
罗霖表示，为了让更多的开发者能够获益于自适应计算平台开发的高效率，赛灵思将易用性作为重要的战略着力点。通过为开发者提供他们熟悉的编程语言、框架和集成开发环境，以及足够的加速API库和参考设计，大幅降低了自适应计算的门槛，开发者上手设计的速度也得以大幅提升。
 
“自适应计算”背后，蕴藏了赛灵思从云端到边缘再到终端的决心和方向，即：将最新的架构创新提供给端到端应用的每一个部分，软件和 AI 开发者只需借助硬件抽象工具，就能充分发挥它的优势，而无需成为硬件专家。
 
如何推动自适应计算力量的普及？
 
过往的发展证明，任何计算形式的普及、任何计算平台的流行，都离不开开发者，离不开生态系统的不断壮大。为了让自适应计算流行起来，赛灵思需要不断开拓开发者生态系统，赋能所有开发者。
 
赋能所有开发者——这是一个横跨软件和硬件开发者的雄心勃勃的计划。这意味着，在最基本的芯片和组件之上，需要一个完整的堆栈，提供灵活的硬件平台、涵盖不同的处理单元、开发工具，覆盖面向不同开发环境、开发群体的适应性和弹性。这一庞大的愿景，赛灵思如何实现？

罗霖介绍，基于Versal ACAP异构加速硬件平台，上层涵盖了标量引擎、可编程逻辑、AI加速引擎在内的不同处理单元，以及硬件IP、加速库、定制硬件和专门的AI加速库等。在此基础之上，还有三种不同的开发工具：适合于底层硬件IP、加速库开发的Vivado；面向软件开发者的集成式开发环境和平台Vitis，开发者可以使用熟悉的高层次语言C、C++和Python来进行编程；还有专门针对AI推理的开发平台Vitis AI，支持AI开发者使用熟悉的框架，如TensorFlow、PyTorch、Caffe来训练模型，再通过Vitis AI来进行部署，让AI模型能够高效在硬件平台上实现。
 
为了持续解锁开发者的生产力，赛灵思在不断推出新的开发工具和面向新应用的开发平台。今年6月推出了基于机器学习的 VivadoML版本，刚刚又发布了针对AI智能视频分析应用的新工具 Vitis Video Analytics SDK。
 
据介绍，基于机器学习的VivadoML版本是一个突破性的升级：通过在Vivado环境中使用机器学习技术来提升布线的时延优化，进行模块化的自动化设计，从而将结果质量(QoR)平均提升了约10%(在不同的测试的用例中甚至会提高50%)。同时，还有基于可重配置模块的层级化编译器，用户可以自定义模块，再通过赛灵思工具进行增量编译和并行编译，从而将平均编译时间缩短5倍，最高缩短17倍。
 
在针对新应用的开发平台方面，赛灵思选择了智能视频分析作为切入点，推出了视频分析SDK。基于Omdia报告，赛灵思预测2020至2027年，AI推理市场年复合增长率将为35%，其中，55%的AI推理应用都将基于图像、视频，这也正是赛灵思推出视频分析SDK的一大原因。

Vitis Video SDK底层基于赛灵思Alveo嵌入式平台，支持运行时库、Vitis、Vitis AI、Gstreamer多媒体协议、以及包括视频编解码、图像预处理等插件。为了构建智慧城市、智慧零售、智慧医疗、智慧建筑等方面的应用，Vitis Video SDK还提供了C++和Python接口，支持TensorFlow、Pytorch、Caffe等主流框架模型，开发者无需使用RTL进行编程，所有的编程都基C++和Python API，开发效率得以大幅提升。

根据展示的评测数据，在视频解码预处理加车牌识别场景下，赛灵思的Kria SOM可以运行3路数据流，英伟达Jetson Nano、TX2只能运行1-2路，赛灵思可提供约1.5~3倍的性能；Alveo加速卡方面，主要工作负载为运行视频解码预处理、目标检测和分类，Versal VCK5000可以实现32路，英伟达T4约为16路，赛灵思可提供高出2倍的吞吐量。
 
从可编程FPGA到自适应计算平台，AI和机器学习在赛灵思的技术演进中发挥了重大作用。罗霖以视觉分析为例介绍，传统算法更多是基于规则、基于计算机视觉的，在自适应计算平台中，赛灵思提供了可灵活配置、可伸缩的AI加速引擎DPU，用户可以根据硬件平台来配置和集成该引擎，根据芯片的不同来选择引擎的大小，从而实现有效的AI加速，这就是自适应计算理念的典型呈现，即根据应用和工作负载，来定制硬件、适配软件。
 
如何扩大生态影响力？
 
为了提高开发者技能，助力开发者在自适应计算平台上进行更多、更好的项目设计，赛灵思去年底推出了新的开发者计划（ Xilinx Developer Program ），推出了全新设计的开发者网站，为开发者提供Vivado、Vitis、Vitis AI相关的开发资源(项目、工程、底层设计)；上线了赛灵思应用商店（AppStore），用户可以线上购买 Alveo 卡和 Kria SOM；通过 GitHub 项目和支持开源社区，提升用户对赛灵思开源的认知度；增加了虚拟培训课程，发布了不同的培训视频，并创建了更多技术电子书；推出大学计划，并主办了自适应计算挑战赛等赛事；推出开发者认证计划，针对通过认证的开发者，提供早期使用（ Early Access ）机会，让他们能够率先接触到赛灵思最新的技术。

值得一提的是，今年举办的第二届自适应计算挑战赛，大赛的规模将是去年的2倍，预计将吸引2000名参赛选手，最终将评选出360名入围选手，15名获奖者，奖金总额7万美金。本届赛事还增设了两个特殊奖项：赛灵大学计划(XUP)和科技女性(WIT, Women in Technology)专项奖，来推动高等院校自适应计算的创新、以及技术领域的多元化发展。
 
罗霖表示，在工具采用方面，已经显露出强劲的发展势头。据统计，Vitis下载量已经超过15万次，Vitis AI下载量超过10万次，而50%以上的下载都来自于新用户；开发者计划推出约8个月，目前已经突破了10000注册人数；应用商店上线半年时间，已经覆盖了200多个不同应用。赛灵思希望不断降低自适应计算门槛，拥抱所有开发者及数据科学家，真正做到让自适应计算流行起来。