系列报道之五 | 高校人工智能训练营

经历了前两日对深度学习的探索，7月7日上午9点，来自英特尔公司的高级工程师BillYuan为大家带来了全新的FPGA技术课程——基于英特尔FPGA的深度学习推理应用。

袁老师以丰富的学术资源和工作经验作底蕴，流畅自然地将教学过程中的各个环节串联起来，从理论铺垫到技术实践，不仅注重学生对知识的内化过程，还强调知识的迁移和应用，以FPGA为基点，从对人工智能领域的整体理解到硬件层、插件层、软件运行层、应用层等多方面的知识由浅入深地逐一讲解，思路清晰，环节紧凑，循循善诱，充分激发了同学们的学习热情。

1.关于“人工智能”

1

课程开始，袁老师首先从人工智能的学习意义谈起，阐述了神经网络、机器学习、FPGA等基础概念。

Opinions

人工智能正在重塑各行各业

人工智能的发展，正在被推向前所未有的高度，并重塑我们的生产生活方式，我们再次步入重构与再造的快车道上。

课程开始，袁老师阐述了人工智能对消费、医疗、金融和零售等行业的影响，用自己的亲身经历详细解释了金融领域使用人工智能算法进行交易和研究的实例，还就自动驾驶技术的基本原理和发展前景发表了自己专业而独到的见解。

人工智能出现已久，最近几年才真正成为了热点领域，究其原因，在于之前既没有庞大的数据库，又没有强大的运算能力，无法具备训练网络的基础条件。

而现如今，随着技术的飞速发展，我们拥有了更大规模的数据、更出色的硬件和更智能的算法，晶体管密度每18个月将增加一倍，而每GB的成本十年之内由以“千”计降低至以“分”计，神经网络方面的进步显著提高了训练模型的准确性……凡此种种，都催生了人工智能产业的蓬勃发展。

Opinions

接着，袁老师用生动的图示向大家展示了人工智能、数据分析、感知理解、机器学习、深度学习和卷积神经网络（CNN）之间的关系，并将容易混淆的概念一一解释，特别是经典机器学习与深度学习之间的联系。

经典机器学习使用函数和算法从新数据中提取洞察，而深度学习使用海量数据集训练深度神经网络，以从新数据中提取洞察，老师细致的讲解让同学们在脑海中形成清晰的逻辑框架，奠定了坚实的理论基础。

分类基础经典机器学习与深度学习

Opinions

“训练”和“推理”是深度学习的重要步骤。

“训练”即使用大量"已知”数据集反复调整神经网络连接的权重；

“推理”即使用经过训练的神经网络对新输入数据进行推理。

定义先行，袁老师随即讲解了用海量数据训练神经网络、对模型进行部署利用以及输入数据进行推理的整个过程，并介绍了MINST,CIFAR-10和ImageNet等数据集，同时对深度学习网络、深度学习框架和深度学习基元库进行详述，指出AlexNet,VGG等深度学习网络是一种神经元互联的拓扑结构，Caffe,Tensorflow等深度学习框架是一些专门适用于深度学习网络的函数库和模板，而clDNN,MKL等深度学习基元库是特定于低级别加速器的库。

至此，基础知识部分已经全部介绍完毕，接下来就是今天的重头戏——FPGA。

2.关于“FPGA”

2

第二部分的课程，袁老师从“什么是FPGA”、

“为何采用FPGA进行深度学习推理”以及“使用英特尔FPGA进行深度学习推理的方法”三个方面展开。

为何采用FPGA进行深度学习推理

Opinions

FPGA即“现场可编程门列阵”，它拥有数百万个逻辑元件，数千个嵌入式内存块，数千个DSP模块，可编程互联，高速收发器和各种内置硬IP，用于创建各种定制硬件。

Opinions

袁老师首先细致入微地向同学们展示了FPGA的架构，包括内存块，浮点乘法器/加法器，可配置路由，数字信号处理等模块。

在同学们对FPGA这一硬件有了更加直观具象的了解之后，从产品角度出发，展示了英特尔公司不同的FPGA产品组合，从MAX,Cyclone到Arria,Stratix,因为逻辑密度，收发器速度和IP特性等的不同，由低端到高端，广泛适配于各种应用，满足用户不同程度的需求。

相较于其他芯片，利用FPGA进行深度学习推理有着不可模仿的优势，它支持灵活控制数据路径，提供确定性系统延迟，适用于任意深度学习架构。袁老师不仅以实现CNN推理所需要求为例具体演绎了FPGA的长处，还细致说明了具备这些优势的原因。

最后，袁老师向同学们讲解了使用英特尔FPGA进行深度学习推理的具体运用，同学们对于FPGA的了解由一串简单的英文字符增进为从理论到实践的全方位领会，完成了一次华丽的蜕变，这就是训练营课堂的魅力。

3.关于“计算机视觉”3

FPGA的一个重要应用领域就是计算机视觉（ComputerVision），它是一门研究如何使机器“会看”的科学，接下来袁老师从入门指南、推理为什么适合CV、如何构建一个深度学习计算机视觉应用三个部分向学员讲解关于CV的使用要领。

计算机视觉支持前所未有的最新应用

Opinions

从图像分析在内的独立自动化系统，到云端服务器进行深度学习的芯片开发，再到嵌入式FPGA设计流程和定制ASIC的成熟，为深度学习和计算机视觉产品带来了新的受众。

当下人工智能、物联网、大数据、5G、云计算等主导未来的核心技术正在加速发展与演进，计算机视觉行业生态在这些技术力量的驱动下，也必将形成新的技术和市场格局。

Opinions

课堂上，袁老师生动讲述了对采集到的图像数据进行场景分割、对象识别、要素分类从而达到图像理解的整个过程。

而这一推理过程需要一个完整的图像处理架构，包括图像捕捉、图像预处理、图像后处理等步骤。袁老师在讲课中，还对图像采集技术的发展历程做了简要的回顾，认为当前阶段使用FPGA技术恰逢其时。

同时，袁老师还点拨同学们，进行图像识别时需要设定一个门槛值，告知用户由于自身局限性导致无法识别要比告知用户一个错误的识别信息更为合适，还由于不同应用需要不同的技术，多种深度学习网络相结合才能实现一整套复杂的推理过程。

4.实践与应用 4

下午两点整，袁老师准时来到教室，指导大家利用FPGA实操。通过一上午的理论讲解，大家对FPGA的工作原理有了一定的了解，纷纷摩拳擦掌，跃跃欲试。

袁老师先用DEMO文件演示了深度学习推理的最终成果，之后再利用PPT文档展示了具体的操作步骤。老师一讲完，学员们便纷纷埋下头，投入到紧张的代码编写中。

代码编写过程中，一旦有学生举手示意，老师便立刻踱步至学员身旁，耐心讲解。老师若脱不开身来，另外一位来自英特尔公司的助教便代替他答疑解惑。即使是课间，袁老师身边也不断有前来咨询的同学，积极热烈地讨论，认真严谨地实操，同学们的学习热情空前高涨。

细致入微的讲解平易近人的风范5.学员感受

天津大学王海弛

第三课，英特尔工程师BillYuan介绍了硬件FPGA是如何应用在人工智能领域中，例如智能驾驶。作为软件工程的学生，在Bill的带领下，我了解了基本的硬件知识，认识到在人工智能发展中，除了先进的算法研究，如何将已有的算法落地，真正的服务社会具有重要的意义。例如在智能驾驶领域中，在保持精度的基础上提高推理速度能够极大地保证智能车辆的安全性。通过Bill的介绍，我对使用可编程硬件对人工智能模型加速的方式有了更深层次的理解。

天津大学赵英全

在今天一上午的培训中，BillYuan老师向我们讲解了利用英特尔FPGA进行深度学习推理的基本知识。老师首先解说了人工智能如何重塑当前的各行各业，用自己的亲身经历讲解了人工智能对金融领域影响，同时用一张图生动的解释了人工智能、感知理解、数据分析、机器学习以及深度学习之间的关系。在介绍FPGA的相关知识中，Bill老师为我们详细讲解了FPGA底层实现的原理，这有助于我们理解为何FPGA在人工智能推理方面相比于CPU、GPU所具有的优势以及为何采用英特尔FPGA进行机器学习。FPGA有别于传统CPU、GPU的冯诺伊曼架构，是一种新的低延迟灵活的架构，在金融、能源、工业等各个领域都有很多的应用。英特尔FPGA具有高度并行化架构、可布置分布式浮点DSP模块，以及可配置性等特性，所以在机器学习上有广泛的应用。

感谢Bill老师生动的讲解，让我们对FPGA有了一定的了解，让我们在享受到人工智能给我们带来便利的同时更深入的了解了其底层实现的过程。

小小的课堂

大大的收获

文案|李洁卢星宇

图片|李洁

排版|李洁

长按识别二维码，关注以下账号，获取更多相关资讯~

南开大学团委 英特尔责任“芯” AI国际人才培养

注明：本内容来源网络，不用于商业使用，禁止转载，如有侵权，请来信到邮箱：429562386ⓐqq.com 或联系本站客服处理，感谢配合！