大数据时代GPU是视频结构化核心处理模块

2017-08-14 16:44 admin 23269

GPU是一种专门在个人电脑、工作站、游戏机和一些移动设备上图像运算工作的微处理器。在安防大数据及深度学习的大背景下,具有研发实力的厂商纷纷基于GPU进行视频相关产品(前端智能及后端服务器等)研发,之前被称为视频核弹的JetsonTX1GPU模块,已经广泛应用于人工智能市场(包括无人机、机器人等设备)及安防监控市场(智能摄像机、人脸识别摄像机等),安防厂商海康、宇视、文安及格灵等公司,均已展示了相关的产品。    

2

    大数据时代GPU是视频结构化核心处理模块

    GPU是为了能够更快处理图像而诞生

    在九十年代,一批工程师意识到:在屏幕上进行多边形图像渲染,本质上是个能并行处理的任务--每个像素点的色彩可以独立计算,不需要考虑其它像素点。于是GPU诞生,成为比CPU更高效的渲染工具。简而言之,由于CPU在图像渲染方面的能力不足,GPU被发明出来分担这部分工作,此后就成了专门搞这方面的硬件。有了上千个更加简单的核心,GPU能高效地处理让CPU十分吃力的任务。只要有合适的代码配合,这些核心就能处理超大规模的数学运算,实现逼真的游戏体验。

    GPU作为显示卡的“大脑”决定了该显卡的档次和大部分性能,同时GPU也是2D显示卡和3D显示卡的区别依据。2D显示芯片在处理3D图像与特效时主要依赖CPU的处理能力,称为软加速。3D显示芯片是把三维图像和特效处理功能集中在显示芯片内,也就是所谓的“硬件加速”功能。显示芯片一般是显示卡上最大的芯片。时下市场上的显卡大多采用NVIDIA和AMD-ATI两家公司的图形处理芯片。NVIDIA公司在1999年发布GeForce256图形处理芯片时首先提出GPU的概念。从此NV显卡的芯就用这个新名字GPU来称呼。GPU使显卡削减了对CPU的依赖,并实行部分原本CPU的工作,更加是在3D图形处理时。

    GPU能将3D模型的信息转换为2D表示,同时添加不同的纹理和阴影效果,所以GPU在硬件里也是比较特殊的存在。从3D建模到最终显示在屏幕上,GPU渲染场景使用的是流水线操作。早些时候流水线操作是固定不能作任何改动的,整个操作由读取三角形的顶点数据开始,接着GPU处理完后进入帧缓冲区(framebuffer),准备发送给显示器。GPU也能对场景进行某些特定效果的处理,不过这些都是由工程师设计固定好的,能提供的选项很少。

    GPU设计之初非针对深度学习而是并行计算

    GPU关键性能是并行计算。这意味着可以同时处理运算,而不是一步步进行。复杂问题可被分解为更简单的问题,然后同时进行处理。并行计算适用于HPC和超算领域所涉及的许多问题类型,比如气象、宇宙模型和DNA序列。并不是只有天体物理学家和气象学家才能充分利用并行计算的优点。事实证明,许多企业应用能从并行计算获得超出寻常比例的好处。这包括:数据库查询、密码学领域的暴力搜索、对比不同独立场景的计算机模拟、机器学习/深度学习、地理可视化

    在GPU设计之初,并非针对深度学习,而是图形加速,在NVIDIA推出CUDA架构之前,GPU并无太强对深度学习运算能力的支持。而如今,NVIDIA可以提供基于其GPU的从后端模型训练到前端推理应用的全套深度学习解决方案,一般的开发人员都可以非常容易地上手使用GPU进行深度学习开发,或者高性能运算。而CUDA架构的开发,耗费了NVIDIA巨大的人力物力。可以说,是CUDA这个中间层(computingframework)的优化,才使得开发者真正爱上了GPU,NVIDIA胜在软件。而CUDA还不能称之为算法,它只是计算硬件与算法之间的桥梁。

    目前来看,NVIDIA作为人工智能计算平台的领导者,但事实是,一开始并非NVIDIA选择了人工智能,而是人工智能的研究者选择了GPU,进而成就了NVIDIA。在2012年,Alex利用深度学习+GPU的方案,一举赢得ImageNetLSVRC-2010图像识别大赛,并奇迹般地将识别成功率从74%提升到85%。NVIDIA敏锐地觉察到了这一趋势,并大力优化基于GPU的深度学习生态系统,并加速迭代开发,三年时间将GPU性能提升了65倍,从而奠定了目前的王者之位。

    AI时代GPU将是数据爆炸时代的核心处理模块

    对于人工智能计算架构来说,一般可以归结为三类模式:CPU+GPU,CPU+FPGA,CPU+ASIC(专用集成电路)。其中,应用于图形、图像处理领域的GPU可以并行处理大量数据,非常适合深度学习的高并行、高本地化数据场景,是目前主流的人工智能计算架构。

    如果把科技产业划分为三个时代:PC时代、移动互联网时代和AI时代。目前,我们处于移动互联网时代的末期和下一个时代的早期,即以深度学习、无人驾驶为主的AI时代。


标签: