纵观整个2017年，互联网圈里提到最多的一个词一定是“人工智能”，而且这个“人工智能”已经不仅是2016年那个很会下棋的AlphaGo，它成了无所不能的助手管家，能和你对话(智能音响)，能帮公安抓人(人脸识别)，也开始抢老司机的活儿(无人驾驶)。如今的人工智能早已不再是70多年前的那个“它”了。

　　早在1950年，图灵在论文中探讨了机器智能的问题，并提出了著名的图灵测试，1956年达特茅斯的讨论会上，人工智能这一概念由此诞生。几十年中，人工智能曾大起大落，原因为何？

　　“数据”先背一个锅，最早的人工智能也可以称之为专家系统，也就是把专家们的所有理论、方法全都录入到计算机，在具体执行任务的时候，计算机会检索数据库中相似的内容，如果没有，那么它就无能为力了。

　　然后是算法，类似于数据库检索的算法可能只能称之为一个笨办法，但20世纪90年代，神经网络的概念就成为热点，人工智能却没有取得长足的进展。这是因为受限于另一个重要因素-计算。由于硬件计算平台的限制，十余年间的进展极其缓慢，直到以GPU为核心的协处理加速设备的应用，人工智能应用效率才得以大大提升。

　　近年来，众多企业都已经看到了AI未来的前景，想纷纷踏入这篇沃土，孕育新的商机。想要跨进这个新领域，首先要做的，是要拥有一套好的AI架构。那么如何打造最优的AI计算平台？怎样的AI计算硬件架构更高效？AI 更注重哪些性能指标？

　　要把AI练好要分三步，即“数据预处理——模型训练——识别推理”。三个过程分别对应不同的计算特点：数据预处理，对IO要求较高;模型训练的并行计算量很大，且通信也相对密集;推理识别则需要较高的吞吐处理能力和对单个样本低延时的响应。

　　当我们知道了AI计算的特性之后，我们通过实测数据来看看人工智能计算对于服务器的硬件性能诉求有什么样的特点：

　　上图是一个搭载4块GPU卡服务器上运行Alexnet神经网络的测试分析图，从图上我们可以很清楚的看到计算的任务主要由GPU承担，4块GPU卡的负载基本上都接近10%，而CPU的负载率只有不到40%。由此可见， AI计算的计算量主要都在GPU加速卡上。

　　通过上图我们可以看到，磁盘IO是一次读，多次写，在Alexnet模型下，磁盘读带宽85MB/s，写带宽0.5MB/s。所以， 在模型训练阶段，磁盘的IO并不是AI计算的瓶颈点。

　　最后，我们再看看AI计算对于PCIE带宽的占用情况。图上显示，带宽与训练数据规模成正比。测试中，PCIE持续读带宽达到5.7GB/s，峰值带宽超过8GB/s，因此PCIE的带宽将是AI计算的关键瓶颈点。

　　数据预处理的主要任务是处理缺失值，光滑噪声数据，识别或删除利群点，解决数据的不一致性。这些任务可以利用基于CPU服务器来实现，比如浪潮SA5212M5这种最新型2U服务器，搭载最新一代英特尔至强可扩展处理器，支持Intel Skylake平台3/4/5/6/8全系处理器，支持全新的微处理架构，AVX512指令集可提供上一代2倍的FLOPs/core，多达28个内核及56线程，计算性能可达到上一代的1.3倍，能够快速实现数据的预处理任务。

　　在存储方面，可以采用HDFS(Hadoop分布式文件系统)存储架构来设计。HDFS是使用Java实现分布式的、可横向扩展的文件系统，因为深度学习天生用于处理大数据任务，很多场景下，深度学习框架需要对接HDFS。通过浪潮SA5224M4服务器组成高效、可扩展的存储集群，在满足AI计算分布式存储应用的基础上，最大可能降低整个系统的TCO。

　　SA5224M4一款4U36盘位的存储型服务器，在4U的空间内支持36块大容量硬盘。并且相比传统的双路E5存储服务器，功耗降低35W以上。同时，通过背板Expander芯片的带宽加速技术，显著提升大容量SATA盘的性能表现，更适合构建AI所需要的HDFS存储系统。

　　从内部结构上来看，CPU中70%晶体管都是用来构建Cache(高速缓冲存储器)和一部分控制单元，负责逻辑运算的部分并不多，控制单元等模块的存在都是为了保证指令能够一条接一条的有序执行，这种通用性结构对于传统的编程计算模式非常适合，但对于并不需要太多的程序指令，却需要海量数据运算的深度学习计算需求，这种结构就显得有心无力了。

　　与 CPU 少量的逻辑运算单元相比，GPU设备整个就是一个庞大的计算矩阵，动辄具有数以千计的计算核心、可实现 10-100 倍应用吞吐量，而且它还支持对深度学习至关重要的并行计算能力，可以比传统处理器更加快。