加速智慧未来 宝德新型AI推理系统亮相BenchCouncil 2019

2019-07-11 23:16:18   作者:   来源:中关村

  “人工智能就是一场马拉松,现在离终点还很远。”6月27-29日期间,在深圳麒麟山庄举办的2019 年国际智能计算机大会(BenchCouncil 2019)上,宝德计算机总经理马竹茂用这句话形容当今AI所处的阶段。当然“还很远”不等于不努力,未来AI将是传统企业转型的重要方向。事实上,在服务器市场,AI计算力对硬件基础架构的需求已经足以证明这一点。

\  
宝德计算机总经理马竹茂

  大会上,深圳市宝德计算机系统有限公司携手英特尔(中国)有限公司发布了智能计算新品——新型AI推理系统,正式宣布2019年智能计算系统全面升级。此次推出的新品基于支持加速INT8推理的英特尔深度学习加速技术——矢量神经网络指令集的第二代英特尔至强可扩展处理器的宝德AI推理服务器,大幅加速了人工智能的推理负载,性能整整提升3倍。

  过去一年,企业在人工智能领域的平均投资达到500万美元,超过70%的企业客户宣称正在组织内部使用AI技术。考虑到部署成本,多数企业在智能化初期会选择外部方案。随着AI与业务结合逐级深入,企业关注的重点也从提升效率渗透到流程决策管理层面。也就是说,AI不再是简单的工具,而是开始向生产力转变。

  这一趋势在互联网企业的应用场景中仍未明显,要知道在传统服务器市场增长趋于平缓之时,基于AI衍生出的业务需求成为了新的推动力,而这部分需求的提出者或者说主要采购者,就是互联网企业。区别于以往的标准化服务器,场景化、定制化的细分业务正在贡献更强的增长性。

  IDC在《2018年中国AI基础架构市场调查报告》中指出,2018年中国AI基础架构市场销售额同比增幅升至132%,整体销售额达到13.18亿美元。其中,GPU服务器继续保持高速增长,销售额同比增长131.2%,仍然是AI基础架构领域的主流,销售额占比达到99%。在AI基础架构排名前五的行业中,互联网占据了超过60%的市场份额。此外,各种城市大脑等智慧城市巨系统解决方案也在推动着政务、公共服务等领域,在加持AI能力后朝向智慧化迈进。

  马竹茂谈到:“我们的新型系统能够基于所有的框架,为诸如图像和语音识别、自然语言处理、神经机器翻译、视觉搜索、情感分析、推荐系统和个性化建议等各种人工智能工作负载提供快速且高效的推理运算。”如今,单系统已经可以提供更高密度、更高性能的AI基础架构,以应对深度学习在线上推理场景中对大规模数据处理的要求。

  过去20年,英特尔与宝德保持了紧密的合作关系,并且把一系列的计算、网络、存储、软件等技术创新融合到了宝德的新产品上。第二代英特尔至强可扩展处理器最高配置56核心112线程,使用英特尔睿频加速技术2.0,且提供内存子系统增强功能,支持傲腾数据中心级持久内存单条512GB,以及单条插槽最高性能至2933 MT/s 16Gb颗粒的DDR4内存。值得一提的是,第二代至强可扩展处理器在AI性能上表现提升显著。

  在Cascade Lake中,英特尔通过VNNI指令集的加入将第二代至强可扩展处理器的推理性能提升了数倍。框架层面,英特尔针对TensorFlow、Caffe、PyTorch、Paddle Paddle等几乎所有的主流DL框架都进行了优化支持,开发者只需在英特尔的底层硬件上直接调用指令就能获得最佳体验。例如在INT8上,加入VNNI提高了其数据类型的乘-加-累加运算的吞吐量,而且有助于提高深度神经网络中使用的低精度卷积和矩阵-矩阵乘法运算的性能。有了这种硬件加速支持,低精度推理能增加每秒计算的运算数,降低对内存访问的要求,提高缓存利用率,增大吞吐量和降低延迟。

  这种优势自然也延续到了宝德的AI推理服务器上。“我们和宝德把这些所有的新技术,在宝德的服务器做了统一的设计,并且进行了验证和优化,希望这款产品可以掀起AI市场的新高潮。”英特尔中国有限公司中国区技术销售总经理Gary Gao说。

 \
 英特尔中国区技术销售总经理Gary Gao

  经过20年的潜心修炼,宝德已成长为一家员工规模超过700人、销售额突破30亿的企业,产品线覆盖服务器、云计算、云一体机、大数据一体机、存储、行业解决方案等领域,并且在AI推理、加速计算、自研产品等服务器细分市场成果卓著。在整体服务器市场份额的占比上,宝德服务器已经排到中国TOP5、全球TOP9。

  宝德计算机产品总监黄文杰表示,AI服务器市场在过去两年经历了高速发展的阶段,复合增长率达到27%,而宝德AI服务器的增长数字超过200%(2017年增长450%,2018年增长300%)。宝德的AI服务器产品主要包括推理服务器(PR2710P、PR2715P、PR2750P等)、2U训练服务器(PR290P等)、4U训练服务器(PR4904P、PR4908P等),此次发布的AI推理服务器新品基于第二代至强可扩展处理器,性能比上一代产品提升多至140%。

\  

  
宝德AI推理服务器PR2710P介绍

  在基于两颗至强6240的测试中,宝德AI CPU推理服务器对INT8的测试性能较上代提升了2.5-2.6倍。黄文杰透露,今日头条、腾讯优图、中国移动物联网公司等合作伙伴的AI业务场景背后,都有宝德AI服务器的坚实助力。

\ 
 宝德AI推理服务器测试报告

\ 
 宝德AI推理服务器应用案例

  除了AI算力层面,宝德AI推理服务器还采用了智能散热系统,有效降低噪音污染,营造箱体恒温空间,具备屏蔽防电磁辐射、抗干扰、防静电(EMI)设计,支持降频功能,可以在低负载时降低系统能耗。同时,还支持PDCM(能效管理器)提供自动化服务器功耗控制,有助于以更少的资源完成更多任务。根据热关键器件温度综合调节风扇转速,能够在节能的同时降低噪音并提高风扇的可靠性。

  趁着人工智能的春风,宝德AI推理系统无疑将贡献更强劲的增长动能,而与各领域伙伴长期、稳定的合作,以及多年坚持的投入和自主研发,也会让宝德在变幻莫测的IT市场持续提速。就像宝德服务器创始人李瑞杰所说的,宝德与英特尔的合作已有20年的时间,这也彰显了宝德这样的深圳民营企业的合作态度和风格,“我们会把合作很好的延续下去,共同服务好客户。”

相关热词搜索:宝德 BenchCouncil 2019

上一篇:数据中心理想之选 英业达发布K900G4四节点高密度服务器
下一篇:多次双料第一 解读PowerEdge服务器多次蝉联冠军的秘诀

分享到: 收藏