新闻资讯
网烁首页
网烁官网 > 行业新闻 > 为了AI能落地,英特尔真的很努力
为了AI能落地,英特尔真的很努力
2020-06-03 11:15:16
手机看帖
836 阅读

                                            为了AI能落地,英特尔真的很努力 

英特尔中国 2020-05-25 

2020年,在人工智能圈

有句调侃

行业大客户都在忙着「 推理」

blob.png

推理是啥?从哪里来的?

快速讲一个层级关系

你就瞬间明白「推理」

在人工智能中所处的位置

blob.png

深度学习是机器学习的一个分支

而机器学习是人工智能的一个分支

三者层层包含

当下最热的深度学习

可以让机器模拟人类的思考方式

包含两个步骤

1、训练 2、推理

深度学习

blob.png

1、什么是训练?

训练的最终目的是输出一个算法模型

就是用海量数据,训练出一个“大脑”

blob.png

2、什么是推理?

有了脑子,就要活学活用

把这个“大脑”,安装在实际应用场景中

来了新数据,抛给大脑判断一下

输出答案

blob.png

推理离应用场景更近

甚至,推理无需训练也能发生

在AI项目落地的进程中

训练和推理的比例,正在发生改变

👇

以前,训练:推理=1:1

现在,训练:推理=1:5

推理比重飙升

说明2个趋势

说明人工智能的应用变多了

意味着,人工智能越来越 落地了

说明人工智能的买单用户发生改变

对训练需求比较大的客户

一般是算法公司、大型互联网公司

这类公司是制造“算法模型”

赋能给行业客户使用

对推理需求比较大的客户

一般是「 传统行业用户」

比如公安、金融、医疗..

他们在意的是“应用层面”

有些甚至跳过训练这个阶段

直接购买算法模型

直接进行推理应用

比如

现在医院AI落地最多的就是“读片”

读片的算法模型

已经有专业算法公司做出来了

医院客户直接把这套算法模型软件买过来

稍加优化,然后推理应用

而不要从零开始,训练模型

随着推理落地应用范围扩大

客户越来越理智,也琢磨出了门道

前两年,行业客户尝鲜人工智能项目时

往往会掉入了一个“大坑”

一上来

blob.png

然后再浅一脚深一脚地

把深度学习流程全跑一趟

整个过程经历九九八十难

数据不够,硬件不熟,框架欠优化,场景不具体

最终,训出一个不成熟的模型

达不到“实战”要求

真成了“实验室”产品

后来,精明的客户逐渐发现

在推理场景大行其道的时代

通用处理器拿过来做AI

效果更好,过渡更平滑

比如

新一代英特尔® 至强® 可扩展处理器

内置了“AI加速”能力

尤其在推理领域,速度最高能提升30倍!

客户不需要颠覆式重建

只需在自家原有的机房设备上

升级”出一套「人工智能计算平台」

blob.png

他们采用的就是

英特尔® 人工智能全栈解决方案

为了让AI能够更好落地

英特尔®可算操碎了心

这套方案,包括

丨硬件“全家桶”:计算、存储、网络

丨软件“全家桶”:深度学习框架、工具套件

blob.png

这个“全家桶”,没有短板

先看内置深度学习加速的

新一代英特尔® 至强® 可扩展处理器

有四大系列

blob.png

2017和2019先后发布了两代

今年即将推出第三代

AI加速能力进一步飙升

具体的加速黑科技,在这里

利用矢量神经网络指令(VNNI)

提升卷积神经网络 (CNN)

和深度神经网络 (DNN) 的计算速度

在大规模推理应用时,计算速度更快

blob.png

这个加速技术,说白了就是

一个指令,能完成以前三个指令的工作

在实时性应用推理场景中

速度变得更快

比如:医疗影像秒读、语言翻译瞬间

blob.png

第二,英特尔® 傲腾™ 技术

要想AI算得快,存储不能拖后腿

傲腾一直是英特尔引以为傲的存储技术

目前有两大类产品

傲腾持久内存

blob.png

傲腾固态盘

blob.png

即拥有逼近传统内存的时延和速度

又保持了硬盘的容量和非易失性

断电后不需要重新加载数据

大幅提升数据密集型应用的性能

是深度学习训练和推理的最佳伴侣

第三是,软件、工具

英特尔为大力扶持AI发展

与各类主流深度学习框架合作

blob.png

对框架进行全面优化

性能因此得到不断提升

客户也可以选择使用适合自身需求的深度学习框架做模型训练,而无需购买或者设置不同的硬件基础设施

工具套件也是满满诚意

Analytics Zoo工具包

可以快速高效进行零碎的数据预处理工作

blob.png

   OpenVINO™工具包

可快速部署模拟人类视觉的应用

blob.png



人工智能落地,并不是一蹴而就的

推理能不能用好,至关重要

英特尔这种软硬件协同优化方案

处理器、存储、框架、工具

极致算力,极致存储,极致优化

提供了一种捷径,让我们少走弯路

举个例子,国内AI独角兽企业

第四范式

blob.png

Intel×第四范式AI联合实验室的

合作开发下,第四范式推出了

企业级软硬一体AI算力平台

4Paradigm SageOne Advanced

blob.png

第四范式这套“AI算力平台”

采用了软硬优化一体设计理念,包含:

第二代英特尔®至强®可扩展处理器

英特尔®傲腾™持久内存

英特尔®FPGA以及第四范式自主研发的

人工智能平台、分布式AI框架、自动深度学习算法

…….

这套软硬一体AI算力平台

非一体化设计相比

性能提升幅度,最高可达10倍

blob.png

第四范式通过其“1+N”的企业AI方案

为金融、零售、能源、医疗等8000多家客户服务

比如用于预测3年后糖尿病患病概率

其准确率比临床金标预测高2-3倍

目前在30多个省市500多家医院投入使用

如今,各行各业都在应对全新AI挑战

这其中,都有“Intel inside”

而且,他们都不需要彻底改造数据中心

 


扫一扫,关注网烁公众号!
微信搜索“网烁”或“waso-vip
蜀 ICP(备)10025767号
川公网安备 51010702001250号
Copyright © 2021 成都网烁信息科技有限公司 版权所有