徐直军演讲全文:华为已完成全栈全场景AI解决方案的构建
文章导读:8月23日下午消息,华为今日正式发布了AI芯片昇腾910及全场景AI计算框架MindSpore。华为轮值董事长徐直军在发布会上表示,昇腾910和MindSpor
8月23日下午消息,华为今日正式发布了AI芯片昇腾910及全场景AI计算框架MindSpore。华为轮值董事长徐直军在发布会上表示,昇腾910和MindSpore的推出,标志着华为已完成全栈全场景AI解决方案的构建。
以下为徐直军演讲全文:
感谢大家参加今天的发布会,在去年华为HC大会上,我首次正式发布了华为AI战略和华为全栈全场景AI解决方案。
同时,我也分享了十个有关人工智能技术、人才、产业的重要变革方向。期望产业界围绕十个变革方向,来解决人工智能“辉煌”与“冷静”之间的巨大落差,开创未来。华为也围绕几个变革方向一直在努力实践。
首先,请允许我回顾一下华为的AI战略:1、投资AI基础研究,在计算视觉、自然语言处理、决策推理等领域构筑数据高效(更少的数据需求)、能耗高效(更低的算力和能耗),安全可信、自动自治的机器学习基础能力;2、打造面向云、边缘和端等全场景的、独立的以及协同的、全栈解决方案,提供充裕的、经济的算力资源,简单易用、高效率、全流程的AI平台;3、投资开放生态和人才培养,面向全球,持续与学术界、产业界和行业伙伴广泛合作;4、把AI思维和技术引入现有产品和服务,实现更大价值、更强竞争力;5、应用AI优化内部管理,对准海量作业场景,大幅度提升内部运营效率和质量。
同时也利用此次机会,再次介绍一下华为全栈、全场景解决方案。我们提出的全场景,是指包括公有云、私有云、各种边缘计算、物联网行业终端以及消费类终端等部署环境。我们说的全栈是技术功能视角,是指包括芯片、芯片使能、训练和推理框架和应用使能在内的全堆栈方案。华为的全栈方案具体包括:
Ascend:基于统一、可扩展架构的系列化AI IP和芯片,包括Max,Mini,Lite,Tiny和Nano等五个系列;
CANN:芯片算子库和高度自动化算子开发工具;
MindSpore,支持端、边、云独立的和协同的统一训练和推理框架;
应用使能:提供全流程服务(ModelArts),分层API和预集成方案。
首先是基于Ascend310的产品和云服务的商用情况。
1、基于昇腾310的Atlas、MDC产品:MDC和国内外主流车厂在园区巴士、新能源车、自动驾驶等场景深入合作;Atlas系列板卡、服务器和AI相关的数十家伙伴,在智慧交通、智慧电力等数十个行业落地AI行业解决方案;
2、基于昇腾310的华为云服务:华为云图像分析服务、OCR服务、视频分析服务超过50+ API都已经基于Ascend 310服务,日均调用量超过1亿次,而且在快速增长,预计年底日均调用量>3亿。
其次是ModelArts的商用进展。ModelArts全流程模型生产:打通、覆盖了从数据获取-模型开发-模型训练-模型部署的全链条,日均作业量以及在线开发者:日均训练作业任务超过4000个,32000小时,其中:视觉类作业占85%,语音类作业占10%,机器学习5%,ModelArts已经拥有开发者超过3万。
我宣布:算力最强的AI处理器Ascend 910正式推出。去年10月,我们发布了Ascend 910的技术规格,今天我向大家介绍最新的实际测试结果。
在算力方面,测试结果表明,昇腾910完全达到了设计规格,即:半精度(FP16): 256 Tera-FLOPS;整数精度(INT8) : 512 Tera-OPS。其次重要的是,达到规格算力所需功耗仅310W,明显低于设计的350W。
应当说,昇腾910总体技术表现超出预期。我们已经把昇腾910用于实际AI训练任务。其中,在典型的ResNet-50网络的训练中,昇腾910与MindSpore配合,与现有主流训练单卡配合TensorFlow相比,显示出接近2倍的性能提升。每秒训练的图片数量从965张提升到1802张。
面向未来,针对不同的场景,我们将持续投资,推出更多的AI处理器,面向边缘计算场景,在已经商用Ascend 310基础上,计划2021年将推出Ascend 320。
现有MDC是基于Ascend 310的,有效支持了自动驾驶的开发,未来面向规模商用,我们将陆续推出Ascend 610/620。针对AI训练,今天正式推出Ascend 910,未来还将计划推出Ascend 920。
今天还要发布全场景AI计算框架MindSpore。能否大大降低AI应用开发的门槛,能否实现AI将无处不在,能否在任何场景下确保用户隐私得到尊重和保护,这些都与AI计算框架息息相关。
为此,在去年HC会上我们提出:AI框架应该是开发态友好(例如显着减少训练时间和成本)和运行态高效(例如最少资源和最高能效比),更重要的是,要能适应每个场景包括端,边缘和云。
经过近一年的努力,全场景AI计算框架MindSpore在这三个方面都取得了显著的进展:在原生适应每个场景包括端,边缘和云,并能够按需协同的基础上,通过实现AI算法即代码,使开发态变得更加友好,显著减少模型开发时间,降低了模型开发门槛。通过MindSpore自身的技术创新及MindSpore与Ascend处理器协同优化,实现了运行态的高效,大大提高了计算性能;MindSpore也支持GPU、CPU等其它处理器。
很多人问我,现在已有了TensorFlow、PyTorch框架,华为为什么还要开发并推出MindSpore框架。我告诉他们,由于没有任何一个现有框架支持全场景,而华为的业务覆盖端-边缘-云,且在隐私保护日渐重要的背景下,需要一个能支持全场景的框架,实现AI无所不在越来越基础的需求,这也是MindSpore的重要特色。针对不同的运行环境,MindSpore框架架构上支持可大可小,适应全场景独立部署。同时,MindSpore框架通过协同经过处理后的、不带有隐私信息的梯度、模型信息,而不是数据本身,以此实现在保证用户隐私数据保护的前提下跨场景协同。除了隐私保护,MindSpore还将模型保护Built-in到AI框架中,实现模型的安全可信。
为了降低AI开发者的开发门槛,MindSpore创造性地实现了AI算法即代码,使开发态变得更加友好,显著减少模型开发时间。以一个NLP(自然语言处理)典型网络为例,相比其他框架,用MindSpore可降低核心代码量20%,开发门槛大大降低,效率整体提升50%以上。
我们通过MindSpore框架的技术创新及把MindSpore框架与昇腾处理器的协同优化,有效克服AI计算的复杂性和算力的多样性挑战,实现了运行态的高效,大大提高了计算性能。除了昇腾处理器,MindSpore同时也支持GPU、CPU等其它处理器。
为了更好促进AI的应用,MindSpore将在2020年Q1开源,助力每一位开发者。
随着昇腾910 AI处理器以及MindSpore全场景AI计算框架的推出,华为全栈全场景AI解决方案各重要组成部分悉数登场,因此可以说,华为已完成了全栈全场景AI解决方案的构建。
这对华为的AI业务,已是一个新的里程碑,更是一个新的开始,期待与伙伴更加深入、广泛的合作,让AI无所不及,造福于每个人、每个家庭、每个组织。更震撼的AI新品,敬请关注HC2019。