司空见惯的人脸识别算法与智能摄像头,无时无刻不被调用的智能语音与推荐算法,各行各业都开始探讨如何使用 AI……然而当我们继续深入到 AI 开发的产业深处,会发现还存在着许多待解的难题:AI 技术与企业的业务场景怎样结合?投入能效比是否达到规模化应用的预期?怎样从 AI 技术上重新建构竞争壁垒?
8 月 10 日举办的华为 HAI 2020 大会上,华为昇腾计算业务总裁许映童一句话,揭示了华为接下来将使能 AI 的方向——“极简易用,让 AI 计算无处不在;极致性能,让 AI 计算触手可及”。
在 AI 即将进入各行各业的当下,或许值得一次凝视。
(华为昇腾计算业务总裁许映童在 HAI 2020)
大隐于世:昇腾生态的“极限挑战”
在 HAI 2020 上,我们看到了不少基于华为 Atlas 及全栈全场景 AI 能力所建构的垂直技术体系。
比如大会直播时采用的讯飞听见即时翻译系统,工商银行基于 Atlas 的硬件和基础软件平台打造的“工银智慧大脑”;华为与第四范式联合打造的软硬一体全栈 AI 平台等等。
以一种“润物细无声”的方式隐于产业身后,是我从华为 Atlas 与 ISV 伙伴等的默契与协作之中,感受到的独特选择。
举个例子,第四范式是一家人工智能技术与服务提供商,为银行、政务、能源、智能制造、医疗、证券等领域的企业客户提供 AI 创新技术。
而华为与第四范式的合作,就在软硬件一体的基础上,基于 Atlas 服务器,华为 CANN 3.0 完成了软硬件的深度优化,结合范式自研的 RTiDB 在线实时数据库,可以让第四范式上的数据训练、推理算法、模型应用等整个 AI 流程,都能够在极致算力的底座上高效跑起来。
更关键的是,彻底摆脱了在底层软硬件层面对国外技术的依赖,让重视安全的行业能够放心地使用 AI。
同样,支持万亿维特征、毫秒级推理响应、大规模图计算、高密度的工银智慧大脑,正是基于 Atlas 的硬件和基础软件平台所打造的。
这些合作伙伴的计算能力向各行各业输出的时刻,都可以触摸到昇腾计算生态的温度。
开往春天的列车:AI 产业化需要“三大护法”
我们知道,更多的开发者投身 AI、更多的企业需要 AI、更多的数据和训练需求被激活,AI 开发者在当下也需要“三大护法”护航,来让 AI 行业应用落地“事半功倍”:
1. 减轻算力成本,保障 AI 效能。5G、IoT 等的逐步推进,带来了空前大的数据井喷,背后的算力成本、开发时间、系统交互等限制如果持续放大。
2. 全流程工具加持,护航高效开发。在实际开发中,工程师们需要从解决方案到建模验证等跨越整个设计流程的工具链,帮助他们将 AI 模型与洞见、工程相结合。
3. 深度差异化落地,加速产业升级。许多不具备 AI 人才储备的传统或实体企业,也希望以低门槛的方式差异化地应用 AI。
这三大护法,可以将其看做是 AI 走向产业应用落地的限制,也可以将其看做是龙跃于渊、时不我待的机遇。这也是为什么华为华为要将自己隐于 ISV 服务商和开发者身后,在 HAI 2020 重点打出了“软件牌”。
AI 全栈“软实力”:华为送给开发者与时代的三重礼物
从某种意义上来说,AI 本质上还是以 AI 算法驱动的软件工程。所以在构建昇腾 AI 基础硬件设施构筑最强 AI 算力平台的同时,华为也同时发布了 CANN 等一系列 AI 开发软件并不断更新,我们不妨一一拆开华为送给开发者与时代的大礼包。
第一份礼物,是异构计算架构 CANN 3.0。
今天的开发者有多难?开源的 AI 框架就有好几种,TensorFlow、、PyTorch、Caffe 等都有各自的拥趸;面对的操作系统也不少,iOS 和安卓以及各种 Linux 系统都需要适配;智能手机、桌面电脑以及各种终端设备形态都需要兼容。
为了让开发者不需要重新制造“轮子”,2018 年首次发布的 CANN 在 HAI 2020 上迎来了全新的“3.0”版本。
其特点总结起来就是三个字:
一是“全”。CANN 3.0 “端边云”全场景协同的计算底座,只需要一套应用代码,即可兼容 10+种设备形态、14+操作系统以及多种 AI 框架;
二是“简”。AscendCL(昇腾统一编程接口)支持开发者可以在现有的算法、框架基础上,开发和修改自定义算子,同时可以后向兼容和演进,适应不同的算力和内存的变化,底层硬件的更换无需修改代码,开发过程更“简单”;
三是“升”。通过深度图优化、自动图拆分与融合、数据 Pipeline 智能优化等技术,实现了高度的软硬件适配,最大化释放 AI 硬件的澎湃性能,实现训练和推理性能的全面提升。
第二份礼物,是全流程开发工具链 MindStudio。
在 AI 产业应用落地的工程化环节,开发者需要完成算子开发、模型训练、模型推理、应用开发、应用部署等一系列工作,如果每一个环节都需要重新开发或适应大量的工具,那渴盼 AI 的企业与个人可能要等到天荒地老。
因此,华为打造的全流程开发工具链 MindStudio 2.0,就对所有的工具链进行整合,形成一套完整的工具链体系,开发者可以实现端到端开发的全流程“拎包入住”,直接降低了 AI 开发门槛与周期。
同时,借助插件化设计,开发者可以利用标准的插件化接口,开发自己的工具插入到工具链体系中去,进一步提升工作效率与灵活性。
在 AI 最核心的训练与推理场景,MindStudio 还加入了独有的工具,通过 Less BN(智能识别网络中不必要的 BN 算子)和随机冻结算法提升模型训练效率,利用智能算法实现模型压缩,加速推理进程。
此外,便捷安装、一键式代码补全、自动智能化适配开发环境、性能可视化精准粉细等等功能的设计,从各个细枝末节来共同提升开发者的生产力。
这些动作以一种堪称重构的整合思维,完成了开发全流程的升级和进化。
第三份礼物,是昇腾应用使能 MindX。
如果无法从算子开发、模型训练开始尝试,是不是就无缘 AI 了?
在本次 HAI 大会的 MindX 1.0,就在尝试用“2+1+X”的方式助力 AI 更简单易用地融入社会最小单位。
如果你是 ISV(独立软件)服务商,希望向垂直领域提供更具细腻度的 AI 能力,那么华为的两大平台——深度学习平台 MindX DL、智能边缘平台 MindX Edge,前者通过数据中心设备与计算资源统一管理与调度,可以在计算集群上快速搭建起商用深度学习系统;后者则支持一键式部署多样设备的边云协同推理,就能帮助 ISV 服务商建构起跨软硬件、跨终端的 AI 服务能力。
基础模型也不需要自己训练了,优选模型库 ModelZoo 已经涵盖了 20 多个按场景和框架分类好的高性能模型(下半年会增加到 50 以上)。
还想让开发过程更简单?使能各行业 SDK 了解一下。“自己造的降落伞自己先跳”是华为的一贯作风,所以华为工厂 80 多条产线也成为规模应用 AI 的领头人。
举个例子,华为松山湖就通过 AI 算法,让标签缺陷检测、螺钉缺失等实现“秒级检测”,质检人员效率提升 3 倍。而这些从华为自身实践中被反复打磨优化好的高性能视觉算法,就被整合到了制造 AI 应⽤开发套件 mxManufacture 中,可以被制造产业伙伴轻松部署和调用。
拆完这三个礼物,不难看到华为在全栈 AI 软件上下的功夫,与性能突出的全栈 AI 硬件相适配,交织成了一块强有力的磁铁,将 AI 与开发者、ISV 服务商、各行业开发需求紧紧地吸附在一起。
“把简单留给别人,把复杂留给自己”,托举起千行万业的 AI 渴盼。这是昇腾生态的“极限挑战”,也在催生 AI 的千种想象、万种可能。