机器之心报道

作者:泽南

如何才能做到 AI 应用一次开发,全场景部署?昇腾给出了答案。

如今的大多数 AI 应用程序都需要跑在多种类型的处理器上,覆盖数十个版本的操作系统,运行在从端侧到云计算集群的各种设备上。这样复杂的环境,对软件的适应性和模型的可裁剪、可伸缩性提出了极高要求。

AI 开源框架也在顺应这股潮流,昇腾发布的 CANN、MindSpore、MindX 等工具,可以让开发者实现「统一端边云,全端自动部署」,开启了机器学习开发的新时代,一直被人们寄予厚望。

昇腾 官网(降低门槛全平台应用)(1)

昇腾的 AI 全栈软件平台。

其中,基础架构作为连接硬件与软件的桥梁,是发挥 AI 算力至关重要的一点。在昇腾体系中,处在这个位置的正是异构计算平台 CANN(Compute Architecture for Neural Networks)。

昇腾曾经进行过一项能力展示:得益于 CANN 的架构优化,一块 Atlas 300I 推理卡可以实时处理 80 路 1080p、25FPS 的高清视频。如果在实验室条件下,这个数字还可以更高。这样的技术,如今已经可为所有开发者所掌握。

下一代 AI 生产力工具:操作更轻松,性能还要翻倍

因为直面硬件,CANN 可以直接向开发者开放硬件最底层的能力,所以也一直是被研发人员们重点打磨的那部分。

自 2018 年发布起,昇腾 CANN 很快经历了三个大版本的更新。从注重边缘侧推理,加速终端机器学习应用速度的 1.0 版,到打通数据中心和训练端,提高 AI 模型训练效率的 2.0 版,CANN 对端边云全场景的支持不断演进。

2020 年 8 月发布的最新版本 CANN 3.0,其核心理念在于统一端边云和架构,自动部署,支持多种计算架构。现在,开发者们只需要在其之上使用一套应用代码,即可兼容 10 种设备形态、14 操作系统以及多种 AI 框架,使能全场景 AI 开发。

CANN 3.0 是一个完整的开发体系,其中包含编程语言 TBE,编译及调试工具,还有编程模型。其既提供统一编程接口(AscendCL),满足开发者在框架、算子等方面的开发需求,还提供两种算子开发方式,兼具效率和性能。

昇腾 官网(降低门槛全平台应用)(2)

昇腾 CANN 是连接硬件和机器学习框架的桥梁,就像 CUDA 之于英伟达 GPU 一样。其支持的深度学习框架包括不限于 MindSpore、TensorFlow、Pytorch、Caffe 和 ONNX。

在 CANN 之上,开发者可以在大规模分布式系统上享受单机编程体验,只需要关注编程本身,完成的算法可以自动化地部署到所有类型的设备上,还都获得了针对各类硬件的专有加速。

结合异构计算架构 CANN 3.0、全场景 AI 计算框架 MindSpore、全流程开发工具链 MindStudio 2.0、昇腾应用使能 MindX 等工具,昇腾「全家桶」的强大之处在于把简单留给人类,把复杂留给机器,可以最大程度发挥硬件性能,降低 AI 应用开发的门槛。

只有这样,才能让开发者发挥出自己最大的创造力。

昇腾 官网(降低门槛全平台应用)(3)

有关人们是如何把 AI 技术应用到各个行业的,华为对开发者做过一个简单的画像:少量的开发者希望进行 AI 算子和神经网络开发,人数只占到 1%——他们需要用到 CANN 3.0 和 Mind Studio 的解决方案。

第二类是占比 10% 的 AI 应用开发者,他们需要 AI 的能力来辅助各类研究。这既需要 AI 基础知识,也需要相关专业领域的知识,他们需要的是开源 AI 框架 MindSpore——在大多数时间内,开发者们无需了解 AI 算法的具体实现。

第三类开发者,则是把 AI 技术当作一种服务的 90% 客户,他们无需理解应用背后的是 YOLO v3,ResNet50 还是其他什么算法。使用昇腾全新的 MindX 1.0,可以全面加速这类工作的开发速度。

如果你对于机器学习的开发需求提升到了深入阶段,那么就需要了解并使用 CANN。

从训练模型开始,学习最基础的 AI 操作

在不少评测中,昇腾展示了自己的强大实力,但作为一个新事物,它还需要更多人的关注。如何才能从模型层面构建定制化 AI 应用,充分释放 AI 硬件性能,实现全端快速部署?

如果你想要学习这些能力的话,昇腾有系列课程在等着你:在 3 月 25 日,昇腾的 CANN 训练营将会开启第一期。

昇腾 官网(降低门槛全平台应用)(4)

「昇腾 CANN 训练营」将以直播形式进行,面向所有 AI 领域从业者,来自昇腾软件体系的一线开发者将亲自上阵讲授 CANN 的使用技巧。首期训练营的课程将分为三大部分:应用、模型和算子,难度从低到高递进,时长五周,共十堂课。

如果你有一些 Python 和 C 语言的基础,熟悉 Linux 系统的操作,就可以参与进来。一些成功使用昇腾技术将 AI 落地的方案,将会成为你未来项目开发的有效参考。

昇腾 官网(降低门槛全平台应用)(5)

光听老师讲网课还不够,每堂课过后还会有课后练习题,最后还有一个综合大题,帮你检查自己学到的知识。你将学会:

自己搭建一个 AI1s 推理云环境,并跑通实验。

使用演示实验中提供的模型,并根据自己对 AscendCL 的理解编写推理应用。

最后,编写出一个带有动态 batch 或动态分辨率推理能力的应用。

这样的课程,今年一共有四期,华为表示这一系列课程的内容会逐渐深入,希望能向开发者们讲透算子开发。

成绩好还有奖励

一个月的学习时间,可以让你掌握大量昇腾 CANN 的操作技巧,满足所有机器学习开发需求。除了免费报名上课,昇腾还为参与这次训练营的开发者们准备了一些礼物,其中包括 Mate 40 手机、SOUND X 帝瓦雷音箱等等。

最近几年来,我们见证了华为 AI 硬件和软件技术的不断升级演进,其面向全行业的生态开放创新,使得不少参与其中的企业和开发者们受益。

AI 的发展速度很快,昨天的 SOTA 水平,可能今天就会被颠覆了,昇腾 AI 平台也在快速发展的过程中。要想让 AI 改变世界,你需要先了解一下它的强大之处,是时候行动起来了。

报名链接:https://developer.huaweicloud.com/signup/96edd6b85451473fb953fc12566b9b6e

,