华为麒麟芯片技术,华为麒麟芯片突破了吗( 二 ) _麒麟芯片的黑科技同样的App在

百度语音语义的模型技术较新，结构也很复杂，最近的很多 AI 应用都是如此。从最早的 CNN、LSTM ，再到近期流行的 Transformer 结构，人们对 AI 专用计算单元的算力需求正在快速提高。另一方面，不同厂家硬件的差别明显，AI 计算的架构也在不断演进，如何充分利用好算力是开发者面临的挑战。
让芯片上的 CPU、GPU 和 NPU 协同参与 AI 计算，是目前发展的趋势。「在语音语义类业务上如果用异构方式运行模型推理，其性能要比单 NPU 或单 CPU 运行提升超过 40% 以上，很多业务适合通过异构方法运行，」华为技术专家表示。「NPU 善于处理 CNN 等经典神经网络，但业界近期获得应用的网络类型变化较快，很多新模型使用 CPU 加 NPU 联合计算可以获得更高效率。」

文章插图
华为提供的工具可以大幅提升 AI 算法的运行效率，快手和抖音也因此受益：两家短视频应用在接入 HUAWEI HiAI Foundation 后模型精度得以提高，通过充分利用算力实现了更加真实的 AI 特效，增加了业务场景。
对于应用开发者们来说，给应用接入异构计算能力并不需要训练专用的算法，也不需要重新构建一个 App，只需调用几个接口就可以完成了，如果开发者使用的机器学习平台接入了 HUAWEI HiAI Foundation，这个过程甚至可以是无感的，开发者无需进行操作即可获得麒麟芯片 AI 算力的优化。
原生 AI 加速，每天运行超 600 亿次
为开发者打开新世界大门的 HUAWEI HiAI Foundation 是麒麟芯片 AI 计算能力的开放平台，其目标是全面开放 NPU 能力。它可以自动把开发者手中的 AI 模型轻量化成移动版，集成到 APP 上，并获得手机芯片异构算力的原生优化加速。
2017 年 9 月，华为发布了首款自带神经网络计算单元 NPU 的移动芯片麒麟 970 。2018 年 3 月，HUAWEI HiAI Foundation 随之发布。经过几年发展，HUAWEI HiAI Foundation 已经从仅支持手机扩展到了全场景硬件，还可以做到一次开发多端运行。计算能力上看，则可以协同 NPU/CPU/GPU/DSP 实现异构计算，大幅提升了效率。
在 HUAWEI HiAI Foundation 的最新版本上，新增的能力主要有三个方面：提供 AI 模型性能优化快速升级的端云协同；开放为开发者提供更多可选模型结构的 Model Zoo；还有模型量化工具包，可以快速压缩 App 中 AI 模型的体积。

文章插图
经过多代持续打磨， HUAWEI HiAI Foundation 的兼容性和易用性已经相当成熟。人们熟知的鸿蒙 OS 的用户已经超过了 1.5 亿，是史上发展最快的终端操作系统。而作为麒麟芯片计算能力的开放平台， HUAWEI HiAI Foundation 的应用范围也是前所未有，它现在的日调用量高达 600 亿次。
相比 TensorFlow Lite GPU、Android NN 等端侧 AI 计算生态，HUAWEI HiAI Foundation 已经成为了业内最流行的 AI 架构，而且领先幅度正变得越来越大。
每天百亿调用量意味着海量的智慧业务正在端侧应用，充分发挥了麒麟芯片的 AI 算力，为用户带来了前所未有的体验。随着 AI 生态的不断演进，技术应用的经验也会为未来的改进打下基?。?助力下一代芯片的研发。
黑科技：端云协同
仅仅方便开发，体验好还不够。与高通、联发科等公司提出的工具相比，华为的优势在于「端云协同」。
深度学习算法由很多计算单元组成，我们称这些计算单元为算子（Operator，简称 Op）。从广义上讲，对任何函数进行某一项操作都可以认为是一个算子。在深度学习框架中，算子对应层中的计算逻辑，例如：卷积层（Convolution Layer）中的卷积算法，是一个算子；全连接层（Fully-connected Layer）中的权值求和过程也是一个算子。