苹果神经网络引擎

随着人工智能(AI)需求的增加,芯片制造商正在努力生产更强大和高效的处理器。他们的目标是采用更好、更便宜的解决方案,以适应神经网络的需求,同时保证足够的灵活性来满足算法的演进。在Hotchips 2017会议上,发布了许多新的深度学习和人工智能技术,其中既有业内领先的科技公司,也不乏初露头角的初创公司。

人工智能的未来是移动设备

Hotchips会议提出了一些很酷的东西,比如深入分析了谷歌第二代矢量处理单元(TPU v2),它被开发出来执行高效的神经网络训练。同时微软也展出了“脑电波(Project Brainwave)”项目,这是一个“软”FPGA深层神经网络处理单元(DNN)。这些解决方案都是针对繁重的数据中心,执行基于云的AI处理,但是……

虽然数据中心很重要,但人工智能最有趣的应用场景还是移动设备。因为不是所有的移动场景都可以依赖于云计算,一些AI处理需要在设备上运行,或者边缘处理。类似于虚拟现实应用面临一系列的移动挑战,人工智能也必须解除禁锢,发挥其全部潜力。在本专栏的其余部分我们会探讨一些实例,清楚地表明人工智能的未来是移动设备。

智能手机拍照技术突飞猛进

去年我预测智能手机拍照的未来将会是结合双摄像头和深度学习生成增强的图像。现在三星将它落实了,意识到双摄像头比单个更强,所以可以肯定地说我的预言实现了。三星最新发布的Galaxy Note 8旗舰机是三星第一款采用后置双摄的智能手机。而另一种智能手机上的体现是采用前置双摄像头,以最大限度地提高自拍的质量,比如两个新的华硕Zenfone型号。华硕刚刚发布的的六个新款机型中有五个配备了前置或后置双摄像头。

智能手机摄像头在质量和效果上取得了巨大的进步,但仍有很多可以改进的地方。结合人工智能比如人脸识别和跟踪技术,同时采用先进照相功能比如自动对焦将会产生惊人的定制化效果。例如你可以让相机自动识别自己的孩子们,拍照时随时自动对焦他们。另外,同样的技术可以在照片中自动删除非家庭成员。再加上采用虚化效果模糊背景,每次都可以捕捉到令人惊叹的照片。这样一来真的重新定义了“傻瓜相机”的概念!

所有这些智能处理必须在设备上进行。除了隐私问题,还有捕捉稍纵即逝的时刻所需的拍照速度,使其难以在云端实现。这意味着智能手机拍照时必须能够有效地执行深度学习的任务,同时不消耗电池的电量。

语音接口将智能地进行边缘分析

随着虚拟语音助手的出现,语音接口已经普及起来。智能音箱和智能手机一样,大部分的语音分析是在云端执行的。所以同样面临很多问题,比如隐私和延迟等等,甚至有些是可以离线处理的简单事情。随着虚拟助手功能的改善和变得无处不在,用户越来越习惯于使用自己的声音作为主要交互接口。执行边缘处理允许本地实现一些功能,同时避免云处理的所有问题,打造了一个无缝对接而且方便的用户接口。

深度学习同样驱动增强现实

人工智能也是增强现实(AR)的核心功能。风靡全球的手机游戏《精灵宝可梦GO》(Pokemon GO)证明了AR的理想场景是运行在手机上,任何人可以在任何地方使用它。但是它还必须高效运行,以便设备仍然可以用于其他事情,比如——我不知道——打电话吗?自从《精灵宝可梦GO》首次面市以来,增强现实技术得以改善,用户开始期待能有更多更好的应用程序发布出来。

在今年早些时候的苹果全球开发者大会(WWDC)上,他们宣布了AR开发工具包,ARKit。它可以在所有运行iOS 11(系统将会在今年发布)的设备上使用。同时,谷歌抢先发布了类似的增强现实平台,ARCore,可以运行在Android上。和project tango不同(tango所需的硬件不是每个电话都具有),ARCore是一个可以在任何Android智能手机上运行的平台,它将有可能成为世界上最大的AR技术平台。

智能手机十年会有一个大的变革,在iPhone初代发布后,每年都会有不少厂商利用某项技术的突破跳出来说“这就是变革”,然而事情完全没有想象的那么简单。但是毫无疑问,现在到了变革的节点。随着iPhone X跟华为Mate 10的发布,一切将真正变得不同。继昨日在慕尼黑全球发布引发广泛关注后,华为Mate 10还将于20日在国内正式亮相。

经过初代iPhone后,更快的处理器、更好的拍照效果还是生物特征(人脸识别、指纹识别等)或者是现在的全面屏,其实都是对于硬件以及软件的修修补补,尽管在体验上带来了不小的进步,但是依旧难以称为“变革”。

iPhone X的发布会后,不少人将目光放在批评苹果全面屏的难看,尤其是“刘海”的讨论上。其实,在华为麒麟970芯片以及iPhone 的A11处理器上,我们看到了人工智能将给智能手机以及人们生活带来巨大改变的雏形。在探索未来手机发展上,这两家巨头无疑又殊途同归。

苹果称A11 仿生(不是“Fusion”),是iPhone 上有史以来最强大、最智能的芯片。A11仿生芯片内部的CPU、GPU、性能控制器、神经网络单元、ISP等这些都是苹果自己设计(Apple-designed)的。除了工艺的进步以及性能的残暴以外,苹果在发布会上解释,有一种AI 人工智能叫做机器学习,即让电脑通过观察的方式进行学习。而神经网络引擎就是专为机器学习而开发的硬件,它不仅能执行神经网络所需的高速运算,而且具有杰出的能效。

简而言之,通过神经网络引擎能够分担CPU 和GPU 的任务,大幅提升芯片的运算效率,以更少的能耗更快的完成更多任务。在A11 仿生中,苹果表示自家的神经网络引擎采用双核设计,每秒运算次数最高可达6000 亿次。不过,苹果没有像华为那样透露具体的浮点运算性能。

苹果表示,自家的AI 单元主要用于胜任机器学习任务,能够识别人物、地点和物体,为“面容ID”和“动话表情”等创新的功能提供强大的性能。

其中对于iPhone X 的“面容ID”,面容ID 功能会投射30000 多个肉眼不可见的红外光点,然后将得到的红外图像和点阵图案传输给神经网络,创建脸部的数学模型,再将这些数据发送至安全隔区,以确认数据是否匹配。而且,就算样貌随着时间而改变,它也能随之进行调整适应。神经网络引擎是苹果在A 系列芯片上的首次尝试,虽然目前服务的范围还很有限,更多的为iPhone X 而设计,但未来这一AI 单元很快会扩展到更多苹果生态的领域当中,包括无人驾驶汽车系统、AR 增强现实技术、Apple TV 和HomePod 音箱等,让更多原本生硬的设备也能采用与人类同样的方式进行交互,变得真正会思考。

而国内领先苹果发布AI芯片的华为带来的麒麟970,我们掌握的消息更多,也看到了华为的构想更加远。华为表示,人工智能将使移动互联网进入到智慧互联时代,我们不仅仅希望未来的手机能听懂、看懂,甚至希望它能够以人类的思考方式来理解人类诉求,让我们获得自主而恰当的信息和服务。可以看到,华为与苹果所看到的手机未来在某种程度上达到了惊人的一致。

AI技术的核心是对海量数据进行处理,当前以CPU/GPU/DSP为核心的传统计算架构已经不能够适应AI时代对计算性能的海量需求。

作为全球首款移动AI芯片,华为麒麟970首次集成神经元网络单元NPU(Neural-network Processing Unit),并且和CPU、GPU、DSP组成了创新的HiAI人工智能架构。

简单来说,NPU可以理解为专门为AI相关计算定制的高效能处理器。就像GPU专门针对图形计算,ISP专门针对成像计算一样。

华为表示,NPU的AI性能密度大幅优于CPU和GPU。相较于四个Cortex-A73核心,在处理同样的AI应用任务时,新的异构计算架构拥有大约25倍性能和50倍能效优势,这意味着麒麟970芯片可以用更少的能耗更快地完成AI计算任务。

麒麟970在更多神经网络模型下的性能,也要大幅超越iPhone 8 Plus(A11)。作为全球首颗内置AI芯片的SoC,麒麟970无疑寄托了华为在消费端人工智能演进的憧憬。

未来的手机,肯定会在人机交互上下功夫,而手机芯片就是基础,如今华为与苹果已经领先高通与三星,率先走出了第一步,未来手机终端不再仅仅被动接受用户的操作,而是对用户的使用意图充分场景化,让手机协助自己更加便利。就在今天上午10:08分,华为已经在各大电商平台开启Mate 10的0元预约活动,对Mate 10感兴趣的朋友已经可以前往预约了。