2019-09-29 03:23 来源:融100 编辑:融仔
在2019年云栖大会主论坛,阿里巴巴CTO、达摩院院长张建锋从口袋里掏出一款看得见、摸得着的芯片:含光800。这是一款AI芯片,重点应用于机器视觉中,如图片识别、视频识别等。 作
在2019年云栖大会主论坛,阿里巴巴CTO、达摩院院长张建锋从口袋里掏出一款看得见、摸得着的芯片:含光800。这是一款AI芯片,重点应用于机器视觉中,如图片识别、视频识别等。作为平头哥半导体公司首颗自主研发的芯片,含光800成为云栖大会主论坛的热门话题。
全球最强AI芯片?一年前的云栖大会上,平头哥半导体公司宣告成立,这是阿里首次对外宣告要自主造芯,但事实上,阿里很早就已想要拥有自己的芯片,并为此筹谋许久。阿里当时宣布正在打造内部代号为“Ali-NPU”的芯片,主要针对图像和视频的AI任务加速场景,按照设计,Ali-NPU的性能将是同类产品的40倍。对于“40倍”这个数字,当时很多人是不信的。
从定位来看,含光800应该就是一年前所说的Ali-NPU,我注意到在发布会现场,张建锋数次强调这款芯片很“大”——移动端芯片因为应用场景要求往往都强调体积的小,这意味着含光800的应用场景不是终端,而是云端服务器。“大”不是指体积大,而是计算能力强大,其每秒能处理78000张图片。仅仅是从晶体管数量来看,含光800拥有170亿个晶体管就远超同行。
最能体现出其算力强大的则是一组对比数据。在业界标准的ResNet-50测试中,含光800推理性能达到78563 IPS,比目前业界最好的AI芯片Habana Goya 高4倍;能效比500 IPS/W是其3.3倍。跟一年前市面上的英伟达P4比,性能有46倍的优势,“Ali-NPU 性能40倍于同类产品”不是吹牛。
含光800算力强大的原因在于面向AI视觉场景自研的架构和定制的算法,以下来自官方新闻稿:
“含光800硬件层面采用自研芯片架构,通过推理加速等技术有效解决芯片性能瓶颈问题;软件层面集成了达摩院先进算法,针对CNN及视觉类算法深度优化计算、存储密度,可实现大网络模型在一颗NPU上完成计算。”更具体的解释:平头哥针对含光800瞄准的机器视觉场景,自研了架构、软件编译器、框架、工具链等等,并针对INT8数据类型做了大量优化,最终在性能、良率、功耗等指标上均表现良好。比如在架构上,含光800针对深度学习中使用的大量权重参数和张量数据,在支持稀疏压缩与量化处理的基础上,通过独特设计的数据访存与流水线处理技术,大大减低了I/O需求和数据的搬移,NPU同时深度优化了卷积,矩阵乘,向量计算和各种激活函数,通过高有效的硬件资源调度和全并行的数据流处理,把AI运算的性能和能效双双推向极致,整个架构都是创新设计的。
换言之,这是一款软硬件高度整合的AI芯片,用张建锋的话说:传统芯片公司擅长硬件,然而在算法上不具备优势。我看到在一个媒体社群记者们就“含光800是否全球最强”有不同看法,但毋庸置疑,在视觉这一场景下,在市面上的同类产品中,含光800从算力、能效比来看均绝对领先。
要注意的是,含光800不是一款PPT芯片,其已实现流片量产,应用到阿里商业生态中。对内应用在阿里核心业务上,张建锋在云栖大会的现场演示现实,城市大脑实时处理杭州主城区交通视频场景,原来需要40颗传统GPU,延时为300ms,使用含光800仅需4颗,延时降至150ms;拍立淘商品库每天新增10亿商品图片,使用传统GPU算力识别需要1小时,使用含光800后可缩减至5分钟。对外,含光800不直接售卖,而是通过云的形式向阿里云数百万客户售卖AI算力,基于含光800的AI云服务已正式上线,相比传统GPU算力,性价比提升100%。
平头哥一年当立含光800的“含光”,将是平头哥系列终端芯片的名称。含光是上古时代三大神剑之一,《列子·汤问》:“孔周曰:’吾有三剑,惟子所择。一曰含光,视不可见,运之不知其所触,泯然无际,经物而物不觉。’”含而不露、光而不耀,意指含光系列芯片将主打无形却强劲的算力。
百度了一下,另外两大神剑分别是承影和宵练,这意味着,平头哥或许还有更多宝剑静候出鞘。不过,虽然平头哥目前只有含光800,但其已拥有多款“宝剑”:7月25日,平头哥在上海阿里云峰会上发布RISC-V处理器玄铁910,其是业界性能最强的一款RISC-V处理器IP,就像杨过可以将玄铁剑铸成屠龙刀一样,5G、人工智能、网络通信、自动驾驶等领域的开发者可以基于玄铁定制自有芯片提高性能提高一倍以上,同时将成本降低一半以上,在玄铁之前则有C-Sky系列,均主打IoT场景;8月29日,在世界人工智能大会上,平头哥发布无剑SoC芯片平台,集成CPU、GPU、NPU等,降低芯片设计门槛。
Copyright © 2002-2019 融100_金融理财平台 Inc. All Rights Reserved. 版权所有