阿里第一颗芯片问世，平头哥发布最强AI芯片含光800

shuszhao · 发表于 2019-9-26 08:50:53

阿里巴巴第一颗自研芯片正式问世。在9月25日的杭州云栖大会上，阿里CTO张建锋现场展示了这款全球最强的AI芯片——含光800。根据张建锋的介绍，在业界标准的ResNet-50测试中，含光800推理性能达到78563 IPS，比目前业界最好的AI芯片性能高4倍；能效比500 IPS/W，是第二名的3.3倍。

阿里巴巴第一颗自研芯片正式问世。在9月25日的杭州云栖大会上，阿里CTO张建锋现场展示了这款全球最强的AI芯片——含光800。去年的同一场大会上，阿里的芯片公司平头哥成立，之前已经交出了嵌入式CPU“玄铁”和系统芯片平台“无剑”。
根据张建锋的介绍，在业界标准的ResNet-50测试中，含光800推理性能达到78563 IPS，比目前业界最好的AI芯片性能高4倍；能效比500 IPS/W，是第二名的3.3倍。

据介绍，1颗含光800的算力相当于10颗GPU，目前基于含光800的AI云服务已在阿里云上线。

含光800是一款AI芯片，偏重推理。由于人工智能芯片的差异化设计主要体现在硬件架构和软件算法上，二者需要高度适配才能发挥芯片的最大价值。从目前来看，传统CPU、GPU在深度学习推理任务上并没有完全发挥硬件能力，例如GPU架构主要针对图像处理设计，其硬件结构、软件生态几乎固化，因此对AI任务很难有深度优化。
含光800性能的突破得益于软硬件的协同创新，芯片架构方面，含光800采用创新的自研芯片架构，针对深度学习中使用的大量权重参数和张量数据，在支持稀疏压缩与量化处理的基础上，通过独特设计的数据访存与流水线处理技术，大大减低了I/O需求和数据的搬移。NPU同时深度优化了卷积，矩阵乘，向量计算和各种激活函数，通过高有效的硬件资源调度和全并行的数据流处理，把AI运算的性能和能效双双推向极致。
软件层面集成达摩院算法，针对CNN及视觉类算法深度优化计算、存储密度，可实现大网络模型在一颗NPU上完成计算。

目前，含光800已经实现了大规模应用，应用于阿里巴巴集团内多个场景，例如视频图像识别/分类/搜索、城市大脑等，未来还可应用于医疗影像、自动驾驶等领域。
云栖大会现场演示了该芯片在多个场景带来的全方位提升，以杭州城市大脑实时处理1000路视频为例，过去使用GPU需要40块，延时为300ms，单路视频功耗2.8W；使用含光800仅需4块，延时150ms，单路视频功耗1W；拍立淘商品库每天新增10亿商品图片，为了让用户快速从海量图片中精准搜索到商品，需要强大的计算力支撑，使用含光800搜索效率可提升12倍，时间从传统通用GPU的1小时缩减至5分钟。
张剑锋表示，阿里巴巴有足够的能力去做传统公司的事情，“我们用一年半时间，就完成了芯片的制作。所以，阿里巴巴将成为软硬件一体化协同发展的公司”。
过去半年，平头哥先后发布玄铁910、无剑SoC平台。随着含光800的发布，平头哥端云一体全栈产品系列初步成型，涵盖处理器IP、一站式芯片设计平台和AI芯片，实现了芯片设计链路的全覆盖。