Facebook证实目前正在招聘芯片工程师,成立芯片部门并展开ASIC设计。这家社交网络巨擘预计很快地将有5家芯片公司支持其Glow深度学习编译程序… zu{P#~21
据Facebook一位高层证实,该公司目前正在招聘芯片工程师,并展开至少一款ASIC设计。在日前于美国加州举行的Facebook @Scale 2018大会上,这家社交网络巨擘宣布,预计将有五家芯片公司支持其Glow——一款开放来源的深度学习编译程序。 xsbE TP?
E,U+o $
Facebook基础架构副总裁Jason Taylor说,Facebook“确实成立了一支专门与芯片供货商合作的芯片团队,同时,我们也在打造自家芯片。不过这当然不是我们的首要关注重点。”他表示,这款芯片“并不等同于Google TPU”深度学习加速器,但他并未提供与这款芯片有关的更多细节或时间表。 d.d/<
WiR(;m<g
Facebook的新芯片部门工作重点之一在于与大约50家设计人工智能(AI)加速器的公司合作。Taylor指出,“市场上将出现许多加速器芯片。但最大的问题在于他们针对的工作负载是否是当前最重要的。” v MH
BLiF
5
在主题演讲中,Taylor将Glow描述为一种通用编译程序,让开发人员能够针对云端或网络边缘中任何新兴深度学习加速器进行推论任务。它并不针对智能型手机等客户端系统。 '8H4shYg
k"zv~`i'
“我们预期(推论加速器)市场将会出现硬件零碎化的情况。我们开发Glow的目的在于协助机器学习专家设计神经网络,而不必面对调整‘每个特定芯片’所需的工作。” K!Y71_#
MaQqs=
“我们知道硬件零碎化即将发生,因为没有人知道哪一种(硬件)资源的组合——例如芯片上内存区块和乘法累加数组——将会胜出,因此我们让开发人员专注于高层级的图形,而无需为硬件规格手动编码。” {qJ1ko)$
Jason_Taylor_Scale_09_13_18.jpg k(G^z
Facebook基础架构副总裁Jason Taylor形容Glow是一款为云端和边缘网络进行推论的编译程序(来源:Facebook) C1n>M}b
e\zm7_+i{
Taylor解释,Glow采用由TensorFlow或Caffe2等架构产生的AI图形,并将其渲染为硬件加速器的位程序代码。根据Facebook的一篇部落格文章,该编译程序内含几种工具,包括为芯片特定内存配置产生有效程序代码的指令排程器、线性代数优化器与内存分配器,以及用于测试硬件精确度的CPU参考建置。 LYK"( C
mL{6L?
益华计算机(Cadence)、Esperanto Technologies、英特尔(Intel)、Marvell和高通(Qualcomm)等公司都表示未来的芯片将支持Glow。Taylor则表示希望进一步扩展支持名单。“这是Glow作为开放来源的优点之一。” )'cMYC
<=/hil
一位资深芯片专家将Glow描述为在生产系统中部署神经网络的架构。其输入是在TensorFlow或Caffe2等架构中创建的图形。 xdt-
;w|
qt"m
几家既有的芯片制造商已经提供了类似的软件。例如,英伟达(Nvidia)的Tensor RT自架构中提取图形,并为其GPU输出Cuda程序代码。 "JV_ 2K_i
XK@E;Rv
传统上,编译程序针对特定芯片进行严密的优化。但是,Taylor说:“近来的编译程序范围比过去的更加广泛——Glow中的优化必须能辨识可以渲染到硬件加速器的大部份图形。” KRRdXx\~
N5
6g+,w%)
20180919-facebook.png ?1
4{J]H4
转型AI的前兆? y?? XIsF
在快速发展的深度学习领域,Glow可说是致力于填补软件和硬件之间差距的最新例证。例如,Nvidia Tensor RT虽然在一年多前才首次发布,至今已进展到第五个版本了。但有些加速器新创公司对于支持各种软件架构及其变化所要求的工作程度也无能为力。 kxhWq:[c
N S[l/0F&
Facebook、微软(Microsoft)和其他公司则都支持ONNX——一种以权重表现图形的标准方法。去年12月,Khronos Group还发布了用于深度学习加速器的硬件抽象层NNEF。 &B1Wt