专注于数字技术的商业观察者
登录×
公司
2021-01-19

AI芯片细分领域中积极进取的Graphcore

时间: 2021-01-19 编辑:

有这样一个你可能熟悉却又不清楚的数据:全球关于AI方法的论文数量自2017年起,每年增长50%,2020年我们...

有这样一个你可能熟悉却又不清楚的数据:全球关于AI方法的论文数量自2017年起,每年增长50%2020年我们可能会看到超过21000AI领域的新论文。

在AI算力呈现爆炸式增长的过程中,有一个2012年广为人知的英伟达GPU故事,一个来自多伦多大学的Alex和他的团队设计了AlexNet的深度学习算法,并用了2个英伟达的GTX580 GPU进行训练后,打败了其他所有计算机视觉团队开发的算法,成为那一届ImageNet冠军。

此后,在计算机视觉和自然语言处理领域,GPU的高并行计算能力得到了充分的发挥,英伟达的GPU也随着AI第三次浪潮的崛起而迎来井喷发展。与此同时,更多为机器学习而专门定制的专用芯片开始出现,比如专用集成电路(ASIC)的张量处理单元TPU、神经网络单元NPU以及半定制芯片FPGA等等。

随后AI热度不断攀升,与AI相关应用也在急剧增长,这引发了市场对超大型数据中心的强劲需求,仅构建于英伟达平台上的AI创业公司,全球就被估计有3000家。而GPU只是AI领域中的一条技术路线。

2018年,英国一家名为Graphcore的创业公司推出了一种专门应用AI计算的处理器芯片IPU(Intelligence Processing Unit)。IPU一经问世,就受到AI界越来越多的关注。ARM创始人,被称为英国半导体之父的赫曼·豪瑟曾为Graphcore的IPU给出很高评价,将其誉为“计算机史上三次革命中,继CPU和GPU之后的第三次革命”。

IPU究竟为何物?

IPU被行业内称为一种新的技术架构,与GPU有着非常大的差异。比如GPU只是为大块密集的连续数据设计,而IPU则是针对未来学习趋势的高性能/高效率。简单来说GPU像是一个齿轮,可以连续不断的运作数据,而IPU则像是工业大厂,涵盖GPU了的工作,且可以并行运作多个工作项目。

所以行业人士更多地将IPU视为一个标准的神经网络处理芯片,可以支持多种神经网络模型,因其具备数以千计到数百万计的顶点数量,远远超过GPU的顶点规模,所以可以进行更高潜力的并行计算工作。此外,IPU的顶点的稀疏特性,令其也可以高效处理GPU不擅长的稀疏的卷积计算。其次,IPU也支持了模型参数的复用,这些复用特性可以获取数据中的空间或时间不变性,对于训练与推理的性能会有明显帮助。

2020年,Graphcore与马萨诸塞大学、Facebook一起使用近似贝叶斯计算的方式做流行病的模型分析,在研究领域也取得了一些进展。Graphcore高级副总裁兼中国区总经理卢涛表示:“与CPU相比IPU速度提高了30倍,与GPU相比提高了7.5倍。除此之外IPU也能做许多通用计算,比如布里斯托大学使用IPU,攻克粒子物理中的HPC挑战。伦敦帝国理工学院在IPU上,加速了经典计算机视觉的一些问题。”

而根据最新的训练报告来看,相比1个DGX-A100,BERT-Large(BERT模型,具备3.4亿个参数)能在IPU-POD64上实现5.3倍的提升,相比3个DGX-A100,能够实现1.8倍的提升。“1个IPU-POD64和3个DGX-A100的功率和价格基本相同,但却能够实现接近两倍的性能提升,这就是非常显著的性能优势。”Graphcore中国工程总负责人、AI算法科学家金琛如是说道。

还在路上有待努力

12月29日,Graphcore宣布,其已在E轮融资中筹集了2.22亿美元,增资后公司的估值为27.7亿美元。这是一家用四年时间快速成长起来的科技公司,早在2018年12月份,Graphcore从微软、宝马、三星和红杉手中融资2亿美元,成为英国估值最高的初创企业之一。

在融资方面,卢涛给人一副十分自信的感觉,他表示:“在融资的架构组合上,Graphcore是非常好的,其中的战略投资人涵盖企业应用、云计算、汽车等不同的垂直领域。在VC方面,投资方有来自世界知名的红杉资本,而投资方是Graphcore积极发展的重要信心来源。”

我们知道,AI芯片既要具备一定的灵活的可编程性(通用性),又要具备专用的高效性能优势。比如专注于图像渲染崛起的英伟达GPU,也随着游戏、视频渲染以及AI加速而向GPGPU(General Purpose GPU)的方向演进。当然,这也并非一件坏事,或许IPU能够找到一个新的细分市场,介入GPU无法很好发挥效能的神经网络模型,同时又避免专用AI芯片的不可扩展性,能够部署在更大规模的云计算中心或超算中心,对新算法模型保持足够的弹性计算空间。

但是,今年AI芯片产业正在遭遇洗牌期,例如美国某AI芯片公司在春季就黯然退场,中国区工程全部关闭。也许这并不意味AI计算将会遭遇寒冬,因为一个AI芯片从产出到大规模的应用,需要经历一系列的中间环节,比如主流算法架构的软件库、工具链、用户生态等。所以回头来看,GPU已经形成了一个非常完整的AI算力生态链,而IPU仍在路上,是否真的能够崛起,我们还需要看整个AI产业和应用研发的选择。

版权声明:本文版权归数字商业时代所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。