×
嵌入式 > 技术百科 > 详情

1.2万亿晶体管,这款深度学习芯片晶体管数量是苹果A12处理器的174倍

发布时间:2020-06-04 发布时间:
|

我们常见的处理器都是经过封装之后才可使用的,实际上如CPU中的核心裸片大小一般在200平方毫米以下,而GPU核心的大小也没有超过1000平方毫米的,所以在一片晶圆上可以切割出很多核心裸片。不过这并不代表无法制造超大尺寸的芯片,在今天的Hot Chip 31会议中,Cerebras Systems就推出了一款晶圆级深度学习芯片,尺寸达到了215×215平方毫米。几乎占据了一整个晶圆的大小。

现在针对深度学习进行优化的芯片已经很多了,不过裸片尺寸如此巨大的也仅有这一个。Cerebras Systems称这款芯片采用了台积电16nm工艺进行制造,整个芯片拥有1.2万亿晶体管,芯片尺寸达到了46225平方毫米。而官方也称这片芯片的尺寸比当前最大的GPU核心要大56倍。

而这么大的芯片主要就是用来进行深度学习训练的,而深度学习的训练是应用小变化的过程,模型的大小等因素让神经网络训练变得非常困难。对于粗粒度计算,需要告诉互联才能进行训练,规模依旧有限且成本高昂。

所以Celebras Systems设计了专门为神经网络原语优化的核心,这种核心可编程、可以快速进行西数计算,而且具有高速互联能力。Celebras Systems设计了非常灵活的内核,而且可以高效的处理张量运算。

在内存架构上也专门针对深度学习进行了优化。2D mesh拓扑使得核心间的互联更加高效,带宽更高、延迟更低。巨大的晶圆级芯片使得其成为一个计算集群,具有完整的片上互联架构,可以将整个神经网络映射到芯片上。甚至已经可以使用TensorFlow及PyTorch深度学习框架。

跨裸片相连也是这个巨大芯片的挑战,Celebras Systems也采用了一些方式实现了裸片之间的连接。而半导体制造良率是关键,这么巨大的芯片几乎无法保证其中每一个计算核心都能够正常工作,所以设置冗余核心和冗余连接保证了整片芯片可以正常使用。同时巨大的芯片受到热膨胀的影响会更明显,所以他们也定制了连接方式。由于热密度更高,所以也采用了水冷的方式进行散热。

Celebras Systems称这款芯片已经在使用中,而且运行状况良好。不过并没有公布时钟频率等信息。而具体售价方面,这么大的芯片肯定是不便宜的,不过他们也没有公布具体价格。


『本文转载自网络,版权归原作者所有,如有侵权请联系删除』

热门文章 更多
家庭网络:从带宽共享走向内容共享