米Cerebras Systemsは2019年8月の半導体チップの学会「Hot Chips 31」で世界最大の半導体チップ「Wafer-Scale Engine(WSE)」を発表した(図1)。寸法は21.5cm角で、300mmウエハー1枚から1個しか作れない。主に深層ニューラルネットワーク(DNN)での利用を想定する。トランジスタ数は1.2兆個、オンチップメモリーは計18Gバイト分を実装した。製造は台湾TSMCの16nm世代のプロセスである。
WSEは主に積和(MAC)演算を実行する「Sparse Linear Algebra(SLA)コア」を40万個搭載している。
上下左右に隣接するコア同士は同社が「Swarm communication fabric」(Swarmは群れの意)と呼ぶ独自開発のインターコネクト技術で密結合させている。伝送容量の合計は100ペタ(P)ビット/秒と非常に大きい。伝送遅延も低いとする。
動作周波数は未公表だが、1GHz以下の模様だ。同社はこのインターコネクトを介することで、各コア中のオンチップメモリーに1クロックで到達できるとする。21.5cm角という大きさでは、光の速度でもチップの端から端まで信号が届くのに最短でも1GHzの1クロック分の時間がかかるからだ。