4．独自開発のハードウエア
「なぜ我々は高速にイノベーションを起こせるのか」。ジャシーCEOは基調講演の中で、その答えとして独自ハードウエアの開発を挙げた。CPUに代わってハイパーバイザーの処理を担うチップ「Nitro」や、Armベースのプロセッサー「Graviton」などだ。
今回の基調講演でジャシーCEOは、2つの新たなチップを発表した。
1つはArmベースの次世代プロセッサー「Graviton2」である。AWSがカスタマイズした64ビットのArmコア「Neoverse」を搭載、7nmプロセスで製造する。2018年に発表した初代Gravitonと比べてコア数は4倍、メモリー速度は5倍とし、トータルの処理性能は7倍になったとする。「最も重要なのは、x86ベースと比べて価格当たりのパフォーマンスが40％高まる点だ」とジャシーCEOは強調する。
同チップを使った仮想マシンサービスとして、汎用的な用途に使える「Amazon EC2 M6g」のプレビュー提供を始めた。メモリー容量を増やした「Amazon EC2 R6g」と、処理性能を高めた「Amazon EC2 C6g」は今後提供する予定という。
「機械学習では学習（Training）に伴うコストが注目されるが、機械学習に関わるコストの大半は推論（Inference）が占めている」とジャシーCEOは指摘する。そこで発表したのが、推論専用の仮想マシンサービス「Amazon EC2 Inf1」だ。米バージニア北部リージョンとオレゴンリージョンで一般提供を始めた。
AWSが新規に開発した推論専用チップ「Inferentia」を搭載。深層学習フレームワーク「TensorFlow」「PyTorch」「MXNet」で構築したモデルの推論を低遅延で実行できる。同社のGPU仮想マシンサービス「Amazon EC2 G4」と比較すると、推論1回当たりの利用料金が4割減になるという。
