激安ボード「ラズパイ(Raspberry Pi)」全機種に標準搭載されているGPUで、ディープニューラルネット(DNN)推論の高速化を実現してしまったベンチャーを覚えていらっしゃるだろうか。
ラズパイSoCの製造元はそのGPUを汎用計算に使うためのライブラリやツールなど一切提供していないにもかかわらず、そのベンチャーはGPUの命令セットアーキテクチャに関するわずかな情報を基に、DNN推論をアクセラレーションするラズパイGPU向けソフトウエアを独力で作り上げてしまった1-2)。
それが日本のAI/IoTベンチャー、Idein(イデイン)である。
本誌がこのIdeinの驚くべき技術について世界に先駆けて紹介したのは2019年2月のこと。
そこから約3年が経過した今、同社の事業がついにスケールの兆しを見せ始めた。Ideinは何もDNNのアクセラレーションをメイン事業にしている訳ではなく、このエッジAIの技術を基にしたIoTプラットフォームサービス「Actcast」を主軸事業に据えている。そのActcastの登録デバイス数が2022年4月、1万5000個を超えたのだ(図1)。
IoTデバイスでDNNにより各種の画像認識をさせるには米NVIDIA社の「Jetson」など高価なエッジ向けGPUを用いたり、あるいは画像そのものをクラウド側に逐一送って、クラウドサービス上で画像認識をする必要があると一般には考えられている。しかし、単価数千円の安価なラズパイ上でGPUによるDNN推論が20フレーム/秒もの速度でできるとなれば、エッジAIの導入ハードルは一気に下がる。デバイス自体が安価な上に、クラウド側に画像データを送る必要もないとなれば、通信費やクラウドサービスの従量料金を気にせず済み、非常に低いランニングコストで画像認識付きカメラを大量に展開できる。デバイスの初期コストが安価なだけでなく、ランニングコストを安くできれば、IoTサービスを無理なく続けられる。
IdeinのActcastは2020年1月に正式サービスを開始したが、直後にコロナ禍が発生したことで見込み顧客先での実証実験などが止まってしまうことなどがあり、当初は導入数の伸び悩みに苦慮した。しかし、「安価で速い」というラズパイGPUによるエッジAIの良さが次第に知られるようになり、2022年になって大手企業での大規模導入事例が相次ぐようになってきた。2022年になってからの3カ月間で登録デバイス数が5倍となるほどの伸びだ。
Actcastでは、デバイスやランニングコストが安価なこともあり、1社の案件だけで数千台もの導入規模となることが多い。店舗を多数チェーン展開するような大手小売業での導入が多く、全国の店舗に複数のカメラを一気に導入するなどして、規模が数千台に膨らむ。こうした大型案件が2022年に入って複数出てきたことから、登録デバイス数が急速に伸び始めた訳だ。客先で使われているデバイスの実に99%がラズパイだという。もはやラズパイは単なる趣味のCPUボードではなく、立派なエッジAIデバイスになったといえる。
そんなIdeinだが、エッジAIが爆発的に普及する時代に向けて技術面で先駆的な取り組みも進めている。