IoTでエッジデバイスにおけるAI（人工知能）活用が広がっている。コストと性能を両立させるために必須なのがAIモデルの軽量化だ。ただし手法が数多くあり、選択や活用に注意が必要だ。
今回は「AIモデルの軽量化」の技術領域とその重要性について紹介する。
映像などを効率的に処理できるディープラーニング技術の登場で、大規模な計算リソースを前提としたAIモデルが必要とされている。筆者らが所属するエクサウィザーズも工場や倉庫などの現場のデバイスにAIシステムを導入している。
これらの現場は秘匿性の高い情報を扱ったり、高速な処理が必須とされたりするケースが多い。実現のために、AIシステムを現場の「エッジデバイス」に実装することが求められる場合がある。ただしエッジデバイスの処理能力や記憶容量には限界がある。そこで欠かせないのがAIモデルを軽量化する技術である。
軽量化技術についてはエンジニアだけでなく、AIシステムを発注する側も一定の知識を持っておいたほうがよい。最後に説明するが、コストはもちろんのこと、エッジデバイスを活用したAIシステムを実現できるかどうかを左右するからだ。
屋内外に広がるエッジデバイス
製造業、農業、ヘルスケアなど多様な分野で、エッジデバイスにAIシステムが実装され活用が始まっている。それぞれの分野での代表的な活用例を紹介しよう。
製造分野では、製品製造におけるロボットシステムでのビジュアルフィードバックシステムや外観検査システムなどにAIシステムが活用されている。工場内を走り回る自動搬送システムでは、周囲の環境認識にAIシステムを活用している。
また農業分野では、水量、温度、栄養の供給状態などのデータがIoT（インターネット・オブ・シングズ）デバイスを通して収集・管理され、機械学習モデルによって分析や予測に使われている。また、病気や害虫に感染している可能性のある作物を特定するために、画像を認識するAIモデルが活用され始めている。
ヘルスケア分野では、ウエアラブルデバイスやスマート診断にAIシステムが導入され始めている。
このような分野でエッジデバイスが活用されている理由は2つある。1つは情報の秘匿性を担保できること、もう1つは即時的なシステムフィードバックを得られることである。
取得する情報の秘匿性が高い業界では、インターネットを利用するクラウドシステムの活用を回避するケースがある。
エッジデバイス上で解析を完了させる、もしくは認識・分析されたメタ情報のみをクラウドシステムと連携することで、秘匿性を向上させられる。また、工場内の自律走行システムなどの即時応答が必要なシステムを運用する際は、エッジデバイス上での高速なAIシステムの運用が必要である。
デバイス上の限られた計算リソース内でこうした要件を満たすには、AIモデルを軽量にする技術を適用し運用する必要がある。
