空中ディスプレーは社会実装が始まったとはいえ、今後の普及に向けて、パッシブ(受動)型光学素子の大型化や低コスト化以外に解決すべき技術課題も多い。また、非接触インターフェースとして使う際には、物理的なフィードバックがないためユーザーが操作に戸惑うことがあるという指摘も出ている。課題解決に向けた種々の取り組みを紹介する。
三菱電機の先端技術総合研究所は、2015年に空中ディスプレー技術の研究開発を開始した。以来、再帰性反射プレートを使ったシステムの開発を進めてきた。「当社は空中ディスプレーを表示装置の一種とみており、再帰性反射なら大型化に対応できるためだ」(先端技術総合研究所 情報制御プラットフォーム技術部 組込システム技術グループ研究員の菊田勇人氏)という。
16年には開発成果として、対角56インチ(幅886mm×高さ1120mm)の「人が通り抜けられる」大型空中映像のデモを披露。19年の展示会「CEATEC 2019」には、構成部材を天井に配置して人が通行する視線上に空中映像が見える天つり型の空中サイネージを展示した。非接触入力インターフェースのみならず、社会インフラでの活用を視野に入れた研究も進めている注1)。
こうしたなかで直面している技術課題の1つが、空中映像のぼやけである。再帰性反射プレートやビームスプリッターといったシステム構成要素の配置やサイズに応じて結像光路にずれが生じ、空中映像がぼやけて明るさや鮮鋭さが低下するという。
そこで同社はぼやけの解析と映像の信号処理によって、空中映像の画質を改善する技術を開発した(図1)。実際に空中映像を撮影してぼやけを解析。その結果、ぼやけは映像源からの光が再帰性反射プレートで反射する際の入射角度に依存することを究明し、ぼやけを関数化した。空中映像の表示時には、ぼやけ関数の逆フィルターを生成し、映像源に対して信号処理を施してぼやけを補正することに成功した。「現在は基礎研究の段階だが、あらかじめ適切なフィルターで補正をしておけば、ぼやけるのを防げることが分かった」(菊田氏)としている。
大阪公立大学大学院工学研究科電気電子系専攻准教授の宮崎大介氏の研究室は、空中結像用の光学素子の1つである「パリティミラー」を用いた空中ディスプレーでの映像のぼやけを、AI(人工知能)を使うことで補正する技術を開発した。この素子には「2面コーナーリフレクタアレイ(DCRA)」という四角柱のピラーが多数形成してあるが、映像光がこれを通過する際に回折による広がりが発生し、空中映像がぼやける課題が指摘されている。そこで、元の画像に後段での回折による広がりを加味した補正処理を施して、ぼやけを改善する技術を開発した。
従来、劣化画像から原画像を復元することで補正画像を作成する「デコンボリューション」という手法はあったが、大阪公立大学はこの代わりにディープラーニングの一種であるCNN(畳み込みニューラルネットワーク)を用いることで、より精度の高い補正画像を生成することを試みた。
図2はその結果である。「原画像」は何も補正を加えていない元画像で、従来手法はデコンボリューション、本研究の手法はCNNによる補正画像を指す。下段の空中像を見るとCNNによる補正を施した画像が、原画像はもちろん、従来手法より品質が優れていることが分かる。輝度、コントラストなどを元に2つの画像の類似性を評価する数値的指標の「SSIM(構造的類似性)」(最大値は1.00で値が大きいほど再現性が高い)では、補正を何もしない劣化画像が0.30、従来手法が0.38だったのに対し、今回は0.46だった。