全6083文字
PR

 The Interceptと米メディア「The Information」による過去の報道では、リングが時に顔認識を機能させるのに苦労し、ソフトウエアを使う代わりにリングのウクライナオフィスで働く従業員に、顧客のカメラが撮影したビデオに映った人や物に手作業で「タグ付け」させていたことが明らかになっている。人手による作業に比べれば、The Interceptが調べた文書内で説明されている自動化された監視リストの作成方法は、まだ安心できるように思えるかもしれない。しかしそれは、その方法に固有の大量の問題を許容することになってしまう可能性がある。誤判定やアルゴリズムのバイアスの問題だ。

 リングは広報活動の中で、同社の監視ネットワークとNeighborsアプリに関する心配をする必要があるのは、泥棒と罪を犯そうとする人だけだ、と主張している。リングの商品が設計され市場に投入される間のあらゆる工程において、「疑い」という考えが常に中心に置かれている。リングは「疑わしい」人々から「疑わしい」モノまでを安全に監視して、離れた場所からそれらの侵入を拒める未来を約束している。

人種差別を助長する恐れが高い

 しかし「疑わしい」とはまったくもって不明瞭な概念であり、高い確率でいくつかの危険な解釈を伴う。この単語は、公共の安全の下に偏見を正当化しようとする人種差別主義者が使う決まり文句だ。リングのカメラが取り付けられた家の前を通り過ぎる人は誰でも、テック企業が張った網に吸い込まれるという事実に変わりはない。そして偏狭な外国人嫌いのグループの中で、熱心すぎるおしゃべりのネタを提供することだろう。市民的自由の擁護者やプライバシー研究者は、アマゾンによって維持され警察が規制なく使用できる、人工知能を持つ共同のビデオ監視システムが近所の人たちによって形成されることを広く心配している。そうした人々にとって、リングが地域にもたらす潜在的な脅威は明らかだ。

 2019年秋、米メディア「Motherboard」は、リングが製品を値引きする代わりに、カメラの所有者に対して、所有者が「普通でない」と考えるすべてのモノと人を探し出し、特定し、そして警察に知らせようとしていると報じた。報道によるとリングは「ウロウロすることを含む、すべての『疑わしい動作』や『知らないバンや乗用車』『ガスや電気会社の職員のふりをする人』そして通りを歩きながら車の窓をのぞき込んでいる人を報告するように促した」のだという。

 The Interceptが調べた文書によれば、リングはプライバシーを侵害する可能性のある多くの新しい監視機能を、同社の(顔認識を利用する監視リストシステムを含む)製品群のために計画した。

疑わしい人物の接近をリアルタイム通知

 顔の監視リストに加えてリングは、ユーザーの敷地にあるカメラの撮影範囲内に「疑わしい」人物が近づくとアプリ内電話通知を通じてユーザーに警告する不審行動警告の開発にも取り組んでいる。この機能はNeighborsアプリ内に表示された画面の模型によって説明されており、この画面の中にはリングのオーナーの車庫に取り付けられたカメラの前を歩いて通り過ぎる、みすぼらしい格好の男性が映っている。アプリは「疑わしい動きが疑われた」と警告する。「この人物は疑わしい行動をしているように見える。近所の人たちに注意を呼び掛けることを提案する」という表示の後、アプリは大きな「近所の人たちに知らせる」ボタンを表示している。この文書は一体どうやって「疑わしい」ということを定義しているのかについては触れていない。

 リングの文書で言及されている、プライバシーを侵害する可能性のある機能としてはほかにも「積極的容疑者マッチング」機能がある。この機能については、アルゴリズムによってモニターした家庭の監視カメラ映像を利用して、犯罪行為が疑われる人々を自動的に特定する能力があると強くほのめかされている。ここにおける不審人物も、警察が定義するのか、リングの顧客が定義するのか、それともその両者が定義するのか不明である。リングは既に顧客の同意をある程度得て、警察のために設けた同社のポータルサイトを通じて、価値のあるそして司法手続きによらない情報を警察に提供している。情報共有のための「積極的」な取り組みとは、どう定義したところで「容疑者」の相互参照リストに基づいて、たまたまリングのビデオカメラのフレームに入ってしまった人に特殊なマークを付けることを意味する。

 顔認識監視リストの存在と、リンクが全国の警察組織と構築した親密な関係を考慮すると、アマゾンのみによって所有・運営されるシステムによって、法的な手段や正当な手続きのようなものすらなしで、人々が自由裁量によってプロファイリングされ、追跡され、そして知らないうちに報告されるシステムになるであろうことは、容易に想像がつく。これに関してタジサール弁護士は「警察が個人の消費者の技術を乗っ取って、私有のカメラによってとらえられた人々の『疑わしい』プロフィルと、警察が容疑者として特定した人たちのプロフィルを照合できる未来を、リングは思い描いているようだ。実際に同社は、一銭も使わずに警察の監視能力を飛躍的に拡大させている」と述べている。