全4059文字
PR

不当な差別を受け、費用負担が増え、スコアがさらに下がる悪循環――。信用スコアとAIによる格付けの世界は、悲観的な未来と紙一重でもある。デジタル時代の「ディストピア」を避ける方策を探ると、5つの条件が見えてきた。

 「IT企業が人に点数を付けるのはおこがましい」「自分ではどうにもできないやり方で点数を付けられるなんて」「いずれスコアで他人を区別するディストピアがやってくる」。ヤフーやLINEが信用スコアの構想を発表すると、ネット上には不安や懸念の声があふれた。

 批判的な声のあまりの多さに、両社は対応に追われた。ヤフーは顧客の同意なく情報やスコアを他社に提供することはないと説明するWebページを開設。スコアの作成とヤフーのサービスでの利用を許可する設定を初期状態でオフとするよう、仕様を変えた。「お客様の不利益につながることには利用しません」。当然のことを明記した同社のWebページからは、批判の大きさがうかがい知れる。

 LINEも信用スコアを外部企業に提供する計画を「後ろ倒しにして様々な見直しを進めている」(LINE Creditの川崎龍吾事業企画室マネージャー)。同社は2019年6月のスコア算出開始と周知をフェーズ1、外部企業へのスコア提供をフェーズ2と位置付けるが、現状は「フェーズ1.5」(同)だという。フェーズ2の開始時期は未定だ。

スコアが下がる負の連鎖

 信用スコアについて利用者と事業者の双方が懸念するのは「事業者の意図しない使い方が広がる状態」(LINE Financialの関水和則セキュリティチームマネージャー)である。飲食店や宿泊施設が、スコアの低い人から法外な割増料金を徴収したり入店を断ったりするケースが典型例だ。スコアが低いという理由だけで結婚や就職を断られる事態が広がれば、断られた当人は困ってしまう。

 差別されるのが嫌なら信用スコアを使わなければいい。こう思うかもしれない。でも利点が広く受け入れられて社会に浸透すれば、使っていないだけで社会からはじき出される事態が起こり得る。スコアが低いために様々なサービスを受けられずにますますスコアが下がる。こんな負のスパイラルさえ現実味を帯びる。

 「自分の意思で悪さをする人は相応の報いを受けて当然」(慶応義塾大学の大屋雄裕教授)との意見もある。「マナーが悪い一部の客のコストが大部分の優良な客につけ回されている現状を是正したい」(テーブルチェックの谷口優社長)との意見には一定の説得力がある。

 問題はいわれのない差別や不条理な扱いをどう防ぐかだ。特に全人格的な評価が求められる就職活動において、信用スコアの活用は個人に不条理な損失をもたらすリスクをはらむ。

図 信用スコアリングに関する懸念や不安
図 信用スコアリングに関する懸念や不安
[画像のクリックで拡大表示]

 リクルートキャリアが算出し、求人企業に提供していた「リクナビ」登録学生の内定辞退スコアは典型例だ。リクナビのWebサイトなどでの行動履歴から算出したスコアを、求人企業に無断で提供していた行為が厳しく批判された。