2021年4月21日、欧州委員会がAI（人工知能）の規制案を提示した。主要国において、拘束力を持つ初のAI規制事例となり得るだけに、大きな注目を集めている。
欧州における権利に対する考え方を、そのままデータ経済圏にも反映したもの――。規制案はこう表現できるかもしれない。欧州の基本権憲章が定める人間の尊厳や個人・家庭生活の尊重、無差別といった権利に対して、AIの特性とも言える不透明性や複雑さ、自律性などが悪影響を持ち得ると指摘。産業界で競争力に制約が生じようとも、規制が必要だとする強い姿勢が伝わってくるようだ。
具体的な対応としてはAIを活用するシステムを、リスクに応じて区分することを検討している。例えば禁止区分の対象には、サブリミナルな技術によって無意識に影響を与えることや社会的弱者に対する搾取や危害といった項目のほか、政府が一般的な用途で国民をスコアリングすることなどが並ぶ。
禁止ではないが、人権を脅かす可能性のあるシステムに対しては高リスクという分類を設け、規制上の事前審査を実施することにもなっている。運輸インフラや採用活動といった項目に加えて、信用スコアを提供するAIシステムも挙げられている。信用スコアは住居だけでなく、電力や通信サービスへのアクセスを左右し得る技術。人種や民族性、性別、年齢などによる差別を生み出す可能性がリスクと捉えているわけだ。
欧州においては、既存のプロファイリング規制とも相まって、AIによって自然人が勝手にスコアリングされることへの警戒心が強い。AI規制案にも、その意思が盛り込まれていると言えるだろう。
米国における議論
欧州でのこうした議論は、ともすると個人を巡るデータ活用にまい進するシリコンバレーのテックプレーヤーを擁する米国への対抗策として語られる向きがある。だが、信用スコアにおいていかに人権を確保するかといった議論に限っていえば、米国が数十年も先行してきたのが実態だ。
米国の信用スコアを代表する存在として「FICOスコア」が挙げられる。米フェア・アイザックが1956年から提供してきた指標である。同スコアで850点満点中670点未満の優良とは言えない借り手に対する不適切な貸し付けが横行していたことが、「サブプライム危機」として金融危機の名称になるほど知名度を得ている。
米国における信用スコアの仕組みは、同国に駐在の形で住んだことがある日本人にとって違和感を覚えるものだ。多分に印象論ではあるものの、おそらくは米国人よりもある種の勤勉さを自覚していて、信用ある会社で長く雇用されており、さらには海外駐在という会社によってはエリートコースを歩む人たちが、米国のクレジットカードを作れない状況がしばしば発生するためである。
実はこの違和感こそ、米国の信用スコアにおける平等の精神を体現するものなのだ。FICOスコアを例に取れば、信用スコアは過去の返済履歴（35％）、既存の債務残高（30％）、債務を負ってきた期間（15％）、負ってきた債務の種類（10％）、新規の与信額（10％）のみで決まる。
