全4499文字
PR

人間の営みも「計算」のうち

 自然現象を計算の過程と捉えられるとすれば、人間の社会的営みも一種の「計算」とみることができるのでは――丸山氏は同会議でこのように問題提起した。

 例えば民主主義における選挙は、個々人の支持政党などをパラメーターとした一種の「計算」であり、その結果は判別分析などの統計解析手法で推定できる。資本主義における企業間の競争は一種のゲーム理論の枠内で捉えられる。この他フェイクニュースの拡散も、タイトルの過激さなどをパラメーターにして「発火」し、インフルエンサーをハブにして信号がネットワークを伝搬する点で、脳神経細胞に近い計算モデルで記述できそうだ。

 逆に「計算」を通じ人間の動きを制御することも可能になりつつある。例えば交通の流れを最適化し、渋滞が起きないよう車の流れを制御する、などの研究が進んでいる。

 では、こうした「計算」は社会にどんなインパクトをもたらすのか。同会議では参加者が多様な論点で話し合った。

「計算とは何か」「計算と社会」についてグループに分かれて議論した
「計算とは何か」「計算と社会」についてグループに分かれて議論した
[画像のクリックで拡大表示]
議論したいテーマを提案し、良いテーマを投票する
議論したいテーマを提案し、良いテーマを投票する
[画像のクリックで拡大表示]

 会議でやりとりされた全ての議論をここで紹介することはできないが、記者として興味深かった論点が2つある。

 1つは「全体(社会)のための計算」と「個人のための計算」をどう選ぶか、という切り口だ。

 例えば「渋滞を起こさないよう車の流れを制御する」計算は、カーナビゲーションによる最短経路の計算のような「個人のための計算」とは目的も結果も異なる。前者の計算の目的は、渋滞を起こさないことで交通インフラ全体の流量を最大化すること。一方で一部の車には遠回りを指示し、個人に損失をもたらすこともある。

 最適化計算の目的関数を「個人」におくか、「全体」におくか。こうした選択肢は、災害などインフラが逼迫する中では深刻な倫理上の問題になり得る。

 例えば思考実験として、津波が発生した際に避難する経路を探索するナビゲーションアプリを開発するとしよう。その場合、経路計算の方針として「ユーザー全体の生存者数を最大化する」か、「ユーザー個人の生存確率を最大化する」かで、アプリの指示内容は大きく変わるはずだ。

 先に挙げたリクルートキャリアによる内定辞退率の計算も、設計次第では企業と学生の最適なマッチングを後押しする「全体のための計算」になり得る側面がある。もちろん一方で、一部の個人は理不尽な形で就職希望先に切り捨てられることになる。

 個人の詳細な行動データに基づきお薦め商品を表示するレコメンデーション機能も、誰のための計算か、明らかになっているとは言いがたい。ユーザー個人のための計算かと思いきや、実は「利幅の高い商品をユーザーに勧める」など、企業の利益を最大化する仕掛けが紛れ込んでいるかもしれない。

議論の経過をホワイトボードに書き込んでいく
議論の経過をホワイトボードに書き込んでいく
[画像のクリックで拡大表示]

安全・安心を計算する

 もう1つ「計算と社会」に関連して興味深かったのが、「安全・安心の計算」というテーマだ。

 この人は本当に金を返してくれるのか? 航海で事故に遭う確率はどれくらいか?こうしたリスク計算は人類の歴史の中で常にニーズが高く、それに応えるビジネスは金融業の礎となった。

 それが21世紀に入り、融資・保険以外の分野にも「安全・安心の計算」が広く幅を利かせるようになった。その代表例が、先に触れた信用スコアリングサービスだろう。

 そもそも個人が互いをよく知る社会であれば、信用スコアリングは必要ない。互いの信頼が乏しいからこそ、リスク計算のニーズが高まる。

 互いの信用スコアが公開されれば、個人も「スコアを高める行動」を取るようになる。このことは治安の向上などプラスの面もあれば、自由に行動できない窮屈さを感じるなどのマイナス面もある。

 同会議に参加した公立はこだて未来大学の中小路久美代システム情報科学部教授は、参加者向け講義で「デザインは自己進化する」と説明した。ある目的のため人工物をデザインすると、時間がたつにつれて人間の行動を変容させ、当初の設計とは異なる結果を生むことがある。

 「計算」もそうした人工物の一種であり、計算のデザイン次第で社会を変容させるポテンシャルを持つ。「デザインとは、人工物によって人や環境が変容することも含めた『未来』を設計することだ」と中小路教授は語った。

 行動データが計算に使われると理解すれば、人間は行動を変容させる。それは犯罪の抑止に資する一方で、自由な行動を妨げ、プライバシーを犠牲にしてしまう。