韓国の名門国立大学KAIST（韓国科学技術院）は2018年6月21日、豪ニューサウスウェールズ大学のトビー・ウォルシュ（Toby Walsh）教授を韓国に招いて公開イベントを開催した。
イベントを企画したきっかけとなったのが、ウォルシュ教授ほか30か国の著名なAI研究者が2018年4月、「KAISTのボイコット」と題してKAISTの学長シン・サンチュル（Sung-Chul Shin）教授にあてて書簡を公開したことだ。
話の発端は2018年2月。KAISTは韓国の軍事企業である韓火システムズ（Hanwha Systems）と共同で2018年2月に研究拠点「国防・AI融合研究センター（Research Center for the Convergence of National Defense and Artificial Intelligence）」を新設した。このセンターの設立目的を韓国メディアが「自律型の兵器を開発する国際競争に加わるために、軍事兵器として適用されるAI技術を開発する」と報じたことを知ったウォルシュ教授は他のAI研究者に声をかけ、書簡で「この目的が事実であるならばKAISTとの関わりを一切断つ」と宣言したのだ。
どのような背景があってこの書簡が提出、公開されたのか、この「KAISTスキャンダル」から得られる教訓とは何か。6月に開催された本イベントに参加した筆者の視点から解説していく。
KAISTが名指しで批判された理由
「なぜ今回、AI兵器の問題でKAISTが名指しされたのか」。
これが多くの人たちが最初に抱く疑問だろう。兵器システムを開発している他国と比較し、韓国はハイテク兵器システムの開発で先行しているわけではない。この分野は米国やイスラエルの方が先を行くのが実情だ。
この疑問に対しウォルシュ教授は「確かに米国は様々な兵器システムを開発しており、自律的な防衛システムもすでに存在している」とする一方、著名な研究機関が「自律的な兵器システム（Autonomous weapons systems）を開発する」ことを示唆する発表をしたのはほぼ初めてだと指摘した。
例えば米国防総省（DoD）は様々な兵器の研究開発を行っているが、DoDは攻撃に際して常に「Human in the loop」つまり人間が判断の決定を握るとの原則は崩していないという。
人工知能研究者でもあるウォルシュ教授は近年、自律型兵器システムの禁止活動に取り組んでいる。2015年に開催された人工知能国際合同会議（IJCAI）において非営利団体のThe Future of Life Instituteが「自律型兵器：AIとロボット研究者からの公開書簡」を公表したが、この書簡の問い合わせ先となっているのもウォルシュ教授である。
ウォルシュ教授は国連で2017年に始まった、自律型致死兵器システム（LAWS：Lethal Autonomous Weapons Systems）に関する特定通常兵器使用禁止制限条約（CCW：Convention on Certain Conventional Weapons）の議論にも関わっている。国連は現在、自律型兵器の軍拡競争をしない、自律的な兵器を開発しないという目的を掲げ、参加国全ての合意（コンセンサス）に基づく国際的な条約を作ろうとしている。
自律型兵器システムとは何か
この自律型兵器システムに関する議論は、AIに関する大きな話題の1つだ。日本の人工知能学会でも2018年6月に開催された全国大会の倫理委員会企画セッション「AIに関わる安全保障技術を巡る世界の潮流」でこの話題を取り上げた。
多くの研究者や政策関係者、NGOなどが懸念しているのが、単なる兵器システムではなく「自律的」あるいは「致死的で自律的」なシステムである。「有意の人間の判断（meaningful human control）」がシステムに期待できない場合、攻撃を実行する責任の主体が不明瞭になるだけではなく、戦争が起こりやすくなってしまう可能性、兵器がテロリストの手にわたる危険性、兵器のコントロールが効かなくなり軍拡競争へとつながる可能性などが懸念されている。
自動運転車で歩行者を検知するために必要な技術と、自律的に人を特定して攻撃するために必要な技術に変わりはない、とウォルシュ教授は言う。ただし、このようなデュアルユース性を持つ技術に関して、技術を発展させるな、と主張する気はないという。例えばCCWは過去に「失明をもたらすレーザー兵器」の開発を制限する議定書（議定書IV）を発効したが、だからといってレーザー関連の研究に大きな支障をきたしたわけではない。
特定の技術を戦争行為で使われないようにする。そのためには、科学者だけではなく人文・社会科学者や政治家や政策関係者、一般市民など様々な人たちを巻き込んで、技術を賢く使い分ける仕組みを作っていくことが大事だとウォルシュ氏は主張する。
