全3135文字
PR

 人工知能(AI)の利用で「炎上」しないためには、設計や開発だけでなく、運用のプロセスが重要になる。設計や開発でAIガバナンスを利かせている企業でも、運用の方法や情報開示のあり方仕方次第ではトラブルになりかねない。AIシステムの運用に当たり、AIについての情報を開示し、説明する「透明性」はどこまで求められるのか。日本IBMが採用した賃金決定支援システムを例に考えてみたい。

労働組合がAIの情報開示を求め申し立て

 2021年秋以降、東京都労働委員会で日本IBMとその労働組合の証人尋問が始まる。

 事の起こりは2019年。日本IBMが賃金決定を支援するAIシステムを導入したことに対して、労働組合が「AIの運用に透明性がない」と反発したのだ。労働組合は2020年4月、AIに関する情報の開示を求め東京都労働委員会に救済を申し立てた。これまでに組合側の申立書と会社側の答弁書のやり取りを進め、主張と反論を整理してきたという。

 申し立てをしたのは、日本IBMとその子会社の社員ら約100人から成る日本金属製造情報通信労働組合(JMITU)日本IBM支部である。

 日本IBMでは、社員の賃金を決める「給与調整」を年1回行っている。同社は2019年8月、同年9月の給与調整から、IBMのAIである「Watson(ワトソン)」を使い、賃金決定を支援するシステム「Compensation Advisor with Watson」を導入すると社員に説明した。

 日本IBMは同システムについて「AIが賃金を提案するわけではなく、またAIによる情報でそのまま賃金を決定するわけではない。給与調整は様々な情報から所属長が判断している」(日本IBM広報担当者)と説明する。

 対象の社員について「市場で求められているスキル」「給与の相対的位置」「業界での給与水準」「同じ職位での年数」など、複数のシステムに分散している情報をAIがまとめ、所属長に提示する。それらの情報をもとに最終的に所属長が判断し給与調整をするとしている。同様の説明を従業員にも実施しているとする。

 賃金決定支援システムの導入が決まったのを受け、JMITU日本IBM支部は同社との団体交渉を通じて「利用するAIの学習データの内容」「社員の賃金決定の判断をする所属長に対してAIが提示する内容」を明らかにすることなどを求めた。だが、労組が求めている具体的な情報開示はなされなかったという。

 このためJMITU日本IBM支部は2020年4月3日、「AIを利用した人事評価・賃金決定について、同社が団体交渉に誠実に応じない」として東京都労働委員会に対し救済申し立てをした。

 「日本IBMは今もこの賃金決定支援システムの運用を継続しているが、システム導入による具体的な賃金決定への影響はまだ見えていない」とJMITU日本IBM支部の杉野憲作書記長は語る。日本IBMが給与調整の際にAIシステムを使うのは、これまでに2019年9月と2021年5月の2回だ。JMITU日本IBM支部が組合員にアンケートをとったところ、「アンケート結果からはこれまでと何が変わったのかわからなかった」(杉野書記長)という。

会社に対する不信感も背景に

 日本IBMはAIシステム導入に先立ち2019年8月、導入するAIについて解説動画をイントラネットで社員向けに公開し説明をしている。だが、杉野書記長は「説明を受けた内容と、現実の運用が食い違っていた」と話す。「公開された動画には、所属長がWatsonの画面を評価対象の社員と一緒に見ながら会話をする場面があり、『Watsonはあなたの評価を公平に判断して上司にアドバイスします』と言う。だが実際には、評価対象の社員は自身の画面を見ることはできない。所属長が結果をどう使っているのかわからないままだ」(杉野書記長)。

 労働組合による要求の背景には、会社や評価者への不信感も背景にあったようだ。JMITU日本IBM支部の杉野書記長は「もともと会社の賃金決定プロセス自体が不透明」としたうえで、「AIという新技術を使うことで、賃金決定の不透明性という問題をあやふやにして、ごまかそうとしているように見えた」と話す。一方で、会社や上司への不信感が高じて「上司は信用できないから、AIが判断するほうが良い」とAIシステム導入を歓迎する社員もいたという。

 JMITU日本IBM支部は、もともと賃金決定への不信感が積み重なっていたところ、「AIを使うことで賃金決定がより不透明になるという危機感があり、申し立てに至った」(杉野書記長)とする。「データがなければ団体交渉のしようがない。集団的労使交渉を成り立たせるために、AIのデータを開示してほしいというのが根本的な要求だ」(杉野書記長)。