求められる説明責任
５月１日の賃上げを前にして、日本ＩＢＭは今年もコンペンセーション・アドバイザー・ウィズ・ワトソンを使うことを明らかにしました。
しかし、組合が２０２０年４月３日に東京都労働委員会に申し立てたＡＩ不当労働行為事件は解決しておらず、現在も調査が続けられています。
以下に、都労委での調査の過程で明らかになったワトソンＡＩを使うことの問題点と、そもそも賃金交渉において会社が対応すべきことをご紹介します。
プライバシー侵害問題
会社の説明によれば、ワトソンＡＩは対象となる従業員について、40種類ものデータを収集し、4つの要因（スキル、基本給の競争力、パフォーマンスとキャリアの可能性）ごとに評価したうえで、具体的な給与提案をパーセントで示すとのことです。しかし、この40もの情報は具体的に何であるかが明らかにされていません。収集する情報が個人情報であることもあり得ます。なかには要配慮個人情報（個人情報保護法2条3号）すなわち、特定の思想信条など人事考課において考慮すべきでない情報が含まれることもあり得ます。
公平性・差別の問題
機械学習においては、学習の段階で用いられるデータに偏りがあったり、そのデータに社会的バイアスが含まれることもあり、その偏りやバイアスによって推論（予測）が行われる可能性があります。また、機械学習は、「一般的に、多数派がより尊重され、少数派が反映されにくい傾向」にあると指摘されています。
透明性の問題
ＡＩによる予測の場合、アルゴリズムが高度に複雑化するため、なぜＡＩがそのような予測をしたのかを誰も説明できないという事態が生じます。ＡＩによる人事考課による場合、従業員はこれまで以上に自己の雇用管理情報（個人情報）がどのように扱われたのか、それがどのように評価されているのか分からない状況に置かれることになります。
自動化バイアスの問題
人間は、コンピュータによる自動化された判断を過信するという認知的傾向があります。従って所属長はＡＩの判断を受け入れやすいという「自動化バイアス」があると指摘されています。
会社の説明責任
会社は、組合からのコンペンセーション・アドバイザーに関する具体的な要求や疑念に対し、ＡＩによる人事評価を利用しない従来の労働条件交渉時にも増して、充実した情報開示を行い、真摯に対応しなければ、労使間での実質的な労働条件交渉を行ったことになりません。
上記のようなＡＩの問題を解決し、労働条件交渉を行うにあたっては、会社にはよりきめ細やかな対応が求められています。従って、労働委員会で問題となる誠実交渉義務のハードルはさらに上がっているのです。