職場でAIに評価や指示を受ける人が、理由を知り、人による見直しを求められるようにする

提言の詳細

この提言の対象は、採用の書類選考や面接の評価、仕事やシフトの割り振り、成績の評価、報酬の決定、注意や処分、契約の打ち切りといった、働く人の暮らしに直接ひびく判断にAIや自動の仕組みを使う場面です。雇われている人だけでなく、アプリを通じて仕事を受け、実質的にその仕組みに管理されている個人事業の人も含めます。使う側の事業者には三つの義務を課します。一つ目は、AIを使っていること自体と、判断に使う主な情報の種類を事前に知らせることです。二つ目は、個別の決定について、どの要素が大きく影響したのかを本人が求めたときに説明することです。三つ目は、不採用や大きな減給、契約の打ち切りなど重い決定については、決められた期間内に人間が見直す機会を設けることです。見直しを担う人は、AIの結論を変更できる権限と、十分に検討できる時間を持たなければならず、形だけの確認は認めません。見直しを求めたことを理由に不利に扱うことは禁じます。判断の記録は一定期間保存し、働く人の代表には集計した結果を、守秘義務を負う外部の監査者には仕組みの中身を開示します。プログラムそのものなどの営業秘密まで本人に公開する必要はなく、規模の小さい事業者には簡単な手続きを認めます。