役所が人に関わる判断にAIを使うときは公開の台帳に載せ、人による見直しを受けられるようにする

提言の詳細

この提言の対象は、国や地方の役所、公立の学校や病院など公的な機関が、給付の審査、税や補助金の不正の疑いの選び出し、福祉の優先順位づけ、入国や在留の審査など、個人の権利や暮らしに直接影響する判断にAIを使う場面です。文章の下書きや翻訳など、判断に関わらない補助的な使い方は対象外とします。機関は、使っているAIごとに、目的、扱うデータの種類、AIの結果が最終判断にどれほど影響するか、開発や運用を担う事業者、点検の担当部署を公開の台帳に記載します。民間の事業者に委託している場合も、発注した機関が記載の責任を負います。判断を受けた本人には、AIが関わったことと、判断の主な理由、見直しの申し立て方法を通知します。申し立てを受けた場合は、元のAIの結果を前提にせず、権限を持つ職員が書類を改めて確かめて判断し直します。職員には、AIの結果と異なる判断をしても不利益を受けない立場を保障します。犯罪捜査や安全保障など、公開すると目的が損なわれる用途は、詳しい内容の公開を控えられますが、独立した監督機関には全容を報告し、その件数だけは公表します。台帳の内容は少なくとも年に一度更新し、見直しで判断が覆った割合もあわせて載せます。