影響の大きいAIほど、安全であることを示す責任を社会ではなく作り手が負うようにする

提言の詳細

この提言は、AIの安全を証明する重荷をだれが負うかを定める原則です。対象は、多くの人に使われるAIや、医療、雇用、教育、お金の貸し借り、電気や水道のような基盤など、まちがいが命や暮らしに直結する場面で使われるAIです。影響の小さい道具や研究段階の試作品は、届け出だけの軽い扱いにとどめます。対象となるAIを作る人や提供する人は、公開の前に、想定する使い方、試験の方法と結果、分かっている弱点、学習に使ったデータの出どころの概要を文書にまとめます。審査は、作り手からお金を受け取っていない独立した評価者が行い、商売上の秘密は守りつつ要点を公表します。基準に届かない場合は、使える範囲を絞るか、追加の試験を求めます。公開後に深刻な被害が起きたときは、被害を受けた人が欠陥を証明するのではなく、作り手が十分な注意を尽くしたことを示せなければ責任を負うという考え方をとります。ただし、使う側が明らかに想定外の使い方をした場合は、責任を分け合います。段階の線引きは社会ごとに違ってもかまいませんが、評価の方法は国際的にそろえ、互いの審査結果を認め合えるようにします。