AIの事故や事故になりかけた出来事を報告し合い、その教訓を世界で共有する仕組みをつくる

提言の詳細

この提言の対象は、一般の人が使うAIや、医療、お金の貸し借り、採用、行政の手続きなど人の暮らしに関わる判断に使われるAIです。報告の対象となる出来事は二つに分けます。一つは実際に害が出た事故で、けがや財産の損失、不当な判断による不利益、危険な情報の提供、人の指示や停止の操作をすり抜けるような想定外のふるまいなどを含みます。もう一つは、害は出なかったものの、条件が少し違えば事故になっていた「ヒヤリ・ハット」です。重大な事故については、AIを開発した組織に一定期間内の報告を義務づけ、病院や役所などAIを導入して使う組織や個人の利用者は任意で報告できるようにします。報告の内容は、それ自体を処罰の証拠として使わないことを原則とします。ただし、意図的な隠ぺいや重大な怠慢がある場合と、重大な事故を報告しなかった場合は、この保護の対象外とします。報告を受けて分析するのは、複数の国が共同で設け、技術者、法律家、被害を受けやすい立場の人の代表などで構成する独立した機関です。この機関は事故の種類や深刻さを共通の分類で整理し、関係者の名前と企業秘密を伏せたうえで、原因と教訓を誰でも読める形で公開します。一方で、悪用のおそれがある具体的な手口などの情報は一般には公開せず、安全対策を担う開発者や専門家にだけ限定して伝えます。