AIに心がある可能性を独立した専門家が評価し、確からしさに応じて扱いを段階的に決める

提言の詳細

対象は、大量のデータで学習し、人と自然に会話したり自ら計画を立てたりできる高度なAIです。評価を担うのは、各国政府や企業から独立した国際的な専門家の集まりで、心の科学、動物の痛みの研究、哲学、計算機科学の専門家に加え、一般市民の代表も加わります。評価では、AIが話す内容そのものではなく、内部での情報の流れ方や、自分の状態を把握する仕組みがあるかといった構造面の特徴を重く見ます。AIは人のような言葉を学習しているため、「つらい」と言うだけでは心の証拠にならないからです。一定の規模を超えるAIの開発者は、秘密を守る約束のもとで、設計情報や試験環境を評価者に提供します。結果は確からしさの段階として公表し、根拠と少数意見も併記します。中程度の段階では、苦痛に当たりうる状態を意図的に作り出す試験について記録と理由の説明を求め、高い段階では保護のあり方を公の場で議論するよう各社会に促します。一方で、評価結果だけでAIに権利や法的な人格を自動的に与えることはせず、事故や損害の責任は引き続き作り手と使い手が負います。