人を攻撃する最後の判断を機械に任せる兵器を、作らず使わないと法で定める

提言の詳細

この提言は、軍や治安機関が使う兵器のうち、人や人の乗った乗り物を目標として選び、攻撃するかどうかの判断を人間の確認なしに機械が下すものを、開発、調達、配備、使用、輸出のすべての段階で法により禁じるものです。許される兵器は、攻撃の一回ごと、または時間と場所をはっきり限った一つの任務ごとに、責任を負う人間が目標を確かめ、許可を与える仕組みを持つものに限ります。人間の確認は、機械の示した答えをそのまま押すだけの形ではなく、目標を見分ける情報を見たうえで、取りやめることのできる時間と権限を持つものでなければなりません。ただし、飛んでくるミサイルや砲弾、無人機など、人の乗っていない物だけを迎え撃つ守りの装置は、使える場所と時間を限ったうえで例外とします。攻撃を許可した指揮官とその上の命令系統は、機械の誤りによる被害も含めて法的な責任を負います。兵器を買う契約には人間の確認の仕組みを備えることを条件とし、独立した試験機関がその働きを確かめます。こうした兵器や中核となる部品を他国へ輸出することも禁じます。この法は一国だけでも定められますが、同じ約束を結ぶ国どうしで互いの点検を受け入れる取り決めを広げていくことを目指します。