人工智能程序還缺乏“常識判斷”，而人類卻可以理解在和平時期“保護某區域不受敵軍侵害”這樣的指令，意味著保持警戒但不引發衝突。
可能導致意外升級或衝突的AWS失誤或過錯，存在多種原因，其中之一是AWS武器系統的新奇性。政治、軍事和外交領導人缺乏與人工智能和AWS武器打交道的技能或經驗。另外還存在人工智能和AWS可能缺乏人類共同遵守的規則和指引的問題。這種人類與人工智能交往中的理解或經驗的缺失——尤其是在緊張時期、衝突或衝突降級期間——可能導致人類或AWS採取升級或製造衝突的行為。
另一個可能的原因是AWS作出決定或採取行動的快速性。由於領導人作出決定的時間有限，他們收集信息、研究選項和作出周密決策的能力也將受到限制。
AWS失誤、紕漏或過錯可能導致意外升級或衝突的主要原因，是歸因和模糊性問題。歸因是指分辨什麼人採取了某項故意行為及其原因。歸因對於領導人的決策過程極其重要，尤其是在衝突或緊張時期，它可以讓領導人瞭解某種行為並指導應對。AWS缺乏歸因能力將造成爭議情形下的模糊性，這種模糊性將大大增加發生誤會、誤解和誤判的機會。
要想限制AWS武器系統出現導致意外升級或衝突的失誤的機會，筆者建議，作為一種建立互信的措施，美國應制定和推廣公布AWS過失的實例，以及它們發生位置的規範。
|
