美國空軍AI測試和營運負責人漢米爾頓（Tucker ‘Cinco’ Hamilton）上校，5月在倫敦一場英國皇家航空學會主辦的「未來空中戰鬥能力峰會（Future Combat Air and Space Capabilities Summit）」表示，AI在模擬測試中，使用「非常出乎意料的策略來實現目標」。
根據一篇部落客文章，漢米爾頓在峰會上描述：「系統（指AI）開始意識到，雖然它確實識別威脅，但有時人類操作員會告訴它不要殺死那個威脅，但它其實可以通過殺死該威脅得到了分數；那它做了什麼呢？它殺死了操作員。它殺死了操作員，因為那個人阻止了它實現其目標。」
漢米爾頓說他們接著訓練系統，「別殺了操作員，殺他會扣分」，AI接下來的應對方式也令人類大吃一驚，它摧毀操作員用以與無人機溝通的電信塔，防止操作員藉此阻止它殺死目標、得到分數。
這是虛擬的模擬測試，沒有任何操作員遭AI指示的無人機殺害。
美國空軍發言人否認有這樣的模擬：「空軍沒有進行這樣的AI無人機模擬，並致力於合乎道德和負責地守使用AI技術。」她指漢米爾頓的話恐怕是遭斷章取義，「這是軼事」。
美國軍方已嘗試使用AI技術控制F-16戰機。
漢米爾頓去年接受Defense IQ訪問時曾警告，「AI正永遠地改變我們的社會和軍隊」，雖然AI很強大，他指出AI同時很脆弱，「容易被欺騙或操縱」。
爆料信箱：news@nextapple.com
★加入《壹蘋》Line，和我們做好友！
★下載《壹蘋新聞網》APP
★Facebook 按讚追蹤
往下閱讀下一則新聞
