Oolxiang烏龍鄉(國防科技)網

霍金、馬斯克聯署禁用！憂心人工智慧武器淪為殺人工具

科技新報 作者 尹雅楓 | 發布日期 2015 年 07 月 30 日 圖片連結

2015 國際人工智慧聯合會議（International Joint Conference on Artificial Intelligence, 簡稱為IJCAI）於阿根廷首都布宜諾斯艾利斯舉行，會上超過千位科學家與企業家簽署公開信，為督促聯合國禁止開發與使用自主武器（autonomous weapons）。

此封公開信獲得廣大聯署，其中包含物理學家史蒂芬·霍金（Stephen Hawking）、美國豪華電動車製造商特斯拉（Tesla Motors）與航太運輸服務公司 SpaceX 執行長伊隆·馬斯克（Elon Musk）等諸位巨擘結合，目的是對人工智慧所帶來的威脅發出警告；霍金曾在 2014 年 12 月接受 BBC 訪問時指出：「人工智慧發展完成將可能導致人類滅絕」。

不同於核子武器，自主武器沒有那麼昂貴、原料取得也相對容易，因此自主武器未來將隨處可見，且軍事強國也可能大量生產。加州大學柏克萊分校人工智慧教授斯圖亞特·J·羅素（Stuart Russell）也表示，價格可負擔的殺手機器人不再是遙遠的科技。圖片連結

信中也警告，自主武器能夠在無人控制的情況下瞄準並射擊目標，若不當使用恐將引發「第三次世界大戰」；即使自主武器在合法規範下製造，亦可能成為「明日的 AK-47 自動步槍」，淪為恐怖分子用來挾持或暗殺老百姓的武器。

深知人工智慧的可怕，馬斯克於 2015 年 1 月曾捐贈 1000 萬美元給未來生命研究所，針對人工智慧的負面影響進行 37 個專案研究，目的在於確保人工智慧系統價值觀與人類相同，避免發生如《魔鬼終結者》般可能導致的問題。圖片連結

事實上「半自主武器」早已存在，不過僅有部分自主功能，無法對目標物發動攻擊。而根據紐約時報報導，英國、以色列及挪威目前已部署自主飛彈與無人機（drones），可用於攻擊敵人雷達、坦克或軍艦。丹佛大學倫理學教授 Heather Roff 在哈芬登郵報（The Huffington Post）上曾發表想法，他認為半自主與自主之間的界線其實已經越來越模糊，且正在慢慢縮小。