「人工智慧的惡意使用：預測、預防和減輕」 (The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)

蔡紀眉，無人機變殺人武器，專家示警：AI濫用5年內看得到，數位時代，2018.02.21

這個月20日，春節假期的最後一天，一份名為「人工智慧的惡意使用：預測、預防和減輕」（The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation）報告，在國外媒體傳布開來。... 

報告中指出，包括無人機、虛假影音和，將是有心人士惡意使駭客攻擊用人工智慧最普遍的三大途徑。 

舉例來說，孤狼式攻擊者只要一台無人機，運用臉部辨識軟體強加訓練後，就可以鎖定特定人物攻擊，把無人機變成殺人工具。而透過機器學習，自動放送的虛假或不雅影音內容，人們很難分辨其真實性，可能被用於政治抹黑，操控公眾輿論。...

對此，該報告提出四點建議。首先，政策制定者和AI專家應共同合作，徹底掌握可能的惡意利用。第二，雖然AI帶來很多正面的應用，但它就像一把雙面刃，人工智慧研究員和軟體工程師應預先推敲其被誤用的可能性，在開發階段就設下保護機制。 

第三，從歷史經驗中汲取教訓，像是資安、電腦科學等，歸納出新技術帶來的負面影響。第四，積極擴大並拉攏相關產業利益者，以預防和減輕惡意使用AI的風險。