SKYNET 描繪的未來

科幻電影裡的人工智慧 SKYNET 最終失控，成為了人類的大敵。現實中 SKYNET 被用來建立恐佈分子清單，可能令數以萬計無辜市民被殺，電影中的預言，正在一步一步成為現實。

由Edward Snowden公開的機密文件顯示，美國國家安全局(NSA)在2012年架設了名為 SKYNET 的系統，分析從巴基斯坦收集的流動電話記錄，從而判斷使用者是否極端主義者，這些人很快就會被加入到無人機暗殺名單中。但HRDAG(Human Rights Data Analysis Group)的數據科學家Patrick Ball卻指出， SKYNET 的演算法根本不成立，最少將造成15,000名無辜市民死亡。

SKYNET 收集的流動電話記錄簡稱DNR(Dial Number Recognition)，包括通話記錄和位置數據，從中可得知哪些人經常一起行動、有沒有共同聯絡名單、何時出國等等。NSA的演算法會使用超過80種不同的屬性，為這些人的「恐怖分子程度」評分。但得分最高的竟然是Ahmad Zaidan，他是半島電視台在伊斯蘭堡的分社社長。Zaidan為了採訪，經常前往有恐怖活動的地區，更因成功訪問賓拉登而揚名。

為何一個新聞從業員會被誤認為恐佈分子？首先是所謂的「極端主義者屬性」並不可靠。關掉手機、換SIM卡和轉用新手機都是80個屬性之一，原因是這些動作可以迴避監視。極端主義者不可能和NSA討論這些特性，沒有了反饋渠道，屬性的可靠性成疑。其次是訓練演算法的方法有問題，NSA將已知的7個恐怖分子的數據，放入隨機選擇的10萬人數據子集，再將6名恐怖分子的數據輸入SKYNET，結果SKYNET成功找出第7名恐怖分子，這樣 SKYNET 就開始工作了！訓練演算法時用這7個人，測試系統時用的也是這7個人，是不是有點兒戲？

同時為避免「有殺錯、無放過」， SKYNET 閾值被設定為50%漏報率(False Negative)。2012年時巴基斯坦約人口約1億9千2百萬，擁有手機的人口約1億2千萬。NSA分析的是當中的一半，即5,500萬人的手機數據，以此計算，被誤認是恐佈分子的人，約為0.008%至0.18%，換言最少15,000、最多99,000人將被無辜地被殺害。自2004年以來，已經有4,000人命喪在美軍的無人機之下。與其研究如何利用科技殺敵，停止搶奪他人資源、學會尊重別人的宗教，才是化解恐佈主義之道。
主筆
麥經倫