SKYNET 描繪的未來

科幻電影裡的人工智慧 SKYNET 最終失控,成為了人類的大敵。現實中 SKYNET 被用來建立恐佈分子清單,可能令數以萬計無辜市民被殺,電影中的預言,正在一步一步成為現實。

由Edward Snowden公開的機密文件顯示,美國國家安全局(NSA)在2012年架設了名為 SKYNET 的系統,分析從巴基斯坦收集的流動電話記錄,從而判斷使用者是否極端主義者,這些人很快就會被加入到無人機暗殺名單中。但HRDAG(Human Rights Data Analysis Group)的數據科學家Patrick Ball卻指出, SKYNET 的演算法根本不成立,最少將造成15,000名無辜市民死亡。

SKYNET 收集的流動電話記錄簡稱DNR(Dial Number Recognition),包括通話記錄和位置數據,從中可得知哪些人經常一起行動、有沒有共同聯絡名單、何時出國等等。NSA的演算法會使用超過80種不同的屬性,為這些人的「恐怖分子程度」評分。但得分最高的竟然是Ahmad Zaidan,他是半島電視台在伊斯蘭堡的分社社長。Zaidan為了採訪,經常前往有恐怖活動的地區,更因成功訪問賓拉登而揚名。

為何一個新聞從業員會被誤認為恐佈分子?首先是所謂的「極端主義者屬性」並不可靠。關掉手機、換SIM卡和轉用新手機都是80個屬性之一,原因是這些動作可以迴避監視。極端主義者不可能和NSA討論這些特性,沒有了反饋渠道,屬性的可靠性成疑。其次是訓練演算法的方法有問題,NSA將已知的7個恐怖分子的數據,放入隨機選擇的10萬人數據子集,再將6名恐怖分子的數據輸入SKYNET,結果SKYNET成功找出第7名恐怖分子,這樣 SKYNET 就開始工作了!訓練演算法時用這7個人,測試系統時用的也是這7個人,是不是有點兒戲?

同時為避免「有殺錯、無放過」, SKYNET 閾值被設定為50%漏報率(False Negative)。2012年時巴基斯坦約人口約1億9千2百萬,擁有手機的人口約1億2千萬。NSA分析的是當中的一半,即5,500萬人的手機數據,以此計算,被誤認是恐佈分子的人,約為0.008%至0.18%,換言最少15,000、最多99,000人將被無辜地被殺害。自2004年以來,已經有4,000人命喪在美軍的無人機之下。與其研究如何利用科技殺敵,停止搶奪他人資源、學會尊重別人的宗教,才是化解恐佈主義之道。
主筆
麥經倫

你可能有興趣的內容

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *