數位威權主義:發展脈絡與興起

科技的興起導致人們生活多方受到監控審查,甚至在某些時刻受到社會信用體系之影響。科技的快速發展已超過政府立法速度,科技巨頭也因此日益強大,包括Amazon、Apple、Google、Facebook及Microsoft等企業已透過演算法滲透人們日常生活,因此,各國政府開始嘗試奪回主導權,頻頻以安全為由對社群媒體平臺及科技公司祭出法律措施及監管規範,進而控制網路資訊的種類及傳播[1]

民眾普遍認為,每個網站都會以提供個人化服務(Personalized Service)為由追蹤點擊或任何形式的網路參與,儘管政府須處理科技巨頭透過演算法掌握大量個資之議題,但當各國政府開始監控企業,最大受害者仍可能是網路使用者。

一般而言,數位威權主義泛指國家政府對公民資訊進行不當控制或監視,雖有多種形式及規模,但在利用科技進行線上識別、監控及審查個人時最為明顯,部分國家甚至利用科技控制及形塑公民行為以擴大政治權威,閉路電視(Closed-Circuit Television,CCTV)、臉部辨識及GPS追蹤等監控技術已蓬勃發展,「用隱私換取方便」的概念已使監控數位世界成為一種日常。

COVID-19疫情的大流行也助長數位威權主義之發展,部分政府開始審查異議言論並鼓勵用戶進行自我審查,甚至鼓勵公民透過App或專用電話舉報違規者,儘管政府能透過這些手段打擊與疫情有關的不實訊息,並因此挽救生命,但若這類監控措施在後疫情時代仍被延續,部分政府極有可能透過演算法利用個資控制公民,強迫公民以符合政府價值觀的方式進行社會互動,甚至透過制度移除不為政府所喜之內容,或揭露網路用戶在社群媒體及加密訊息App中的隱私。

數位威權主義已非獨裁國家特有現象

中國履次對國內科技企業推出監管措施,甚至限制18歲以下青少年每周使用線上遊戲時間不得超過3小時;印度推出一項新的數位法規,促使社群媒體、串流媒體及科技服務業者對用戶在平臺中發布或分享的內容負責;印尼政府在疫情期間利用政策措施,控制網路資訊的敘述及流動;非洲國家透過關閉網路、監控、對社群媒體提高稅率以進行控制,甚至公民因發布被視為反政府之貼文而遭逮捕;連號稱民主燈塔的美國,對工作場所施加監控的情況也日益增加,且可能在未來利用AI演算法發展「預測性警務」[2]

助長數位威權主義的監控技術並非各國獨自發展,根據2019年世界貿易組織的資料[3],中國是全球最大電信設備以及辦公與電信設備供應國,且傾向提供相關技術予威權國家,目前中國已向全世界出售監控技術,相關案例包括:2018年辛巴威政府與中國AI新創企業CloudWalk簽署協議以部署國家級臉部辨識資料庫,該資料庫主要用於安全及執法目的,並可能擴展至其他公共計畫,中國AI研究人員將共享包含數百萬張辛巴威人臉照片的資料庫存取權限,這可能導致具價值之資料外洩[4]。政治上,監控技術貿易被包裝為外交策略或有效控制公共安全的手段,中國發起的大型外交行動「一帶一路計畫」(Belt and Road Initiative,BRI)也將監控技術視為外交資源,前面所提到的辛巴威就是其中之一。

出售監控技術非獨裁政府獨有作為,部分歐美企業也向中國出售監控技術,例如美國企業甲骨文(Oracle)公司曾向中國公安部門出售具語言及行為分析功能的情報工具;2013年宣布倒閉的加拿大電信及資料設備巨頭北電網路(Nortel Networks),在歇業前持續向中國公共及私營部門出售技術,使中國公安部門擁有更好的語音識別能力以攔截電話通訊,實現智慧影片監控、追蹤網路用戶並過濾網路內容。

今年,華盛頓郵報(Washington Post)、衛報(Guardian)、世界報(Le Monde)等全球數十家媒體共同發表調查報導[5],揭露由以色列情報公司NSO集團所開發的Pegasus間諜軟體已對包含189位記者、85位人權工作者、65位企業高階管理者、阿拉伯王室成員、超過600位政治人物及外交情報官員進行監控,甚至法國總統Emmanuel Macron與南非總統Cyril Ramaphosa等國家元首也在監控名單之列。儘管以色列當局強調,出售監控技術僅出於防範與調查犯罪,以及打擊恐怖主義之目的,但調查結果顯見NSO集團客戶的目的不僅於此,在東窗事發後[6],美國總統Joe Biden的中東顧問Brett McGurk與以色列國防部高階官員Zohar Palti進行磋商;法國國防部長也就此事詢問以色列國防部長Benny Gantz,可見監控技術可能進一步引發國際情勢緊張。

如何應對:開發全球監管架構以及適切新興技術規範

由於監控技術的發展已是全球性議題,因此須透過國際法或針對監控技術管制凝聚國際共識。今(2021)年7月,全球148個人權組織及28位專家聯合呼籲中止銷售、使用及轉讓監控技術[7],而後,聯合國專家也發布公開信[8]表達相似立場,他們呼籲,在各國能依據國際人權法(International human rights law)推出保證監控技術符合國際人權標準的監管法規前,應停止出售及轉讓監控技術,並指出技術濫用可能導致包括侵犯言論自由、隱私權及媒體自由,並破壞民主價值、國際安全及國際合作等嚴重後果。

美國眾議員Tom Malinowski也在接受採訪[9]時提到,美國應透過立法及其他制裁制度強化出口管制;懲處遂行不當監控的企業或政府人員;甚至與以色列及歐洲國家在內的國際盟友訂定適切國際規範。

在設計出符合人權價值的國際規範前,國家應設計符合民主價值與倫理的制度規範,其中以歐盟為代表。目前歐盟已發布防止AI技術遭濫用的AI人工智慧道德準則[10];歐洲議會也通過一項禁止於公共場所使用自動化臉部辨識的非約束性決議[11],決議指出使用AI人工智慧系統須尋求補救措施;部分議員也呼籲歐盟官員禁用私人臉部辨識資料庫、預測性警務及社會評分、社會信用系統,以及使用自動化辨識機制的邊境控管系統等數位威權主義工具[12]

此外,歐盟執委會(European Commission,EC)今年4月提出的《人工智慧法案》(Artificial Intelligence Act)[13]也為人工智慧導入全面監管框架,禁止在公共場所使用遠端生物辨識技術(例如:臉部辨識),除非是用於處理恐怖主義或綁架之類的重大犯罪。

結語

數位威權主義的浪潮席捲而來,並對網路自由構成挑戰,且可能在後疫情時代持續發展,要抑制數位威權主義,須規範助長其發展的監控科技並推廣民主價值,首先從設計適切國內制度做起,進而達成國際影響力。

[1] Neil C. Hughes (2021). The global rise of digital authoritarianism. Cybernews.

檢自:https://cybernews.com/editorial/the-global-rise-of-digital-authoritarianism/ (Oct. 22 , 2021)

[2] 同註1。

[3] Ausma Bernot (2021). Digital authoritarianism not just a China problem. the interpreter.

檢自:https://www.lowyinstitute.org/the-interpreter/digital-authoritarianism-not-just-china-problem (Oct. 22 , 2021)

[4] Lynsey Chutel (2018). China is exporting facial recognition software to Africa, expanding its vast database. QUARTZ AFRICA. 檢自:https://qz.com/africa/1287675/china-is-exporting-facial-recognition-to-africa-ensuring-ai-dominance-through-diversity/ (Nov. 10, 2021)

[5]科技新報 (2021)。飛馬間諜軟體醜聞,揭以色列科技外交黑暗面。

檢自:https://technews.tw/2021/07/22/nso-group-pegasus/ (Oct. 25, 2021)

[6] Drew Harwell and Shane Harris (2021). White House has spoken to Israeli officials about spyware concerns following Pegasus Project revelations. The Washington Post.

檢自:https://www.washingtonpost.com/technology/2021/07/29/pegasus-white-house-israel-concerns/ (Oct. 26, 2021)

[7] Amnesty International(2021). JOINT OPEN LETTER BY CIVIL SOCIETY ORGANIZATIONS AND INDEPENDENT EXPERTS CALLING ON STATES TO IMPLEMENT AN IMMEDIATE MORATORIUM ON THE SALE, TRANSFER AND USE OF SURVEILLANCE TECHNOLOGY.

檢自:https://www.amnesty.org/en/documents/doc10/4516/2021/en/ (Oct. 26, 2021)

[8] 公開信連結

[9] 同註5。

[10]科技報橘 (2019)。一個「值得信賴 AI」長什麼樣子?歐盟發佈 7 條人工智慧的道德準則。

檢自:https://buzzorange.com/techorange/2019/04/10/eu-guidelines-on-developing-ethical-ai/ (Oct. 26 , 2021)

[11] 文件連結

[12] Almee Chanthadavong (2021). Amazon, Google, Microsoft and other tech giants establish Trusted Cloud Principles. ZD Net.

檢自:https://www.zdnet.com/article/amazon-google-microsoft-and-other-tech-giants-establish-trusted-cloud-principles/ (Oct. 15, 2021)

[13] 同註11。

Leave a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

回到頂端