人工智慧對人權衝擊之評估

作者:戴匡/NII產業發展協進會研究員

人工智慧及人權爭議

聯合國人權事務高級專員Michelle Bachelet警告[1],若未充分考慮人工智慧(Artificial Intelligence,AI)科技如何影響人權,可能將產生重大負面影響,她大力呼籲為AI設下人權規範。

根據Bachelet提出的一份新報告,特徵分析、自動化決策技術以及機器學習等技術可能大規模侵犯人權,若不為AI設下紅線,人們的隱私、健康、教育、自由遷徙、和平集會及結社,以及言論自由等人權可能將受衝擊。該報告指出,國家與企業經常急於整合AI應用程式,因此未能落實盡職調查責任,且許多受害者因政府單位濫用AI而遭不公平對待。舉例而言,社工或社會福利行政公務員使用具系統性偏誤的AI認證工具做出錯誤裁量,導致弱勢權益遭剝奪;或警方根據有缺陷的臉部識別軟體逮捕無罪人士。

該報告詳細介紹AI系統如何依賴大型資料集,且以多元、通常不透明的方式蒐集、共享、合成及分析個資。報告指出,用於通報及指導AI系統的資料不一定是適切的,許多資料有誤、過時、無關,甚至帶有人為歧視。報告強調,各國及相關行為者應嚴加審視AI工具的推論性、預測性及監控性,包括AI對人類行為模式的洞察。

AI技術由人類建構、並被部署於具有根深蒂固歧視的系統與機構中,從刑事制度、住宅、工作場所到金融機構,既有社會偏見及歧視可說是無處不在[2],因此,蒐集的資料很難避免人為偏見,以及因偏見導致的歧視性決策,其中社會邊緣群體可說是深受其害。例如:協助房東評估房客的AI系統仰賴於反映種族主義、性別歧視、身心障礙歧視等內在偏見的法庭紀錄與其他資料集,導致系統將部分有能力支付租金者認定為資格不符。

目前越來越多國家、國際組織與科技公司選擇使用以AI為本的生物辨識技術,這類技術可用於即時與遠距識別,儘管相當方便,卻可能造成政府或企業濫用所導致不當追蹤個人的後果。由於AI系統開發及維運所依賴的資料環境、演算法及模式的複雜性,以及政府與私營單位的刻意保密,大眾無法充分理解AI系統對人權及社會所造成的影響。Bachelet呼籲,隨著人權風險愈高,針對AI的法律規範也應越愈趨嚴格。

此外,Bachelet也呼籲[3]禁用未依國際人權法規範使用的AI應用程式,並點名去(2021)年爭議連連、由以色列監控企業NSO Group開發的Pegasus間諜軟體。根據去年夏天由公民實驗室(Citizen Lab)及國際特赦組織(Amnesty International)發布的調查報告[4],許多人權紀錄不佳的國家(如:沙烏地阿拉伯及墨西哥)利用Pegasus軟體監控國內維權人士、記者及政治人物手機,受害者達數千多名。隨著愈來愈多類似案件被揭露,NSO Group成為全球頭條新聞,且廣受國際輿論批評,受Pegasus軟體監控之苦的受害者分布於45個國家,總人數達到數千人。

AI浪潮無法擋,應促進大眾對AI技術的全面理解

世界經濟論壇(World Economic Forum,WEF)委託Ipsos市場研究公司,在2021年11至12月間針對28個國家的成年人對AI產品及服務的看法進行調查[5]。約莫三分之二接受調查者認為,AI產品及服務將在未來3至5年內深刻改變日常生活,使生活更加輕鬆。然而,其中僅有一半相信AI技術利大於弊,且對AI產品及服務展現與其他企業相同的信任度,換言之,人們對於AI可能構成的衝擊也有所警惕。

此外,該調查亦指出,對AI理解程度愈高者,愈傾向對相關企業展現更多信任,值得一提的是,與高收入國家相比,屬於新興經濟體的國家公民認為其對AI有更多了解,他們在更加信任相關企業的同時,還能樂觀看待AI產品及服務對其生活構成的影響。

WEF人工智慧與機器學習負責人Kay Firth-Butterfield表示,人們必須確切理解AI為何物、其運作方式及相關影響,未來國家與企業在運用這類技術時,必須將透明且值得信賴的AI技術列為優先項目。

如何面對爭議:歐盟與大型科技公司正積極作為

釐清AI的人權爭議、發展透明且值得信賴的AI系統、促進大眾對AI技術及產品的理解,以及建立良好AI使用準則,應成為未來政府與企業發展AI的配套措施及政策。Bachelet提出的報告即呼籲,在政府無法確保AI系統的精準度、不構成歧視、以及符合嚴格隱私及資料保護標準前,各國政府應立法禁止在公共場所中使用生物識別技術。此外,該文件還強調國家與企業應在開發及使用AI的層面上展現更高透明度。

目前嘗試為AI設下嚴謹規範的國際組織首推歐盟,去年10月,歐洲議會通過決議[6],反對警方透過AI技術進行大規模監控,議員們擔憂AI演算法中的偏見,也同意須藉由人工監督與強大法令以防AI歧視,特別是在執法與過境時。該決議呼籲,為確保在使用AI技術時兼顧基本人權,應採用透明、可追溯且留存完整紀錄的演算法。此外,當局應盡可能使用開源軟體提升AI系統的透明度,並要求永久禁止在公共場所運用自動化識別系統,只能監控涉嫌參與犯罪的公民。

歐洲議會要求禁止使用私有的臉部識別資料庫(如:Clearview AI系統[7]),以及根據行為資料的預測性警務。歐洲議員還希望能全面禁止試圖根據公民行為或人格特質進行評級的社會評分系統,並對使用生物資料進行遠端識別的系統提出擔憂,例如:使用自動識別技術、旨在核准旅客入境的智慧測謊系統iBorderCtrl。

此外,包括Google、Facebook及Microsoft等大型科技公司與平臺,也開始探討AI的倫理問題[8],例如:Google旗下的AI研究公司Deepmind於2017年宣布成立專門研究小組,探討AI倫理問題;Facebook在2019年初宣布資助德國慕尼黑工業大學,成立獨立的人工智慧倫理研究所,為用於社會及經濟的AI技術制定負責任道德準則;Microsoft在內部成立AI倫理道德委員會,委員會由包括產品開發人員、研究員、法務及人力資源等不同背景的員工組成,共同針對AI技術可能涉及的各個層面訂定政策。

結語

AI技術與人權之間的扞格仍將持續發酵,我國科技部於2019年發布的「人工智慧科研發展指引」[9]至今已過兩年,或許應重新評估當前AI技術發展更新準則。對民主國家而言,在追求AI技術的同時必不可忽略人權議題,我國應關注參考其他民主盟友之做法,並推出我國的相關規範或指引,供國內企業及政府單位依循參考。

[1]UN News (2021). Urgent action needed over artificial intelligence risks to human rights.

檢自:https://news.un.org/en/story/2021/09/1099972 (Jan. 13 , 2022)

[2]Olga Akselrod (2021). How Artificial Intelligence Can Deepen Racial and Economic Inequities. ACLU. 檢自:https://www.aclu.org/news/privacy-technology/how-artificial-intelligence-can-deepen-racial-and-economic-inequities/ (Jan. 13 , 2022)

[3] Michelle Bachelet(2021). Committee on Legal Affairs and Human Rights, Parliamentary assembly Council of Europe Hearing on the implications of the Pegasus spyware. UN Human Rights Office of the High Commissioner.

檢自:https://www.ohchr.org/EN/NewsEvents/Pages/DisplayNews.aspx?NewsID=27455&LangID=E (Jan. 14 , 2022)

[4] Shoshanna Solomon (2021). Amnesty, research groups map out global reach of Israeli NSO Group’s spyware. The Times of Israel.

檢自:https://www.timesofisrael.com/amnesty-research-groups-map-out-global-reach-of-israeli-nso-groups-spyware/ (Jan. 14 , 2022)

[5]Joe Myers (2021). 5 charts that show what people around the world think about AI. World Economic Forum.

檢自:https://www.weforum.org/agenda/2022/01/artificial-intelligence-ai-technology-trust-survey/ (Jan. 14 , 2022)

 

[6]European Parliament (2021). Use of artificial intelligence by the police: MEPs oppose mass surveillance. 檢自:https://www.europarl.europa.eu/news/en/press-room/20210930IPR13925/use-of-artificial-intelligence-by-the-police-meps-oppose-mass-surveillance (Jan. 14 , 2022)

[7] Clearview為美國企業,專門提供人臉識別技術和服務,更多資料可參考官方網站:https://www.clearview.ai/

[8]科技報橘 (2020)。AI 怎麼規範才叫有倫理?微軟推出 AI 教戰手冊,6 大準則逐步破解。

檢自:https://buzzorange.com/techorange/2020/02/11/microsoft-ai-ethics/ (Jan. 14 , 2022)

[9]科技部 (2020)。科技部首度發布「人工智慧科研發展指引」。天下雜誌。

檢自:https://www.cw.com.tw/article/5097901 (Jan. 14 , 2022)

回到頂端