| 蔡昱宏/東海大學資訊管理學系 |
技術進步與資安事件的關聯
技術進步與資訊安全密不可分，資訊技術的進步，除了帶來科技的突破與生活的便利，同時也會增加網路攻擊的路徑與個人隱私的擔憂。兩者之間的關聯性在當今數位時代尤為密切。2023年中隨著人工智慧、5G技術和量子運算的快速發展，迎來了科技的黃金時代，同時也面臨前所未有的資訊安全挑戰。
首先，於2023年，生成式人工智慧ChatGPT的推出，掀起了全球的人工智慧浪潮，代表著人類於人工智慧領域邁出了一大步。生成式人工智慧的應用範疇不斷擴大，涵蓋醫療、金融、製造等各行各業。然而，這也意味著大量的敏感資訊被用於訓練模型，使得隱私和資料安全變得極為複雜。機器學習模型可能受到對抗性攻擊（Adversarial Attack），導致不良後果，如誤判或偏見的生成。有心人士透過惡意的命令（Prompt）擊垮人工智慧模型的安全機制，進而使人工智慧模型做出懷有惡意的回覆，甚至是洩漏訓練資料等行為。
其次，5G技術的普及使得高速連線成為現實，但同時也擴大了網路攻擊的攻擊面：
- 更快的資料傳輸速度和更大的連接數量增加了駭客發動攻擊的機會，包括勒索軟體、網路釣魚和入侵事件。
- 5G支援同時連線大量的裝置，意味著更多的端點與設備連接到網路，提高了攻擊者發動攻擊的機會。
- 5G促進物連網（IoT）的發展，大量的感測器、智慧型裝置連接至網路中，卻缺乏足夠的安全措施，導致這些感測器與智慧型裝置容易成為網路攻擊的端點之一。
最後，量子運算的突破性進展可能重新塑造加密的未來。傳統加密演算法可能面臨被量子電腦破解的風險，這使得開發抗量子計算攻擊的加密技術變得非常重要。
2023年資安事件回顧
- 虛擬綁架
虛擬綁架是使用深度偽造（Deepfake）的AI技術進行的綁架勒索事件。生成式AI可以透過聲音或影像資料進行訓練，最後生成出如訓練資料一般的聲音或影像。在2023年生成式人工智慧的熱潮下，被有心人士濫用於詐騙勒索上。歹徒會從社群軟體上或打電話以民意調查等理由收集受害者的影像及聲音。再透過生成AI產生維妙維肖的影音，藉此詐騙受害者親友。[1]
- 自動化的釣魚攻擊
自動化釣魚攻擊是一種借助生成式AI技術強化原始攻擊模式的網路攻擊，這種攻擊方法利用生成式人工智慧自動化生成釣魚郵件的內文，不僅可以提高攻擊成功的機會，同時自動化生成節省了時間成本，導致自動化釣魚攻擊的頻率也節節攀升。
生成式AI能夠模擬人類書寫風格，產生出與正常郵件無異的文字內容，釣魚郵件變得難以識別。使得攻擊者能夠更有效地冒充合法寄件人，欺騙收件人點擊惡意連結或提供敏感資訊。
在「2023年OT（Operational technology）與網路資安現況調查報告」中曾提及，有高達七成五的OT組織遭受網路攻擊，其中網路釣魚則占據了49%。[2]
- AI漏洞和攻擊：
人工智慧的飛速發展，聊天機器人成為當今社會中不可或缺的一環，被廣泛應用於多種場景，從客服互動到個人助手。然而，最近OpenAI的聊天機器人ChatGPT卻意外成為焦點，因為發生了一起洩漏訓練資料的事件。這次事件引發了廣泛的關注。有心人士僅憑透過「發散攻擊」（divergence attack）繞過ChatGPT的安全機制，使其洩漏出真實的訓練資料。[3]
結語
技術的進步猶如一把雙面刃，為社會帶來無窮的便利和發展機會的同時，也隨之帶來資訊安全的日益複雜問題。科技的快速演進意味著我們必須更積極地應對資安挑戰，因為停滯不前的選擇在數位時代中幾近不可能。
| 本文內容純屬筆者個人意見，並不代表TWNIC立場 |
[1] Trendmicro（2023年10月6日）。2023 上半年網路資安威脅摘要與生成式AI 。Trendmicro 。檢自:https://www.trendmicro.com/zh_tw/research/23/j/cybersecurity-threat-2023-generative-ai.html
[2] 說資安新聞網（2023年6月1日）。Fortinet《2023年OT與網路資安現況調查報告》的四大發現。說資安新聞網。檢自:https://cybersecurenews.com.tw/industry-news-119/
[3] 陳建鈞（2023年11月30日）。ChatGPT爆資安漏洞！只用一個字，就讓語言模型吐出大量訓練材料，怎麼回事？。數位時代。檢自:https://www.bnext.com.tw/article/77635/openai-chatgpt-divergence-attack
