過去，大多數人對網路釣魚郵件容易辨識，因為它們充斥著語法錯誤、詞彙貧乏、拼字錯誤，且頁面布局令人難以接受。然而，由於AI的進步，攻擊者能夠顯著增強郵件內容的品質，在網路釣魚郵件中使用令人信服的文字。這些郵件看起來更加專業，甚至會讓謹慎的人也受騙點擊。然而，防禦者也在利用同樣的人工智慧技術，主動偵測並防範這些威脅。為因應這樣的威脅，企業與使用者必須採取先進的防禦措施，其中內容分析和機器學習被視為相當有效的方法，以下為其背後的原因：
- 內容分析的必要性：
分析最近的網路釣魚案例，駭客廣泛應用類似ChatGPT等大型語言模型（Language Learning Motivational Strategies，LLMs），自動生成內容逼真的文宣，再利用這些釣魚郵件發動詐騙。以最近盛行的商業電子郵件詐騙（Business Email Compromise，BEC）為例，駭客會假冒公司主管身分寄發請求匯款或洩密的郵件，就能輕易騙得數以百萬的非法利益。內容分析技術能夠仔細檢視郵件內容，判斷其是否過於標準化或缺乏人為因素，進而辨識潛在的釣魚威脅。透過分析文字結構和語境，內容分析有助於辨別郵件真實性，使得防禦者能夠更有效地識別和防範攻擊。
- 機器學習的應用：
在機器學習方面，針對正常和疑似的郵件進行大量的訓練，使演算法學習辨識郵件中的異常及常見惡意模式。這種訓練模型的方式，使得機器學習能夠更靈活地適應新型的攻擊手法，提高偵測的準確性。
內容分析如何應對網路釣魚郵件？
搭配人工智慧的系統可以掃描郵件內容，檢測可疑的網路釣魚郵件，標記紅色警報。網路釣魚郵件常常具有以下特徵：
- 緊急感： 嘗試說服收件人立即行動，而不考慮後果。例如，立即行動，否則您的帳戶將被停用。
- 通用問候語： 大量網路釣魚攻擊使用通用的問候語，而不使用收件人的名稱，因為它們是大量發送給多個收件人的。
- 要求敏感資料： 網路釣魚郵件要求收件人提供敏感資料，如銀行或其他線上帳戶資訊。
- 包含指向惡意網站的連接： 網路釣魚郵件通常包含指向虛假登錄頁面或包含漏洞利用工具包。AI系統可以迅速提取電子郵件內容中的嵌入連接（URL）和網站的安全通訊端層（Secure Sockets Layer，SSL）證書，並分析其中的惡意模式。
機器學習如何偵測網路釣魚郵件？
要使用機器學習演算法來偵測網路釣魚攻擊，需要在大量正常（誠實）和網路釣魚（可疑）郵件的資料集上進行訓練，以學習如何檢測郵件中的異常並辨識網路釣魚郵件中的常見惡意模式。有三種主要的方法：
- 社交圖分析： 企業構建了員工之間正常通信交流的社交圖，這使得它能夠檢測異常通信並將其標記為可疑。例如，市場部門與公關部門之間的通信是正常的，但會計部門與公司CEO之間的郵件可能是罕見的，這使得這樣的通信變得可疑。
- 員工通信概況： 每個人在撰寫電子郵件時都有自己的寫作風格和特定的語氣。自然語言處理（Natural Language Processing，NLP）是一種AI子類型，可用於分析書面文字，從電子郵件內容中提取不同的模式，以辨識特定人員的寫作風格。
- 郵件結構分析： 機器學習可用於分析郵件中與技術相關的內容，以識別可疑的郵件，例如檢查接收電子郵件的所有IP地址。如果一封郵件假冒來自Outlook（Microsoft服務器），而郵件來源資訊包含來自Gmail的標頭資訊，這封郵件可能是假冒或修改過的。
在防衛技術角力的背後，還是需要公司持續加強員工教育，提高警覺性。畢竟科技再先進，也難以杜絕所有威脅。假如員工失職點擊不明連結，仍可能造成重大損失。因此，透過科技與人員意識培養的雙管齊下，才能預防各種網路釣魚詐騙。
| 本文內容純屬筆者個人意見，並不代表TWNIC立場 |
相關連結：
George V. Hulme（2023）.How to combat AI-produced phishing attacks.SCMedia.檢自：https://www.scmagazine.com/resource/how-to-combat-ai-produced-phishing-attacks(Nov. 20， 2023)
Nihad A. Hassan（2023）.Combating phishing attacks using AI and machine learning technologies.cybernews.檢自：https://cybernews.com/editorial/combating-phishing-attacks-using-ai/(Nov. 15， 2023)
Karl Greenberg（2023）.AI vs AI: Next front in phishing wars.TechRepublic.檢自：https://www.techrepublic.com/article/ai-vs-ai-phishing-wars/(June. 16， 2023)
