AI 驅動的劫案：人工智能如何武裝下一代網絡犯罪分子

AI 驅動的劫案：人工智能如何武裝下一代網絡犯罪分子

在香港，一名財務主管在接到一通看似來自公司財務總監的視訊通話指示後，轉帳了 2,500 萬美元。唯一的問題是？那位財務總監是由 AI 生成的深偽影像。這不是科幻小說，而是網絡安全新時代的一個鮮明例子，在這個時代，人工智能既是強大的工具，也是可怕的武器。

隨著 AI 融入社會，它正從兩方面重塑威脅格局：一是為傳統的黑客手法提供強大動力，二是創造出全新的攻擊方式。

AI 加持的舊劇本

敵手現正利用 AI 以驚人的效率，精進並自動化舊有的攻擊手法。

• 超個人化的社交工程：忘掉那些有錯別字和通用問候語的郵件吧。由 AI 驅動的釣魚郵件現在能完美模仿人類溝通，利用目標的社交媒體資料，製造出極具個人化和說服力的訊息，輕鬆繞過傳統的過濾器。深偽技術將此威脅提升至更高層次，讓攻擊者能複製高階主管的聲音和面容用於視訊通話，使得詐騙性的資金或資料請求具有驚人的說服力。
• 自動化、大規模的攻擊：AI 演算法可以全年無休地運作，掃描數千個系統的漏洞，並以超越暴力破解法的智能破解密碼。透過分析行為模式，AI 能預測並測試極有可能的密碼組合，以前所未有的規模削弱傳統的安全策略。

攻擊大腦：針對 AI 的新型威脅前線

除了強化舊有手法，針對 AI 模型本身的新型威脅也正浮現。

• 模型完整性攻擊：敵手正學習如何欺騙 AI 系統。一次「對抗性攻擊」（Adversarial Attack）可能只是在交通標誌上策略性地貼上一張貼紙，就讓自動駕駛汽車將停車標誌誤讀為速限標誌。「模型汙染」（Model Poisoning）則涉及竄改 AI 的訓練數據以植入隱藏的後門，例如，教導一個安全系統將某種特定病毒辨識為「安全」。
• 前所未有的私隱風險：AI 處理海量數據集的能力對個人私隱構成嚴重威脅。「模型反轉攻擊」（Model Inversion Attacks）能從 AI 的公開輸出中，重構出敏感的個人資料（如醫療記錄）。此外，透過關聯匿名化的數據點 —— 如位置歷史和信用卡使用紀錄 —— AI 能推斷出敏感的個人特徵，從而有效地對個人進行「去匿名化」。
• 「黑盒子」的兩難困境：我們對 AI 日益增長的依賴充滿風險，因為我們常常不理解它為何做出某些決策。這種「黑盒子」特性使事件應對變得複雜，歷史上如微軟的聊天機器人變得充滿仇恨言論，或亞馬遜的招聘 AI 產生性別偏見等例子都證明了這一點。

全面性安全策略的新呼籲

AI 驅動威脅的崛起，意味著純粹的技術防禦已不再足夠。為保持韌性，機構必須採取一種全面性的策略，將 AI 不僅視為需要防禦的工具，更將其本身視為一個潛在的攻擊途徑 —— 這需要一個結合法律、道德和安全治理的新框架。