AI 語言模型能夠研究攻擊目標的完整電子郵件記錄和通訊模式，製作毫無破綻、以假亂真的網路釣魚訊息。Sikorski 解釋：
「AI 能夠迅速建立信任感。人們會在電子郵件往返中閒話家常，談及狗狗或家人，而 LLM 甚至能複製這種對話模式，在培養足夠的信任後話鋒一轉：『對了，可以填一下那張發票嗎？』就像 6 個月前填過的那樣，此時的受害者較可能配合，對吧？因為他們的戒心降低，更容易受騙。」
Sikorski 認為，這類自動化網路釣魚威脅已經開始發生，規模可能持續擴大，而且會在短期內更加普遍，成為攻擊者首選的標準方法。

攻擊者試圖產生惡意軟體，對 AI 訓練資料和系統植入病毒
展望未來 12 個月到數年之間，Sikorski 預期惡意行動者會在兩個關鍵領域發展 AI 攻擊能力：
1) 製作惡意軟體，方法是以現有惡意軟體程式碼訓練 AI 語言模型，並組合成全新病毒變種，藉此躲過偵測。Sikorski 談到 Palo Alto Networks 主動防禦技術的開發工作：「我們正嘗試使用 LLM 實際製作惡意軟體，對它饋送資料並投入我們的產品中，看看表現如何。」
2) 此為攻擊 AI/ML 系統本身的策略，方法是使用提示注入 (prompt injection) 和訓練資料集植毒 (poisoning training dataset) 等技術，藉此操縱模型的輸出結果。「未來甚至會有攻擊嘗試對訓練資料下毒。由於 LLM 是一項新興技術，因此中期應該會有更多攻擊將此作為下手目標。」

AI 助長攻擊活動的自動化和擴張能力
Sikorski 最擔心的時間點落在未來 5 年後，屆時 AI 將可同時對數千到數百萬個目標發動自主攻擊，而且能夠大幅擴張規模，遠遠超出人類迄今所做過的攻擊活動。他發出警告：
「試想在 AI 的助力下，攻擊者就能以自動化方式判定攻擊目標、如何橫向移動，以及擷取有價值的資料。我認為這是未來的發展趨勢。我們面臨完全自動化的入侵對手，因此也必須防範全自動的攻擊者。」
Sikorski 以 SolarWinds 供應鏈攻擊事件為例進行比較，指出「...... 即使出動駭客團隊，攻擊者的資源和人力依然有限」；因此雖然中毒軟體廣泛散播，但仍只能利用一小部分後門進行攻擊。
「現在有了 AI，他們就能夠以自動化方式完成這一切…… 想像一下，他們不只會攻擊數百個網路，而是數千個網路，而且還會植入誘餌，等待日後發動攻擊。」

樂觀的一面：AI 可支援大規模防禦
然而從樂觀的一面來看，Sikorski 也預期 AI 能夠強化網路安全防禦能力。他認為在 AI/ML 的進步下，軟體中可能遭利用的漏洞總數可望逐漸減少，因為隨著技術不斷發展，自動化測試和大規模修復的能力也會提升。Sikorski 的理由如下：

「利用 AI 生成漏洞利用和零日攻擊程式碼的做法雖有爭議，但我認為軟體開發人員也會藉此技術測試並修復漏洞，防止不肖份子發現它們。」
這場攻防有如軍備競賽，防守方需要全力以赴才能取勝。

在資安營運方面，Sikorski 認為 AI/ML 有助於團隊更專注於提升主動防禦技術，例如威脅獵捕 (threat hunting) 而非被動的漏洞分檢 (triage)：
「若能自動化處理 SOC 已知的所有威脅，我們的 SOC 就能轉向關注威脅獵捕等主動防禦任務。這項目標有賴於大幅提升創造力，並發現未知的新型攻擊。」
Sikorski 表示，資安主管的重點是密切追蹤 KPI，掌握 AI 在多大程度上有助於「降低成本」，以及他們「有多少比例的時間用於搜尋新威脅」。他建議：
「若此數字逐漸增加，就表示團隊不再只是成天忙著分檢已知的攻擊或誤報。」
隨著 AI 網路攻擊和防禦能力同步進展，如 Michael Sikorski 等實務從業人員分享的實用見解至關重要，有助網路安全團隊運用 AI 潛在優勢，同時保持警惕，清楚掌握新興威脅態勢。
如欲瞭解更多資訊，請點擊此。

關於Palo Alto Networks
Palo Alto Networks是全球網路安全領導者，致力於透過創新來超越網路威脅，讓企業能夠充滿信心地擁抱技術。我們在全球為成千上萬個來自不同領域的組織提供新世代網路安全支援。Palo Alto Networks 一流的網路安全平台及服務以領先產業的威脅情報為後盾，並由最先進的自動化技術而強化。透過提供產品協助實現零信任企業、回應安全事件，或是與世界級的生態圈合作確保更好的安全成果，我們始終致力於幫助實現「每一天都比前一天更安全」的目標，而這正是Palo Alto Networks 成為最佳網路安全合作夥伴的原因。

在Palo Alto Networks，我們承諾匯集最優秀的人才，為達成上述的使命而努力。所以我們也很自豪地成為網路安全領域的首選工作場所，並在近期獲選為新聞周刊「最受歡迎工作場所」（Newsweek Most Loved Workplaces, 2021） 、「多元化最佳公司」（Newsweek Comparably Best Companies, 2021），以及HRC 「最佳LGBTQ平等企業」（HRC Best Places for LGBTQ Equality, 2022）。如欲瞭解更多資訊，請造訪 http://www.paloaltonetworks.com/。

追蹤Twitter、LinkedIn、Facebook和Instagram瞭解Palo Alto Networks最新資訊。

- 新聞稿有效日期，至2024/07/26為止

上一篇：王朝股東週年大會圓滿完成
下一篇：【AI戰情室1】研揚跨足AI醫療，協助3D內視鏡檢測工程