【智能追蹤】AI監控平台用家輸入內容　為預警系統帶來新希望

網絡威脅情報技術的發展，過往一直受制於數據過時及資訊保密的挑戰，但人工智能的興起便有機會帶來新的局面。科技巨頭如 Google、Microsoft 及 OpenAI 正逐步轉型為預警系統，透過監控 AI 平台追蹤黑客集團的行動，準確掌握對方的攻擊目標及策略，防患於未然。

以往網絡安全業界認為將 AI 引入網絡安全工具，主要好處包括可以即時處理大量數據，比人手更快偵測出異常行為並自動執行安全措施。此外，AI 透過行為分析，可有效找出真正的內部威脅，並隨著持續學習新的攻擊策略，增強防禦能力。不過，這些優勢仍是建基於整合現有的安全威脅情報，而在缺乏即時的數據及業界未有積極共享威脅情報的情況下，始終未能帶來預期的效果。

Google、Microsoft 及 OpenAI 發表的安全報告顯示，通過監控其人工智能平台的用家輸入資料，便能夠搶先發現網絡攻擊趨勢，有機會將網絡安全發展成早期預警系統。首先在 Google 的威脅情報報告中便指出，他們發現來自伊朗、中國、北韓和俄羅斯的國家級黑客集團正濫用其 Gemini 生成式 AI 工具，進行針對美國國防網絡的偵測，並試圖編寫惡意程式攻擊從中發現的漏洞。

在 Microsoft 的報告中，亦成功捕捉到外國黑客使用 ChatGPT 執行自動化漏洞偵測的能力，當中俄羅斯 APT 集團 Forest Blizzard 便利用大型語言模型（LLM）研究烏克蘭的衛星和雷達技術，而北韓 APT 集團 Emerald Sleet 則利用模型產生高針對性的釣魚攻擊內容。

此外，OpenAI 也公開了伊朗 APT 集團轉向攻擊工業控制系統（ICS）的趨勢。如能將這些發現匯入具備人工智能的網絡安全工具，相信可令系統更快調整安全策略，及早阻截即將出現的攻擊。

雖然這些報告給業界帶來新的希望，但專家認為黑客亦會採用新的策略避過 AI 的安全偵測，例如轉移使用開源 AI 模型及部署在私人伺服器上，讓這些科技巨頭無法監控其輸入的數據，又或試圖採取大規模的數據污染行動，令 AI 誤會其查詢的資料屬合法行為等，都可以降低 AI 在威脅情報領域的效用。

不過，AI 平台監控用家輸入的數據，亦會引發許多法律及道德的問題。雖然面臨這些挑戰，但專家指出這些大型 AI 平台每天捕捉到的威脅情報量，早已超過單一網絡安全供應商在一年時間內收集的總和，如果能解決上述問題，便可將網絡安全技術帶入新的領域。

資料來源：https://www.securityweek.com/can-ai-early-warning-systems-reboot-the-threat-intel-industry/