【瓣數多多】應用GPT技術提升網絡安全 Sophos研英文落指令
ChatGPT 自去年 11 月推出後，不少人都探討其背後語言模型（GPT-3編程工具）對網絡安全帶來的風險，網絡安全解決方案供應商Sophos則認為除了了解其風險外，也應該要關注嶄新技術所帶來的無限可能性，並將 AI 技術融入至安全防禦系統。
近月業界都十分關注 ChatGPT 為網絡所帶來的轉變，例如擔心人工智能將有助攻擊者編寫惡意軟件程式，或為網路犯罪分子編寫更說服力的釣魚郵件。但對於網絡安全，又是否只有弊沒有利呢？
Sophos 發表最新研究報告《我們的GPT：採用人工智能技術提升網絡安全防禦能力》，介紹 Sophos X-Ops 團隊如何利用 GPT-3 編程工具龐大的語言模型，開發網絡安全相關項目，以簡化網絡安全軟件於眾多數據中偵測惡意活動的流程，從而加快對二進制形式攻擊（LOLBin）的分析。
Sophos 首席威脅研究員 Sean Gallagher 表示，許多公司只能利用有限的資源處理過多的安全警告或偵測，透過 GPT-3 的相關技術，便能夠簡化部分涉及大量勞力的流程，從而提高防禦人員的效率。因此，Sophos 將部份原型整合至產品或服務中，並與其他正獨自測試 GPT-3 的技術人員於 GitHub上分享Sophos 的成果。
Sophos 一直有研究人員專注開發三款利用 GPT-3 編程工具為核心的原型項目，從而展示出網絡安全防禦人員應如何發揮人工智能技術的潛力。三個項目均借助「小樣本學習」（few-shot learning）技術，透過少量的數據樣本以訓練 AI 模型，並減少預先收集大量分類數據的需要。
1．自然語言（Natural Language）查詢介面
Sophos 首個測試針對「自然語言（Natural Language）查詢介面」，旨在讓安全軟件更精準篩選出惡意活動，而且特別針對端點偵測和回應（Endpoint Detection and Response，EDR）產品作為測試模型。透過這個介面，安全技術人員可直接發出基本英語指令並過濾遙測數據，省卻學習 SQL 或數據庫內深層架構的時間。
2．垃圾郵件過濾軟件
Sophos 借助 ChatGPT 為一款全新的垃圾郵件過濾軟件進行測試，並發現與其他利用機器學習模型的過濾系統相比， GPT-3 的過濾性能較準確。
3．簡化對 LOLBins 命令列進行逆向工程
研究人員亦開發出一款能簡化 LOLBins 命令行於逆向工程流程的工具。由於當中牽涉不少非常複雜的過程，所以該工具將對日後了解 LOLBins 的行為，以及阻止同類型攻擊將發揮關鍵作用。
Gallagher 深信，未來 GPT-3 將會有效協助安全技術專家進行更多研究及開發。
報告全文：GPT for you and me: Applying AI language processing to cyber defenses – Sophos News
相關文章：【ChatGPT熱潮】假網站假App扮免費升級 內藏惡意軟件竊用戶資料
