【威脅升級】AI採用率持續增加 預明年資訊安全投資金額急升15.1%
市場調查公司 Gartner 發表新的預測報告，估計在 2025 年全球終端用戶花費在資訊安全的支出將達到 2,120 億美元，比起去年上升 15.1%。這是由於網絡威脅持續加劇，而且遙距工作增加及人才短缺，也令企業的 CISO 無可避免地需要增加安全方面的投資。此外，報告指企業目前正在評估其端點保護平台（EPP）和端點檢測和響應（EDR）需求，並進行調整，特別是在 CrowdStrike 事件導致全球客戶受到影響後，管理層迫切改善運營彈性和事件響應能力，造就更多的投資。
人工智能和生成式人工智能（GenAI）在全球企業之間的採用率持續增加，亦投入更多資料於應用程式安全、資料安全，隱私以及基礎設施保護等安全措施之上。事實上，自 GenAI 發布以來，攻擊者越來越多地使用 AI 工具和大型語言模型（LLM）來實施大規模社會工程攻擊，這些風險可能影響這類 AI 的可靠性和安全性，當中包括以下幾項風險。
提示注入：針對基於自然語言處理的 AI 模型，主要是惡意操控以觸發意外的行為，導致人工智能產生偏見、誤導或含有惡意的內容。如訓練模型缺乏識別惡意輸入的能力，便有可能被濫用。
篡改訓練資料：黑客通過篡改訓練數據包，導致模型行為不可預測或有利於攻擊者。這種攻擊的微妙性在於難以檢測，因為惡意資料可能隱藏在大量訓練數據中。
阻斷服務模型（DoS）：DoS 攻擊旨在通過大量請求或複雜的輸入淹沒 AI 系統，使其變慢或無法使用。這可能會影響合法用戶的服務可用性，並導致關鍵系統故障。
模型盜竊：未經授權的存取和提取 AI 模型，可能志在複製或通過逆向工程解讀專有技術。這不僅帶來財務風險，還可能被對方發現當中的安全漏洞。 而 Gartner 研究員便預測去到 2027年，17% 的網絡攻擊及資料外洩事件，將會與生成式 AI 有密切關係。
隨著企業及組織不斷將應用服務遷移到雲端，Gartner 分析師預計雲端安全解決方案的需求亦會大增，例如雲端存取安全代理（CASB）和雲端工作負載保護平台（CWPP）市場就被睇高一線，其綜合規模預計將在 2025 年達到 87 億美元，高於 2024 年預測的 67 億美元，預計該市場的成長速度將快於其他安全領域。
為緩解這些安全風險，企業需要實施強大的身份驗證、情境感知機制、對抗性訓練、管理和驗證訓練資料、部署加密和存取控制等措施。持續監控和分析 AI 系統的輸入和輸出也非常重要，因為可以減少和及早發現潛在的攻擊。專家認為在部署 AI 應用的同時，管理層亦要引入以上安全工具，才能減少遭受攻擊的風險。
想 守 住 企 業 網 絡 安 全 防 線 ？
網絡安全公司 Green Radar 推出雲端員工培訓平台，透過短片形式，由淺入深向員工講解網絡安全注意事項，更備有即時考核，評估員工學習進度及企業網絡安全風險。立即登記與專家聯絡： https://bit.ly/4dX1oO4