科技新聞

    私隱專員公署發布《代理式人工智能篇:保障個人資料私隱》指引(下稱《指引》),旨在為機構提供實務建議,協助他們在善用代理式 AI 所帶來的裨益之餘,妥善保障個人資料私隱,符合《私隱條例》的相關規定。

    隨着 AI 應用日趨普及,代理式 AI 的出現帶來變革性改變的同時,亦對保障個人資料私隱帶來前所未有的挑戰。私隱專員鍾麗玲表示,代理式 AI 有別於傳統 AI 聊天機械人,具備高度自主運作能力,並可代替用戶執行多步驟任務,包括管理電郵、進行預約以至處理付款等。

    為銜接國際標準,私隱專員公署在制定《指引》的過程中參考了全國網絡安全標準化技術委員會秘書處於今年7月發布的《網絡安全標準實踐指南—智能體部署使用安全指引》,以及其他司法管轄區有關使用代理式 AI 所發布的指引。《指引》是公署發布的《人工智能(AI):個人資料保障模範框架》的補充指引,而《模範框架》所載的原則一般仍適用於代理式 AI 的使用。

    《指引》闡述代理式 AI 對個人資料私隱帶來的風險,包括廣泛的存取權限、資料用途被改變,以及資料的準確性等,並就如何安全及負責任地使用代理式 AI 以及確保符合《私隱條例》的相關規定提出九項建議:

    如何應對代理式 AI 對個人資料私隱所帶來的風險:

    1. 避免過度或任意收集個人資料供代理式 AI 使用:遵循資料最少化的原則,並就代理式 AI 為特定目的而可存取的資訊及系統,訂立並實施清晰的分隔措施;

    2. 就代理式 AI 處理個人資料保持透明度:在收集個人資料聲明及私隱政策聲明中清楚說明有關使用代理式 AI 處理個人資料的相關資訊,以提高透明度;

    3. 確保代理式 AI 處理的個人資料的準確性:使用思維鏈、針對特定情境作出微調及人為審核等方法,以減低所生成的輸出包含虛構或不準確個人資料的風險;

    4. 訂定適當的保留時限:訂定個人資料的最長保留時限,並採取措施適時刪除對話紀錄、快取資料或長期記憶中所載的個人資料;

    5. 確保未經同意不會將個人資料用於新目的:清楚界定代理式 AI 收集及處理個人資料的目的,並明確訂明在何等情況下須有人為監督;

    6. 維護代理式 AI 系統中個人資料的安全:使用從官方渠道取得的代理式 AI 軟件的最新版本,採取足夠措施確保系統安全及數據安全,審慎安裝及使用插件(plugins)或技能(skills),授予代理式 AI 完成任務所需的最小權限,採用大型語言模型安全護欄,並建立機制以確保可追溯性及可審核性;

    7. 確保查閱及改正資料的權利:選用已採納「貫徹私隱設計」及「預設私隱」原則的代理式 AI 系統,確保相關系統能讓資料當事人行使查閱資料及改正資料的權利;

    8. 持續進行風險評估:在使用代理式 AI 之前,就其安全性及可靠性進行測試,並在使用期間持續評估所涉及的個人資料私隱風險,並採取與風險相稱的措施,就可能對個人產生重大影響的決定採取「人在環中」的策略;及

    9. 分配明確責任及提供培訓:建立具足夠資源、專業知識及決策權的內部管治架構,在委聘外部服務供應商時採取合約規範方法或其他方法,以確保遵從資料保留及資料保安的相關規定,並為所有相關人員提供足夠的培訓。

    為落實上述建議,《指引》亦於附件載有安全檢查清單,詳列用戶在評估、準備、部署、使用及停用各階段可採取的實際步驟,以保障個人資料私隱。

    下載《代理式人工智能篇:保障個人資料私隱》指引:https://www.pcpd.org.hk/tc_chi/resources_centre/publications/files/pcpd_use_of_agentic_ai.pdf

    參加 Green Radar 「技術安全挑戰工作坊」,深入了解 Green Radar 創新的 grMail 解決方案,同時加深你對現今不斷演變的電郵安全環境的認識。

    透過工作坊,你可以:

    • 探索 grMail 的主要功能同優點,了解它如何加強電郵安全
    • 參與實戰 CTF 挑戰,測試並磨練你的技術能力
    • 參加即場問答環節,解答你的疑問
    • 與 Green Radar 專家及其他客戶交流
    • 競逐豐富獎品——最高可贏取價值港幣 2,000 元購物禮券!

    面對日益複雜的網絡威脅,企業既需要穩定、安全且具韌性的 IT 基礎架構,亦需要全天候的威脅監測及快速應變能力。中信國際電訊 CPC(下稱 CPC)、Sangfor 及 edvance 早前聯合舉辦交流活動,邀請金融服務業界人士聚首一堂,探討如何升級網絡安全體系,迎接 AI 時代的「Next-Threat」。

    活動以「Is Your Core Next-Threat Ready? Architecting Stronger Infrastructure & Smarter Security」為題,聚焦企業在技術、合規及人才資源上的安全缺口。活動上半部分由 Sangfor 資安解決方案顧問主管肖宇軒(Shawn),以及中信國際電訊 CPC 網絡安全顧問劉俊生(Sung)先後分享,從 AI 安全風險、偵測及回應能力,剖析金融服務業在新一輪威脅環境下的應對方向。

    Secure by Design 防範 AI 被濫用

    Shawn 先以 AI 圖像生成技術在短短數月間的急速演進為例,說明 AI 發展速度之快,亦帶來了全新的企業風險。他將 AI 網安威脅概括為兩大類:Attack on AI agent,即針對 AI 模型或 AI agent 本身的攻擊;以及 Attack by AI agent,即攻擊者利用 AI 工具發動攻擊。

    針對 AI 模型或 Agent 的攻擊,常見風險包括指令注入(Prompt injection)和敏感資料外洩。Shawn 認為,企業要防止 AI 被惡意利用,關鍵在於以「Secure by Design」原則規劃 AI 環境,「例如透過 SASE 在中間建立存取控制與隔離機制,避免 AI 應用任意接觸企業內部系統或敏感資料」。

    以遠端安全架構為基礎的 Sangfor SASE,正正能協助企業掌握用戶對網站及 AI 工具的存取情況,並降低未授權使用與資料外洩風險。Sangfor SASE 在功能上能媲美國際品牌,並入圍 Gartner Magic Quadrant,成為唯一入圍的中資品牌,反映其技術成熟度及市場認受性。

    Sangfor 資安解決方案顧問主管肖宇軒 Shawn

    XDR 結合 Security GPT 應對 AI 攻擊

    至於 Attack by AI agent,意指 AI 工具正大幅降低攻擊者門檻,面對「道高一尺、魔高一丈」的攻防環境,企業的監察與分析能力必須同步升級,並透過 AI 自動進行關聯分析及告警篩選。

    「Sangfor XDR 可整合網絡、端點及不同安全系統的數據,讓企業由單點偵測走向跨層面的威脅分析。」Shawn 補充道,平台配合以安全數據訓練的 Security GPT,協助安全團隊理解日誌、分析可疑行為及判斷威脅優先次序,從大量告警中識別真正值得優先處理的安全事件。

    「在安全上,無論是 XDR、MDR 或 Firewall 都可以與 CPC 的 AI SOC(智能安全運作中心)整合,我們以組合方式提供服務,客戶可以全程投入業務發展,將安全的支援交給我們。」

    AI SOC 提升金融業安全營運效率

    緊接其後,CPC 的 Sung 分享 AI SOC 如何應對金融業日益升溫的 AI 威脅。他指出,金融機構的核心銀行及交易系統、敏感客戶資料、數碼銀行與支付平台,均是高價值目標;但傳統 SOC 往往受制於告警量龐大、規則更新速度不足,以及未知攻擊難以識別等問題。

    CPC 的 AI SOC 架構結合三個分別位於上海、廣州及香港的 SOC 節點,支援企業以集中而持續的方式管理安全事件。透過歷史數據、新興威脅情報及 AI 輔助分析,系統可加快事件調查及回應流程,較以往快高達75% ,以主動式防禦模式減少告警疲勞,讓安全人員聚焦處理高風險事件。

    在 AI 攻擊與數碼金融服務同步擴張的環境下,Sung 認為企業安全已不再只是部署防火牆或端點防護工具,而是需要建立主動的持續偵測、分析、決策及回應的安全營運能力。AI SOC 正是在此背景下,成為提升金融機構網絡韌性的重要一環。

    中信國際電訊 CPC 網絡安全顧問 劉俊生(Sung)

    支援企業出海與跨境安全管理

    對具中資背景、正部署海外業務的企業而言,CPC 與 Sangfor 的組合尤其具吸引力。Sung 指出:「內地的出海企業,如果選擇 Sangfor IT Security 架構,配以 CPC 遍佈全球、接近 170 個服務據點(PoP),以及位於上海、廣州及香港的三個 AI SOC,可以全面妥善地支援到內地客戶的出海戰略。」

    企業想提升安全能力,第一步應該如何做?Shawn 與 Sung 不約而同表示,企業應先了解現有自身安全水平、業務風險與目標架構之間的差距,再部署合適的防護及營運措施。

    活動下半部分則設有交流環節,來賓與 Sangfor、CPC 及 edvance 專家圍繞法規要求、AI 應用、基礎架構及網絡安全等議題深入交流,為金融服務業在 AI 時代建立更強韌、更智能的安全防線提供參考。

    想為迎接 AI 時代的「Next-Threat」做好準備,例如由專家免費為企業進行 AI 諮詢分析、更進一步認識 AI SOC,或正尋找 VMware 替代方案。歡迎填妥表格與 CPC 或 Sangfor 聯絡:https://tinyurl.com/33dmz6rb

    私隱專員公署發布《代理式人工智能篇:保障個人資料私隱》指引(下稱《指引》),旨在為機構提供實務建議,協助他們在善用代理式 AI 所帶來的裨益之餘,妥善保障個人資料私隱,符合《私隱條例》的相關規定。

    隨着 AI 應用日趨普及,代理式 AI 的出現帶來變革性改變的同時,亦對保障個人資料私隱帶來前所未有的挑戰。私隱專員鍾麗玲表示,代理式 AI 有別於傳統 AI 聊天機械人,具備高度自主運作能力,並可代替用戶執行多步驟任務,包括管理電郵、進行預約以至處理付款等。

    為銜接國際標準,私隱專員公署在制定《指引》的過程中參考了全國網絡安全標準化技術委員會秘書處於今年7月發布的《網絡安全標準實踐指南—智能體部署使用安全指引》,以及其他司法管轄區有關使用代理式 AI 所發布的指引。《指引》是公署發布的《人工智能(AI):個人資料保障模範框架》的補充指引,而《模範框架》所載的原則一般仍適用於代理式 AI 的使用。

    《指引》闡述代理式 AI 對個人資料私隱帶來的風險,包括廣泛的存取權限、資料用途被改變,以及資料的準確性等,並就如何安全及負責任地使用代理式 AI 以及確保符合《私隱條例》的相關規定提出九項建議:

    如何應對代理式 AI 對個人資料私隱所帶來的風險:

    1. 避免過度或任意收集個人資料供代理式 AI 使用:遵循資料最少化的原則,並就代理式 AI 為特定目的而可存取的資訊及系統,訂立並實施清晰的分隔措施;

    2. 就代理式 AI 處理個人資料保持透明度:在收集個人資料聲明及私隱政策聲明中清楚說明有關使用代理式 AI 處理個人資料的相關資訊,以提高透明度;

    3. 確保代理式 AI 處理的個人資料的準確性:使用思維鏈、針對特定情境作出微調及人為審核等方法,以減低所生成的輸出包含虛構或不準確個人資料的風險;

    4. 訂定適當的保留時限:訂定個人資料的最長保留時限,並採取措施適時刪除對話紀錄、快取資料或長期記憶中所載的個人資料;

    5. 確保未經同意不會將個人資料用於新目的:清楚界定代理式 AI 收集及處理個人資料的目的,並明確訂明在何等情況下須有人為監督;

    6. 維護代理式 AI 系統中個人資料的安全:使用從官方渠道取得的代理式 AI 軟件的最新版本,採取足夠措施確保系統安全及數據安全,審慎安裝及使用插件(plugins)或技能(skills),授予代理式 AI 完成任務所需的最小權限,採用大型語言模型安全護欄,並建立機制以確保可追溯性及可審核性;

    7. 確保查閱及改正資料的權利:選用已採納「貫徹私隱設計」及「預設私隱」原則的代理式 AI 系統,確保相關系統能讓資料當事人行使查閱資料及改正資料的權利;

    8. 持續進行風險評估:在使用代理式 AI 之前,就其安全性及可靠性進行測試,並在使用期間持續評估所涉及的個人資料私隱風險,並採取與風險相稱的措施,就可能對個人產生重大影響的決定採取「人在環中」的策略;及

    9. 分配明確責任及提供培訓:建立具足夠資源、專業知識及決策權的內部管治架構,在委聘外部服務供應商時採取合約規範方法或其他方法,以確保遵從資料保留及資料保安的相關規定,並為所有相關人員提供足夠的培訓。

    為落實上述建議,《指引》亦於附件載有安全檢查清單,詳列用戶在評估、準備、部署、使用及停用各階段可採取的實際步驟,以保障個人資料私隱。

    下載《代理式人工智能篇:保障個人資料私隱》指引:https://www.pcpd.org.hk/tc_chi/resources_centre/publications/files/pcpd_use_of_agentic_ai.pdf