【前方危險】ChatGPT等新AI工具 兼任網絡安全攻守要員？
生成式人工智能正改變網絡安全生態，無論是攻擊者抑或是防禦者，都加以利用，將之變成有利自己的工具。近日威脅情報平台 Recorded Future 的 CEO Christopher Ahlberg 表示，不受道德或法律約束的網絡犯罪分子，爭相利用 AI 尋找新的黑客技術；另一方面，防禦者也正在使用相同的技術，來保護關鍵基礎設施、政府組織和企業網絡。
早前 Google 的 AI 之父 Geoffrey Hinton 公開表示已經離職，更對外聲稱對發展 AI 的事業感到後悔不已，並曾指出讓電腦學會自我改進，是一件相當危險的事，當下人類應認真考慮，如何控制人工智能。
生成式人工智能幫助犯罪分子開發新的攻擊策略及模式，使他們能夠比網絡安全防禦發展行快一步，包括自動執行攻擊、掃描攻擊面，並生成令不同地區的人有共鳴的內容，令他們能夠針對不同國家或地區，作出更廣泛的攻擊，令更多人受害。他們使用 AI 來創造令人信服的網絡釣魚電子郵件，由 AI 生成的文本讓攻擊者製作出具有高度個人化的電子郵件和短信，提升詐騙成功的機會。
而防守方亦同時使用 AI 來抵禦攻擊，不少組織正在使用 AI 來防止資料洩漏，並利用 AI 去主動地發現網絡漏洞。AI 還可以自動執行任務，例如為特定關鍵字設置警報和於線上檢測敏感訊息。打擊威脅者亦正使用 AI 來識別異常。這項工作仍然需要人類專家，但 Ahlberg 指 ChatGPT 等具生成能力的人工智能技術可以提供協助，加快分析週期，直言：「我認為我們看到了突破。」
Ahlberg 還提到高度智能機器可能帶來的潛在威脅。他指，隨著世界變得越來越數碼化和互相聯繫，不法分子伺機扭曲現實和塑造認知的能力。這些威脅並不僅限於針對國家層面，令形勢更加複雜和不對稱。
人工智能或能幫助抵禦新出現的威脅，但它也帶來一系列相關風險。例如具有高處理能力的機器，可以比人類更快、更有效地破解系統。而為了應對這些威脅，我們需要確保以誰在控制人工智能，並清楚地了解防禦方式。
而隨著人工智能越來越融入社會，並被廣泛使用，立法者、法官和其他決策者，均需積極了解這項技術及其影響，並在技術專家和政策制定者之間建立強大的聯盟，這對於搜尋威脅，以及在未來其他領域引入人工智能至關重要。
人工智能在網絡安全方面的機遇、挑戰和倫理考慮，既複雜也在不斷發展。因此確保人工智能模型的公正性，並保持人類參與相關決策，於應對道德挑戰也非常重要。保持警惕、協作和對技術的清晰理解，能解決高度人工智能的潛在長期威脅。
Ahlberg 又表示，對中國、俄羅斯和其他經濟對手所部署的自動運行機器感到擔憂，他認為這些國家可能不會放慢 AI 的發展，或有道德考慮。雖然能控制對此類機器「拔下插頭」，是一種明智的保障措施，但他表示，將技術融入於社會和全球經濟，可能會使其更難以分離。Ahlberg 強調，需要在設計產品和機器時，明確地指出控制它們的人。
資料來源：https://www.zdnet.com/article/chatgpt-and-the-new-ai-are-wreaking-havoc-on-cybersecurity/
相關文章：【生成式AI大限？】中國政府擬規管 推出服務前要先審查
