【公開挑戰】OpenAI生成賞金獵人計劃 教ChatGPT變壞不在獎賞範圍
OpenAI宣布,為了提升網絡安全性,將會推出自家的賞金獵人(bounty hunter)計劃,只要有人向公司舉報安全問題,一經確認即可獲得 200 至 20,000 美元賞金。不過,OpenAI 指明賞金只對應系統存在的安全漏洞,不包括破解版的 ChatGPT。
自從 OpenAI 去年推出 ChatGPT 人工智能聊天機械人後,隨即引來各界關注,更帶動其他科技公司推出各種 AI 服務,加速業界發展。不過,快並不一定是好事,好似 OpenAI 在推出 ChatGPT Plus 訂閱服務後,卻被用家發現存在安全問題,用家竟可在介面上發現其他用家的個人私隱及信用卡資料。
雖然 OpenAI 事後發現問題出在第三方服務供應商 Redis 的開源 Library 上,但亦難以完全甩身。相信經過上次事故,才令 OpenAI 更積極推出賞金獵人計劃。
OpenAI 表明,涉及演算模型的問題,以及透過「咒術」解放人工智能道德安全設定,均不會納入賞金獵人計劃之列,所以就算你有方法解放另一個 DAN 出來都好,都只可以為你帶來掌聲。
從網絡安全角度來說,賞金獵人計劃非常有存在價值,因為即使企業內部安全團隊日以繼夜工作,也未必可以第一時間發現系統或應用服務中存在的漏洞,再加上開發隊團對自己的產品可能存在先入為主的安全盲點,所以如能借助其他業內精英之手,便可更快找出漏洞並加以堵塞。
不少科技企業也有自家的賞金獵人計劃,例如 Meta 便針對旗下不同產品作出懸賞,包括其元宇宙的重要 VR 器材 MetaQuest Pro 及 Facebook 等。此外,亦有白帽黑客組織如 HackerOne 會與大企業合作,讓旗下的白帽黑客可以更容易通過平台舉報各種漏洞。
至於對白帽黑客來說,賞金獵人亦有其吸引力。根據去年黑客組織 Intigriti 發表的一份調查報告顯示,在 1,700 名有填交問卷的全職與兼職白帽黑客中,有 96% 表示願意為賞金獵人工作投入更多時間,66% 更表示希望可以全職工作。
而在各種吸引受訪者成為賞金獵人的原因中,約有一半承認是因為可賺取更多收入及能夠在家隨時工作,享有較大自由度。再者通過舉報漏洞,也是黑客展示實力的好機會,不單可以打響知名度,還有可能被科技大企睇中邀請加盟。
雖然賞金獵人計劃看似好處極多,但亦有安全專家表示,以金錢掛帥的獵人有可能會優先將注意大集中在賞金較豐厚的問題上,忽略風險較低的問題,所以並不是一個無懈可擊的安全方案。
相關文章:【瓣數多多】應用GPT技術提升網絡安全 Sophos研英文落指令