IT業界資訊媒體

【智能受騙】AI 將喵星人變牛油果醬

人工智能(Artificial Intelligence)可以話係科技界最 Hit 詞匯,業務內容有 AI ,即刻會俾人睇高一線,好似我哋之前都報導過話有 40% 初創公司扮有運用 AI。其實人工智能係咪一定好? Google 研究員 Nicholas Carlini 早前就喺三月初舉行嘅全球資訊科技安全大會上,示範點樣用圖像同聲音嚟欺騙 AI 嘅學習功能,令系統將一幅喵星人嘅相誤認為牛油果醬,巴哈嘅交響樂變成狄更斯嘅名言。

Carlini 指出 AI 學習功能,其實是透過一種擬似人腦嘅神經系統去儲存數據,以示範嘅喵星人相為例,雖然肉眼望落好似一樣,但係 AI 嘅「法眼」之下,就發現其中一幅相多咗好多小黑點,同以前學習返嚟嘅形象唔同咗;當差異超過一定程度,AI 就會放棄再當佢係一隻貓,轉而搜尋其他相似嘅物件。如果發生喺無人駕駛嘅自動導航車之上,有人刻意令 AI 將停車指示牌誤讀為高速行駛路牌,到時就好大件事。

同樣情況亦發生喺聲音辨識上,Carlini 喺巴哈其中一段交響樂落咗手腳,令語音辨識系統聽出狄更斯喺《雙城記》內嘅名言 “It was the best of times, it was the worst of times.” 所以要暗中指示人工智能系統做出一啲發送私隱資料嘅語音指令,其實唔難。

所以話,人工智能系統雖然可以好大程度幫到人類解決問題,但如果喺設計時盲目賦予佢太多功能,例如喺文字輸入預測時懶叻咁喺數據庫內抽出身份證號碼、信用卡號碼等個人私隱資料,反而有可能將佢變成「豬一般嘅隊友」!

【智能受騙】AI 將喵星人變牛油果醬

資料來源:https://bit.ly/2H622N3