IT業界資訊媒體

【矛盾大對決】用 AI 去攻 AI 會點呢?

近年好多網絡保安方案都標榜 AI(人工智能)及 ML(機器學習)技術偵測釣魚網址,比起傳統人手方法,確實有效好多, 更有案例顯示,利用 AI 偵測系統嘅偵破率能高達 98%。

每次聽到呢度,就會失眠:如果 hacker 又用 AI 去攻擊,咁會點呢?

釣魚網址生產器 DeepPhish

終於有班科學家做咗呢個實驗,佛羅里達網絡保安公司 Cyxtera Technologies 團隊利用 Long Short-Term Memory NetworksLSTM,長短期記憶神經網路)創造咗 DeepPhish,一個 AI 技術去演算釣魚網址嘅系統。

AI 創作釣魚網址,成功率提升

科學家從釣魚網址數據庫 Phishtank 中分析過萬條釣魚網址樣本,得出兩組不同類型的釣魚網址。先將兩組釣魚網址畀一個現役 AI 偵測系統,成功避過 AI 法眼嘅網址只得 0.69% 4.91%。然後,科學家將結果餵畀 DeepPhish「學習」,再生產出同樣數量嘅兩組釣魚網址,再去進行偵測。結果,DeepPhish 嘅「新作」能避過偵測嘅成功率大幅提升至 20.9% 36.28%!換句話講,AI 偵測系統效能明顯下降。

成也 AI,敗也 AI

其實 20.9% 36.28% 嘅成功率已經有夠危險,因為中招嘅嘢,一次都嫌多。呢個「以子之矛,攻子之盾」嘅對決勢必一直上演,而無論兵還是賊,AI 只會越來越聰明,成也 AI 敗也 AI,諗起都有啲心寒。

資料來源:https://bit.ly/2IcMGlU