IT業界社群及資訊平台

【AI阻性侵犯】Instagram保障未成年用家 人工智能揪出假青少年

與 Facebook 不同,Instagram 較受青少年用家歡迎,因此不少性罪犯都會利用該平台,私下接觸未成年用家。Facebook 為了保障這些用家,便交由人工智能技術去評估帳戶持有人的真實年齡,如發現是用家「扮後生」,便會阻止他們與青少年用家接觸。究竟如何執行?

人工智能 (Artificial Intelligence) 的用途非常廣泛,它可以應用於工業、醫療、交通網絡、教育等範疇。而今次 Facebook 套用於 Instagram 的 AI 技術,便是為了防止青少年受到性侵,可說是非常特別的用途。近年不少性罪犯轉移使用社交平台或即時通訊的私訊功能,扮演成不同角色接觸青少年,混熟後便露出獠牙,或約青少年外出性侵,或取得青少年的私密相片勒索。有研究報告顯示,過去兩年超過七成的青少年性侵事故都是藉由Facebook、Messenger、Instagram、WhatsApp 或 Snapchat 等通訊工具作為起點,當中約 25% 性罪犯更是使用 Instagram,因此 Facebook 便於今年三月,宣布在 Instagram 推出這項新功能。

Facebook 的人工智能保護青少年功能,首先是通過收集大數據 (Big Data),分析一般成年人的行徑,以便系統在有人開設新帳戶時,初步評估其真實年齡。Instagram 方面指出,由於他們在處理會員之間的 direct message 時,均會經過端對端加密 (end-to-end encryption),因此系統無法通過分析訊息內容,去評估雙方的年齡,因此只能通過其他行為作為依據,例如開設帳戶時用家填寫資料的習慣、關注的帖文、帳戶活動等等,一旦系統認為用家的真實年齡與填寫的不符,而且屬於 18 歲或以上,當這用家向不認識的未成年青少年發送訊息,系統便會向他發出未能傳送的通知。同樣地,系統亦會向該青少年發出通知,告知有可疑人士嘗試與他們接觸,讓他們可以提高警覺。

Instagram的新功能看似好用,不過,前提必須是青少年的帳戶必須設定為private,即未經許可,其他用家無法直接追蹤(follow)及閱讀其帳戶資料。官方指出,私人帳戶可保障其他用家無法輕易搜尋青少年的帳戶,減少被私下接觸的風險。雖然這項私隱設定有可能影響青少年帳戶的追蹤人數及人氣,不過如果可以防犯陌生人的騷擾訊息,又何樂而不為?此外,Facebook方面指新功能只是第一階段,未來數月還會陸續推出更多保障青少年用家的功能,大家可以拭目以待。

資料來源:https://bit.ly/3unqIVu

Privacy Preference Center