【目無法紀】網絡罪犯利用AI製孌童照　自己個女都唔放過？

早前有外媒報道，一名叫 Justin Culmo 的網絡罪犯被指控利用生成式 AI 製作孌童及虐兒照並在網上發佈及銷售，涉及的數量多達數千張，當中更有他女兒的照片，而 Culmo 拍攝素材的場地，更是在美國佛羅里達州的夢幻樂園 Disney 內，再次引起公眾對監管生成式 AI 的爭議。

生成式 AI 自前年開放讓公眾使用後，雖然對提升企業工作效率及網民的日常生活帶來不少便利，但同時間網絡罪犯亦借用來犯案，例如以 deepfake 技術製作虛假影片或進行電話詐騙，借用 AI 編寫網絡攻擊程式等，因而在社會上引起不少爭議，希望能有效監管這些 AI 應用，避免被不法之徒利用。

事件中，根據負責案件的聯邦探員說法，Culmo 承認使用 Stable Diffusion AI 圖像生成模型的其中一個版本，以及使用 GoPro 在 Disney 及一間學校內所拍攝的照片，不斷用 AI 製作孌童及虐兒照，又通過暗網散播這些照片。前國土安全部探員更表示這個案例清楚地突出了 AI 被網絡罪犯惡意使用下，的確會對兒童權益造成剥削。

這個案件是一系列使用 AI 將真實兒童照片改變獲利的案件之一。近幾個月來，美國司法部採取了強硬立場，誓要以最大力度起訴此類利用 AI 犯罪的行為。不過其中一個要解決的難題是如何偵測違法使用，以 Culmo 案件為例，他特意使用 Stable Diffusion 1.5 版本進行改圖，是因為這個版本容許離線生成圖像，因而服務供應商無法透過用家輸入的關鍵詞去偵測。

製作孌童及虐兒材料最高可被判監30年

Culmo 被控多項罪名，如果罪名成立可被判監，每項製作孌童及虐兒材料罪可被判處 15 年至 30 年的監禁；散佈孌童及虐兒材料罪則可被判處 5 年至 20 年的監禁；另外，持有孌童及虐兒材料罪最高可被監禁 20 年。

起訴書還指出，聯邦政府計劃沒收 Culmo 用於犯罪的個人財產。Culmo 的犯罪行為並非個例，根據美國國家失蹤與受虐兒童中心（NCMEC）的數據，2023 年便有 4,700 宗有關生成式 AI 製作孌童及虐兒照片或影片的報告，看來各國政府極需盡快解決 AI 被濫用的問題。

資料來源：https://www.forbes.com/sites/thomasbrewster/2024/08/30/pedophile-filmed-kids-at-disney-world-to-make-ai-child-abuse-images-cops-say/?ss=cybersecurity

網絡安全公司 Green Radar 推出雲端員工培訓平台，透過短片形式，由淺入深向員工講解網絡安全注意事項，更備有即時考核，評估員工學習進度及企業網絡安全風險。立即登記與專家聯絡： https://bit.ly/4dX1oO4