△慶南地方警察廳

據韓國慶南地方警察廳5月22日通報，警方近日破獲一起利用人工智能技術制作、傳播“深度偽造（Deepfake）”色情視頻（即AI換臉色情視頻）的重大案件，已逮捕23名犯罪嫌疑人，年齡跨度從10歲至40余歲。這些嫌疑人主要罪行包括制作性剝削材料和傳播虛假視頻等。

△受害者的臉被“移植”到色情視頻的示意圖

案件核心嫌疑人是一名高中生（A某）。調查顯示，A某從去年11月至今年4月期間，創建并運營了三個聊天群組，上傳了約500部自制合成色情視頻。其同伙包括15名青少年和7名20至40多歲的成年人，這些人在群組中累計制作分享了3500余部色情視頻。涉案的聊天群組參與者高達840余人。

△示意圖

警方調查發現，犯罪團伙利用市面上可免費獲取的AI應用程序，將女明星和普通女性的面部圖像移植到裸照上，制作成逼真的偽造視頻。今年2月，警方接到線報稱某群組“OOO Room”內有人使用十幾歲和二十幾歲青少年偶像照片制作Deepfake視頻，隨即展開調查。

A某等嫌疑人供述犯罪動機“純粹出于性好奇和好玩心理”。

目前，韓國警方正在追查更多Deepfake性犯罪。

來源：瀟湘晨報記者何博奇