2022-04-15 10:39:53

Deepfake「換臉」成詐騙新手法浙男被「好友」騙5萬

使用Deepfake技術「換臉」已成為騙徒詐騙新手法。官媒新華社報道，近日多地都發生AI換臉詐騙案，其中浙江溫州一名男子被「好友」騙走近5萬元(人民幣，下同)，安徽合肥則有犯罪集團專門製作換臉短片出售予不法分子，每條只需幾十秒就製成，雖然最便宜僅賣2元，但「客戶」往往成百上千購買，利潤空間巨大。

騙徒換臉「視頻聊天」博取信任

該名溫州姓陳男子2月15日突然收到身在外國的好友私信「加我的新微信」後照做，一番寒暄後，對方聲稱近日準備回國，已付8,000元訂金買機票，但受國際漫遊限制，聯絡不到內地的航空公司經理支付餘額，要求陳男為其聯絡。陳男猶豫期間，「好友」邀請「視頻聊天」，但對鏡頭揮手打招呼後即收線，稱當地網絡很差，之後又傳送已向陳男轉帳49,200元的截圖，稱24小時內到帳。

從社交平台短片截圖換臉

陳男不虞有詐，隨即按「好友」指示將49,200元轉帳予「航空公司經理」，未料當晚突然找到「好友」舊帳號時，詢問對方此事，對方懵然不知，陳男才驚悉受騙。警方證實，騙徒從陳男該名好友在社交平台上發布的短片截取面部畫面後，利用AI換臉技術「換臉」詐騙。

換臉效果逼真呃到人工審核

至於安徽合肥的犯罪集團，去年4月已被搗破。8名成員從網上購買換臉教程和軟件，花幾個月「自學成才」後「開業」，大量收購自拍照和「配套」的身份證正反面等「材料」，然後招攬客人，製作效果極為逼真的「人臉驗證」短片，以通過手機卡實名註冊的人工審核，結果大量手機卡流入犯罪集團，用於電騙、網絡賭博、洗錢等犯罪活動。

報道引述其中一名在網上售賣換臉教程和軟件套裝的賣家介紹，套裝分400元及800元兩款，800元的高級版「過人臉(驗證)成功率超高」，人工審核也難辨真假。

專家憂驗證技術升級速度跑不贏偽造技術

清華大學人工智能研究院基礎理論研究中心主任朱軍坦言，公眾對照片等易被篡改的靜態信息已有所警惕，但仍較為信任短片、聲音等動態信息內容，惟深度合成技術飛速演進，令到「眼見不再為實」，破解身份驗證的難度將愈來愈低、耗時愈來愈短。浙江大學網絡空間安全學院院長任奎亦認為，隨著合成技術應用門檻進一步降低，合成內容已模糊真實與偽造的邊界。

專家都擔心，儘管針對深度合成技術的識別技術不斷迭代、檢測手段持續增強，但依然未能跑贏「偽造」技術升級的速度。專家又提醒，民眾要提高防範意識，不要輕易提供人臉、指紋等個人生物信息予他人，亦不要過度公開或分享動圖、短片等；網絡轉帳前要透過電話、視像等多種溝通方式驗證對方身份，一旦發現風險，及時報警求助。