刑事局指出,深偽技術(Deepfake)越來越盛行,根據警方的報案統計,類似案件多是P圖詐騙,真正遭不法分子利用深偽技術製作的影像詐騙紀錄,目前未發現有報案,不過深偽技術除了影像還有聲音,曾作為歹徒從事不法活動的輔助工具。
刑事局去年偵破詐騙案,詐團購買AI語音機器人服務,亂槍打鳥撥打民眾電話,AI機器人語氣自然與真人無異,與民眾對話可研判是否對投資有興趣,若發現民眾有興趣後,會立即發送詐騙簡訊給民眾,十一個月共發送六千萬則詐騙簡訊。
刑事局指出,深偽影像技術以深度學習演算法的程式,修改人物面孔至肉眼難辨真偽的影像,單純剪接影像替換片段者並不在此列,若收到歹徒寄送的換臉照片,算是種P圖手法,過去修圖犯罪就已經出現,但修圖犯罪還達不到深偽犯罪的技術水準,民眾發現遭深偽影像詐騙,可向警方報案並提供影像。