近日，全國多地警方發布了多個“AI詐騙”的典型案例，引發大眾對于使用人工智能技術進行詐騙的案件頻發進行探討。揚子晚報/紫牛新聞記者注意到，這些被騙典型案例中不乏有被騙上百萬的受害者，并且詐騙手段也從以往的圖片、電話聲音造假，逐漸發展成視頻造假。網絡安全從業人員告訴紫牛新聞記者，當下AI技術的發展使得技術運用門檻降低，容易被不法分子利用，而相應防范手段卻顯得滯后，普通大眾更需要提高自身防范意識。

AI詐騙話題登上熱搜?

(資料圖)

AI換臉技術被引入詐騙

記者實際體驗發現“質量高，速度快”

網絡安全從業人員小鄭告訴紫牛新聞記者，隨著人工智能技術的發展，不少例如AI換臉、AI語音合成的技術門檻已越來越低。小鄭介紹，早些年犯罪分子們就會通過使用PS等圖片合成軟件，在有經驗和技術能力的人員操作下，合成不少以假亂真的圖片用以實施詐騙。而如今，AI替代了合成技術人員，能夠在犯罪分子使用簡單指令和操作下，自動完成細致到毛發、光影都真實的合成圖片。并且AI的工作效率能短時間生成大量圖片合成視頻，這樣也就實現在視頻中以假亂真換臉。而音頻合成詐騙電話早些年就已出現，甚至有犯罪分子通過騷擾電話的形式來錄取受害者聲音特征，最終合成音頻實施詐騙。

藝術工作者用AI進行創作（圖源小紅書用戶）

在專業人員指導下，紫牛新聞記者體驗了多款AI換臉合成工具。其中一款國外軟件被稱為效果最好最自由的工具，本意是為了幫助藝術創作者提高工作效率，最后卻因功能強大和免費開放下載，成為當前AI換臉違法行為的主要工具。記者在電腦上安裝好軟件后，使用網絡下載的明星臉部模型，加上網絡分享的指令，最快5秒就能生成一張該明星極為真實的照片，而通過指令的改變可以隨意切換場景、人物動作、表情等細節。

記者同時還使用了自己平時20張左右的生活照提供給AI，嘗試對其進行換臉訓練，AI用幾小時時間就掌握了記者的面部特征，并生成一個帶有記者臉部信息的模型文件。運用該模型，記者嘗試了正面、側面等多角度人物照片生成，結果幾秒內導出的照片就已非常近似記者本人照片。小鄭告訴記者，AI的學習能力很強，如果能有30張以上的人物露臉照片，就能生成很真實的圖片。

不少視頻app中帶有換臉功能?

紫牛新聞記者在手機軟件下載程序中搜索“AI換臉”，可以搜索到數十種各類換臉軟件，其中不少的介紹都包含“一鍵視頻換臉”“一鍵換裝換發型”等宣傳。而一些主流的短視頻軟件中，也出現了植入的換臉特效。記者使用發現，只要上傳自己的一張照片，再配合軟件給出的一些影視片段、網絡視頻，就可以自動生成惟妙惟肖的換臉視頻。

視頻中除了臉型變化不大，人物的五官基本都被替換，而且色調、光線等方面均沒有什么違和感，只是在側臉時會露出一些“破綻”，以及臉部有時會出現一些特殊的抖動，這些軟件制作的換臉視頻以娛樂為主，細看還是很難亂真。不過據小鄭介紹，目前所有的軟件都還需要一定時間的計算和生成，想做到實時的“換臉”對硬件要求很高。

各類軟件的層出不窮，也帶來不少法律問題。近期，上海一家網絡公司就因換臉手機APP新增多份肖像權糾紛裁判文書。據悉，該公司未經原告許可擅自使用其影像作品，并制作融臉視頻模板，提供給付費會員使用。多位網紅起訴該公司，法院認為，涉案軟件生成視頻除臉部特征以外，動作、背景、視頻角度與原告發布的視頻均高度雷同一致，部分視頻存在明顯的“換臉”痕跡，系利用信息技術手段偽造等方式侵害原告的肖像權。

如何識別和預防AI換臉

提高防范意識減少信息暴露是關鍵

紫牛新聞記者注意到，在AI換臉圖片、視頻層出不窮后，如何鑒定相關內容真假成為了不少網友討論的熱點。一名現常使用AI進行寫真創作的設計師告訴記者，AI制作的真人照片與視頻如今還存在一些沒有完善的地方，例如AI生成的人眼神會比較奇怪，常出現瞳孔不自然，呆滯無神的情況。此外，一些人物身體細節也是容易出錯的區域，例如手部手指的不自然、人體比例的不協調等。但該設計師表示，這些情況可能在隨著AI技術快速進步而逐漸得以解決。

網友分享經驗：AI生成圖手部與眼睛容易存在問題?

與此同時，也有不少平臺開始嘗試利用技術手段識別AI生成圖片。記者在抖音、嗶哩嗶哩、小紅書等平臺看到，一些看似真實的照片被識別判定為AI生成內容，使用眼神、手部等細節觀察法，確實也能發現照片為假。不過類似平臺的技術手段依然存在不準確的問題，不少作者明確注明AI創作的情況下，判定系統未能識別成功。

平臺通過技術手段來提醒AI生成內容?

除了平臺可以加大對AI生成內容的管控提醒下，個人也需提高警惕性，例如在碰到涉及轉賬、支付等情況時，通過特殊的問題提問，指定行為不同角度的視頻要求等形式來確定對方身份，同時要求對方用手指在臉前比劃看是否有穿幫。

多位AI圖像技術使用者告訴記者，大眾在使用社交軟件時，一定要盡可能少發布個人正面照片或視頻，不提及年齡、工作、所在地等內容，減少個人信息的暴露。同時對于網上信息，一定要留有疑心，多方求證，不輕易相信任何一個涉及個人財產的恐嚇信息，及時通過報警等合法有效渠道保障自身權益。

揚子晚報/紫牛新聞記者 劉瀏 見習記者 陳燃

校對 陶善工