[ 林智明 ]——(2025-4-18) / 已閱916次
AI換臉犯罪的刑法規(guī)制研究
-------------------------------------------------------------------------------------
[內(nèi)容提要] AI換臉技術(shù)本質(zhì)是深度偽造技術(shù)，其從一開始就一棵“從頭爛到根”的技術(shù)枯樹，在社會的廣泛濫用具有極大的社會危害性，需要加強刑法應(yīng)對與規(guī)制。解釋論充分發(fā)揮了既有刑法罪名體系的作用，但類推適用具有違法嫌疑，在改用歸納法之后，其才具備了科學(xué)的方法論基礎(chǔ)，在一定程度上對AI換臉犯罪予以規(guī)制。但隨著技術(shù)的進步與社會的發(fā)展，制定刑法修正案專門規(guī)制AI換臉犯罪將尤其有必要。一方面需要禁止深度偽造技術(shù)的犯罪及其非法牟利產(chǎn)業(yè)化，另一方面也需要追加網(wǎng)絡(luò)平臺監(jiān)管責任及其幫助犯罪責任，更需要針對AI換臉實際修改刑法既有罪名完善民事刑事化制度，同時采用擇重罪處罰的原則協(xié)調(diào)AI換臉犯罪專門立法與刑法既有罪名體系的關(guān)系，堅持綜合治理與源頭治理。全文9800字。
[作者簡介] 林智明，上海市律師，聯(lián)系方式：lincon76@163.com
-------------------------------------------------------------------------------------
人工智能正在并將繼續(xù)改變與塑造21世紀人類社會的未來。作為新時代新一輪科技革命的先行者，人工智能在帶來經(jīng)濟社會發(fā)展給人民生活創(chuàng)造極大便利的同時，也帶來了諸多的社會治理問題。美國首富馬斯克就說：“人工智能在為人類社會帶來80%機遇的同時，也帶來了20%的風險”、“人工智能猶如核彈的風險，其發(fā)生無須人類同意”，警示人類要注意人工智能的顛覆性�！癆I換臉”軟件技術(shù)就是人工智能作為一柄雙刃劍具有較大較高風險的顯著代表與有力明證。其來源于美國產(chǎn)生的“深度偽造”（Deepfake）技術(shù)。2017年11月，一位名位Deepfake的用戶在美國Reddit網(wǎng)發(fā)布了其利用“AI換臉”技術(shù)合成的女明星的色情視頻與圖片，并在Git Hub社區(qū)上將其技術(shù)代碼開源，促進了該項技術(shù)的迅速發(fā)展，引起了美國國家與社會的高度重視。2018年至2019年美國先后提出了《2018年惡意偽造禁令法案》、《2018年深度偽造法案》，各州也紛紛出臺一些禁止“AI換臉”技術(shù)的法案或禁令。比如加州州長加文·紐瑟姆（Gavin Newsom）簽署了AB730號法案認定向公眾傳播利用AI換臉技術(shù)制作的虛假視頻用于破壞選舉構(gòu)成犯罪。[ 加州法案：《未經(jīng)當事人同意，不得利用AI換臉技術(shù)制作色情視頻》[E]B/OL].[2022-3-022]。https://baijiahao.baidu.com.]2019年AI換臉技術(shù)傳入我國，一個專門的服務(wù)軟件ZAO迅速在各地傳播，有人在網(wǎng)絡(luò)上將94年版《射雕英雄傳》的黃蓉女主角從朱茵換成為當紅女星楊冪，引發(fā)了社會廣泛關(guān)注。這直接推動了AI換臉技術(shù)以及其他人工智能法律與規(guī)定的發(fā)展。2019年《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》、《網(wǎng)絡(luò)音頻視頻信息服務(wù)管理規(guī)定》、2020年《信息安全技術(shù)個人信息安全規(guī)范》以及2022年《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律均對AI換臉等深度合成技術(shù)進行規(guī)定。但至今刑法學(xué)界的反應(yīng)過于保守，導(dǎo)致AI換臉技術(shù)及相關(guān)灰色褐色產(chǎn)業(yè)沒有入刑。筆者擬進行些探索，希望對國家刑事立法的發(fā)展能有所裨益。
一、“AI換臉”技術(shù)社會危害性的現(xiàn)象學(xué)觀察
事實上，刑法具有謙抑與積極兩種品格，兩者的分水嶺在于社會行為是否具有社會危害性，達到應(yīng)受刑事處罰的犯罪行為的程度。[ 參見張明楷：《網(wǎng)絡(luò)時代的刑法理念——一刑法的謙抑性為中心》，《人民檢察》2014年第9期；王�。骸斗e極刑法觀的反思與批判》，《法學(xué)》2022年第2期。]若果社會行為不具有社會危害性或社會危害輕微，依法不屬于刑法加以調(diào)整的對象，此時刑法應(yīng)保持足夠的謙抑態(tài)度，堅持不動用刑事手段干預(yù)民事經(jīng)濟糾紛的守則，不亂動刑罰對社會進行普遍的評價啊。一旦國家立法作出了歸屬犯罪行為的肯定性評價，就應(yīng)制定國家刑事立法制度，積極加以定性定罰，用罪刑法定的方法加以規(guī)范調(diào)整�！癆I換臉”技術(shù)以非法獲取個人信息偽造虛假視頻音頻圖片始，經(jīng)過各類網(wǎng)絡(luò)平臺傳播，并未牟利目的開展了產(chǎn)業(yè)化發(fā)展，最后以犯罪刑罰宣告落幕，處處充滿社會危害性及相關(guān)刑事風險，是一棵“從頭爛到根”的枯樹，國家與社會應(yīng)動手刑法與刑罰武器予以堅決的打擊與徹底的鏟除。我們可從社會現(xiàn)象以及真實案例的多個應(yīng)用場景中發(fā)現(xiàn)“AI換臉”技術(shù)社會危害性的蛛絲馬跡。
現(xiàn)象一：在全國首例人工智能犯罪案中，[ 參見：《全國首例利用AI侵犯公民信息犯罪案告破，黑客破解驗證碼快至毫秒》，維信公眾后“首都網(wǎng)警”，2017年10月5日。]李某等黑客團伙利用超級SQL注入工具，批量掃描網(wǎng)站程序漏洞，非法獲取網(wǎng)站后臺用戶注冊數(shù)據(jù)，以每10萬條50至100元賣給線下曬密人員。后者利用撞庫軟件進行批量撞庫匹配，獲得用戶的賬號密碼利用用戶頭像進行成功詐騙。非法竊取與獲得用戶照片等信息為犯罪提供條件與幫助顯然具有社會危害性。根據(jù)Deepfake、ZAO等AI換臉技術(shù)，其利用“深度學(xué)習”算法開展工作的。該算法構(gòu)造了“生成與對抗網(wǎng)絡(luò)”，生成神經(jīng)網(wǎng)絡(luò)負責將源數(shù)據(jù)合成為虛假數(shù)據(jù)，對抗網(wǎng)絡(luò)則對虛假數(shù)據(jù)與真實數(shù)據(jù)進行覆蓋對比。如果兩者的對比超過了允許的誤差范圍，則系統(tǒng)返回生成網(wǎng)絡(luò)繼續(xù)學(xué)習，知道偽造的虛假數(shù)據(jù)與真實數(shù)據(jù)無限接近。因此，“AI換臉”技術(shù)擁有了無限學(xué)習監(jiān)督能力與自我生成能力，其可以提高虛假數(shù)據(jù)的逼真程度，將虛假人臉圖像覆蓋與替代原人物面部。[ 參見暴雨軒、蘆天亮、杜彥輝：《深度偽造技術(shù)檢測綜述》，《計算機科學(xué)》2020年第9期。]此種技術(shù)為實現(xiàn)深度偽造實現(xiàn)AI人臉變換需要大量個人信息。一般是通過用戶在網(wǎng)站、APP上傳的個人注冊信息以及照片集為基礎(chǔ)素材的。故其實際應(yīng)用往往多與非法獲取用戶注冊賬號與密碼等非法行為聯(lián)系在一起，以非法獲得、竊取或盜取用戶照片偽造虛假照片為基礎(chǔ)，客觀上制造了人臉數(shù)據(jù)這個利益可觀的地下灰色產(chǎn)業(yè)鏈。在這個意義上，“AI換臉”技術(shù)沒有多少社會正面價值，從一開始，這項技術(shù)就戴上了非法竊取的外衣。
現(xiàn)象二：2019年都市情感劇《都挺好》開播后，網(wǎng)絡(luò)上出現(xiàn)了眾多調(diào)侃“蘇大強”的現(xiàn)象。有網(wǎng)絡(luò)用戶利用“AI換臉”技術(shù)將演員吳某某的照片代替了“蘇大強”的照片，并在網(wǎng)絡(luò)上傳播引起不少網(wǎng)友對生成照片的吳某某進行譏諷與嘲笑，甚至進行人格侮辱。[ 參見袁佳音：《人工智能時代我國刑法面臨的挑戰(zhàn)與應(yīng)對》，《洛陽理工學(xué)院學(xué)報（社會科學(xué)版）》2020年第1期。]“AI換臉”技術(shù)應(yīng)用的關(guān)鍵環(huán)節(jié)就是將現(xiàn)實中人生成虛假人臉替代了劇中人，實現(xiàn)了對現(xiàn)實中人的“惡搞”與“取鬧”。這體現(xiàn)了“AI換臉”技術(shù)就是純粹的偽造技術(shù)，利用高度仿真效果顛覆了人們對客觀世界的真實認知，讓人信以為真，從而影響對客觀世界進行正確的評價。以換臉軟件ZAO為例，其通過強制性的用戶協(xié)議規(guī)定用戶上傳本人照片后，ZAO可以任意使用與修改用戶或者其他人的人臉與身體照片，進行了大量為非法牟利目的的偽造，為非法濫用提供了幫助，進而侵犯了公民肖像權(quán)和名譽權(quán)�！翱梢哉f，AI換臉技術(shù)在席卷全球，在帶來客觀的數(shù)字經(jīng)濟的同時也顯示了對人類社會潛在的巨大破壞性，引發(fā)了廣泛深刻的技術(shù)倫理擔憂�！盵 參見劉文濤：《AI換臉技術(shù)的應(yīng)用風險及法律規(guī)制》，《電子科技大學(xué)學(xué)報（社會科學(xué)版）》2024年第2期。]
現(xiàn)象三：近日杭州互聯(lián)網(wǎng)法院公開宣判一起涉及人臉AI技術(shù)濫用的民事公益訴訟。杭州市蕭山區(qū)人民檢察院起訴被告虞某不經(jīng)被編輯人同意，濫用AI換臉軟D件，替換合成他人人臉信息，制作虛假的換臉視頻，非法謀取利益。法院判決被告刪除非法獲得的個人信息，公開賠禮道歉，消除影響，并賠償6萬元損失。[ 參見：《張捷財經(jīng)觀察：濫用AI換臉牟利，以民代刑變相保護惡行》，《今日頭條》2023年9月23日。]AI換臉技術(shù)的出現(xiàn)，通過深度學(xué)習算法和圖形處理技術(shù)，實現(xiàn)人物面部的精準變換，具有極大的便捷性。本案被告虞某正是濫用了此一技術(shù)，制作淫穢視，以達到吸引流量和謀取非法暴力的目的。正是可以高效非法牟利推動了AI換臉技術(shù)的產(chǎn)業(yè)化與規(guī)模化，大規(guī)模侵犯他人的肖像權(quán)與名譽權(quán)，危害了社會道德與公序良俗，具有極大的非法性與社會危害性。
現(xiàn)象四：2024年韓國再現(xiàn)“N號房”事件，首爾大學(xué)的犯罪嫌疑人利用深度偽造技術(shù)將女星本校學(xué)生及校友61多人受害者合成制作上千份色情照片和視頻，通過社交軟件Telegram建立十多個聊天室進行私密傳播，甚至將合成的淫穢視頻直接發(fā)送給受害者進行凌辱，該受害者造成了極大的精神折磨、社會痛苦與傷害。[ 參見：《韓國再現(xiàn)“N號房”事件，AI換臉的數(shù)字性犯罪敲響警鐘》，《澎湃新聞》2024年5月27日。]可見“AI換臉”技術(shù)在色情領(lǐng)域的濫用因具有高度的仿真性，達到眼見為實的效果，對受害人產(chǎn)生嚴重的精神受害，是十足的公然侮辱行為。
現(xiàn)象五：2024年香港警方破獲了一起多人換臉國際詐騙案，涉案金額高達2億港元。一跨國公司香港分部的員工應(yīng)邀參加總部財務(wù)會議，被首席財務(wù)官要求轉(zhuǎn)賬多次，將2億港元轉(zhuǎn)入其制定的5個銀行賬戶。其轉(zhuǎn)賬后與公司總部核對才發(fā)現(xiàn)被騙。經(jīng)警方調(diào)查，在該多人視頻會議中，除了受害人以外，其他所有人都是經(jīng)過AI換臉的詐騙犯。[ 參見：《Sora來襲AI換臉門檻降低，網(wǎng)絡(luò)安全公司何以應(yīng)對新風險》，《證券日報》2024年2月29日。]犯罪嫌疑人通過AI換臉實現(xiàn)人臉與表情仿真，與AI擬聲結(jié)合，就可以合成高度逼真的數(shù)字人，從而事實了網(wǎng)絡(luò)詐騙行為，給受害者造成了財產(chǎn)損失。
現(xiàn)象六：2020年2月至4月，犯罪人購買了“e2eSoftVCam”的攝像頭輔助軟件，并從蘋果手機應(yīng)用程序下載“輕松換臉”軟件，利用AI換臉技術(shù)逃避實名認證，非法注冊綁定被害人的車輛，在代辦審車與車輛違章業(yè)務(wù)中扣除被害人臨期駕駛證分數(shù)以幫助違章人員消除違章記錄，被河南省長恒市法院判決構(gòu)成非法侵入計算機信息系統(tǒng)罪。[ 參見：劉艷紅、姜文智：《AI換臉行為刑法規(guī)制的糾偏：法益與罪數(shù)的雙重路徑》，《中國社會科學(xué)大學(xué)學(xué)報》2024年第5期。]
現(xiàn)象七：2018年加蓬共和國總統(tǒng)阿里·幫戈·翁丁以視頻方式發(fā)布新年獻詞講話，稱自己身體不適但處在康復(fù)當中。軍方經(jīng)分析，認為視頻是使用深度偽造技術(shù)合成與制作的，總統(tǒng)本人可能已經(jīng)喪失了履職能力，遂據(jù)此發(fā)動軍事政變，導(dǎo)致國家政局動蕩不安。[ 參見劉國柱：《深度偽造與國家安全：基于總體國家安全觀的視角》，《國際安全研究》2022年第3期。]可見，AI換臉技術(shù)的不正當運用影響國家安全也不再是電影神話。其甚至可以當作有自主決策機制的自動武器或具有自主攻擊功能的人臉識別系統(tǒng)，給國家信息安全帶來極大的風險。
綜合看，遂著“AI換臉”技術(shù)的不斷迭代發(fā)展，其合成的虛假照片與視頻具有極大的欺騙性，嚴重歪曲了世界真相，其從非法竊取個人照片信息始，到網(wǎng)絡(luò)廣泛傳播，最后被宣告犯罪，無一環(huán)節(jié)不充滿了嚴重危害社會的風險，其相關(guān)的以非法牟利暴力為目的的灰色與黑色產(chǎn)業(yè)更無處不再，形成對正常社會秩序的嚴重沖擊，對人們個人信息、肖像、名譽、身心健康以及網(wǎng)絡(luò)安全甚至國家安全形成了多層次的廣泛危害。一言暼之，“深度偽造技術(shù)的濫用已經(jīng)超越了純粹人工智能技術(shù)邊界，邁入了違法犯罪的灰色地帶”[ 參見鄭高鍵：《深度偽造技術(shù)濫用行為的刑法回應(yīng)》，《法律科學(xué)》2025年第3期。]，刑法學(xué)有必要以積極刑法觀及時加以應(yīng)對。
二、“AI換臉”犯罪刑法規(guī)制的理論證成
刑法為什么要對“AI換臉”行為進行回應(yīng)？筆者認為，除了其在諸多方面對社會實際產(chǎn)生了危害的表面性因素外，更有復(fù)雜的刑法學(xué)內(nèi)在機理。希爾根多夫指出：“如果法學(xué)討論不致力于新型技術(shù)與社會問題的研究，法律就會滑向一個不受科學(xué)引導(dǎo)而純粹根據(jù)生活需要而設(shè)置的法律政策而掌控的深淵�！盵 參見[德]埃里克·希爾多根夫：《德國刑法學(xué)：從傳統(tǒng)到現(xiàn)代》，江溯、黃笑巖等譯，北京大學(xué)出版社2015年版，第18頁。]在全面依法治國時代，加強對“AI換臉”犯罪的打擊，促進人工智能技術(shù)合乎人類社會正當?shù)赖聝r值在法治軌道上合理健康發(fā)展，這是刑法學(xué)面對人工智能新現(xiàn)象的重大使命。
（一）從調(diào)整對象的角度“AI換臉”犯罪已廣泛存在
刑法學(xué)界已經(jīng)對“AI換臉”犯罪現(xiàn)象進行了充分的研究與概括。袁學(xué)者佳音認為AI人臉識別已經(jīng)在消費、金融、電商、安防、考勤打卡、考試實名認證等各領(lǐng)域廣泛使用，“AI換臉”如存在損害他人名譽的行為并在網(wǎng)絡(luò)上傳發(fā)布的，如果瀏覽量在5000次以上或被轉(zhuǎn)發(fā)次數(shù)在500次以上，造成被害人或其親屬精神失常、自殘自殺等嚴重后果的依法可構(gòu)成誹謗罪或侮辱罪。利用“AI換臉”技術(shù)合成他人的色情作品或虛假視頻在網(wǎng)絡(luò)傳播達到300至600人次以上或造成惡劣社會影響的，依法構(gòu)成傳播淫穢物品罪。[ 參見袁佳音：《人工智能時代我國刑法面臨的挑戰(zhàn)與應(yīng)對》，《洛陽理工學(xué)院學(xué)報（社會科學(xué)版）》2020年第1期。]學(xué)者劉文濤認為AI換臉技術(shù)存在私權(quán)利侵犯以及信息安全風險外，若網(wǎng)絡(luò)主播利用實時換臉功能進行在線網(wǎng)絡(luò)色情表演的，還可能構(gòu)成組織淫穢表演罪、侮辱罪和誹謗罪。換臉成為特定職業(yè)的特定人物騙取財務(wù)的，還涉及電信詐騙犯罪。偽造人臉識別認證，破解人臉識別系統(tǒng)，注冊虛假身份信息的還會成為計算機網(wǎng)絡(luò)犯罪的上下游關(guān)聯(lián)犯罪。[ 參見劉文濤：《AI換臉技術(shù)的應(yīng)用風險及法律規(guī)制》，《電子科技大學(xué)學(xué)報（社會科學(xué)版）》2024年第2期。]皮勇教授認為利用人工智能生產(chǎn)虛假信息并在網(wǎng)絡(luò)傳播達到危害社會秩序的程度構(gòu)成尋畔滋事罪，明知是虛假的險情、疫情、災(zāi)情、警情、恐怖信息而通過互聯(lián)網(wǎng)平臺散布的可構(gòu)成編造、故意傳播虛假恐怖信息罪和編造、故意傳播虛假信息罪。[ 參見皮勇：《人工智能生成虛假信息的刑法治理——以歐盟《人工智能法》中的安全風險防控機制為借鑒》，《比較法研究》2025年第1期。]陳興良教授認為生成式人工智能在實際應(yīng)用中會有侵犯詐騙罪、破壞計算機系統(tǒng)罪、傳播淫穢物品與傳授犯罪方法罪、侵害人格權(quán)罪、侵犯知識產(chǎn)權(quán)罪等五類刑事風險。[ 參見陳興良：《人工智能犯罪的刑法應(yīng)對》，《國家檢察官學(xué)院學(xué)報》2025年第2期。]可見，在當今信息技術(shù)與網(wǎng)絡(luò)飛速發(fā)展的時代，網(wǎng)絡(luò)犯罪包括“AI換臉”犯罪具有多樣化，已經(jīng)成為犯罪的主要類型�！癆I換臉”犯罪雖是網(wǎng)絡(luò)時代新現(xiàn)象，但其已以傳統(tǒng)的既有的犯罪體系發(fā)生碰撞，屢屢觸犯了傳統(tǒng)犯罪的底線，絕非是游離在犯罪刑罰框架以外的可肆意為之的行為。其從采取移花接木進行偽造時開始，就被列入刑法負面評價的黑名單，不屬漏網(wǎng)之魚，罪不可恕。
（二）從保護對象的角度“AI換臉”犯罪危害了社會秩序
有學(xué)者從法益的角度對“AI換臉”刑法規(guī)制進行了探討。他認為當今刑法是保護社會公共利益的，缺乏對個人合法權(quán)益的保護，“個人利益是刑法的棄嬰”。“AI換臉”技術(shù)侵犯個人信息、肖像、制作權(quán)等行為屬于侵犯私益，當今刑法難以規(guī)制，導(dǎo)致司法實踐中類推解釋廣泛非法使用。傳統(tǒng)以社會公益進路構(gòu)建的刑法無法涵蓋了對“AI換臉”技術(shù)侵犯的個人利益即私益實施有效保護，出現(xiàn)了偏差。[ 參見劉艷紅、姜文智：《AI換臉行為刑法規(guī)制的糾偏：法益與罪數(shù)的雙重路徑》，《中國社會科學(xué)大學(xué)學(xué)報》2024年第5期。]法益論已成為了刑法學(xué)的一個重要學(xué)說。一方面，二戰(zhàn)以來學(xué)界普遍認為國家利益與社會利益是一致的，“法益并只是局限于個人利益，對集體法益的保護也符合法益保護原則”。[ 參見劉艷紅：《中國刑法的發(fā)展方向：安全刑法抑或自由刑法》，《政法論壇》2023年第2期。]刑法作為公法保護的是社會公共利益即公益。另一方面，隨著個人主義、個人自由主義、個人尊嚴主義的興起，對個人利益的保護也獲得了刑法界的關(guān)注。德國刑法學(xué)家羅克辛認為：“如果刑法規(guī)定既不是為了保護個人的自由發(fā)展，也不是為了保護實現(xiàn)個人自由發(fā)展的社會條件（例如正常的司法和國家行政），那么該規(guī)定就不具有合法性。”[ 參見[德]克勞斯·羅克辛：《對批判立法之法益概念的檢視》，陳璇譯，《法學(xué)評論》2015年第1期。]但在傳統(tǒng)刑法保護公益的框架內(nèi)，這些學(xué)者不得不建立了保護社會公益就間接保護了個人利益的理論。比如張明楷認為：“當心法條文保護的是公益時，司法機關(guān)必須判斷，發(fā)條文字所指涉的行為是否最終侵害了個人法益”，[ 參見張明楷：《集團法益的保護》，《法學(xué)評論》2023年第1期。]主張在公益與私益的關(guān)系上，私益依附公益存在，對公益的保護就是對背后眾多私益的保護。筆者認為，以刑法規(guī)定進行實證分析，在公共利益保護之外，當今刑法也加強個人利益的保護，比如強奸罪、故意殺人罪、故意傷害罪加強對個人身體健康權(quán)的保護，誹謗罪、侮辱罪等加強對個人精神人格權(quán)的保護，盜竊罪、搶劫罪等加強對個人財產(chǎn)的保護。因此，無論是公共利益還是個人利益都是刑法保護的對象。實在沒有必要將個人利益的保護放在公共利益的陰影下進行解釋。刑法學(xué)也應(yīng)正式刑事立法的發(fā)展與時俱進。但法益論不能作為刑法保護理論的基礎(chǔ)。從馬克思主義法學(xué)的角度，刑法的保護對象是社會關(guān)系與社會秩序，犯罪正是因為侵犯了社會關(guān)系危害到了社會秩序才被刑法作負面評價進而被國家除以刑罰。比如在利用AI換臉技術(shù)制作淫穢視頻在網(wǎng)絡(luò)上傳播，侵害了受害人的名譽，被刑法認定為傳播淫穢物品罪且將該罪放置在“危害社會管理秩序罪”之下。根據(jù)相關(guān)司法解釋的規(guī)定，只有轉(zhuǎn)發(fā)超過200人轉(zhuǎn)播超過2000次，達到危害社會秩序的角度才構(gòu)成犯罪。沒有到達這個危害性標準，那不構(gòu)成傳播淫穢物品罪，只能按照侵犯名譽權(quán)在民法制度內(nèi)處理。也就是在這個意義上，盡管AI換臉可能侵犯了私益，但在我國“定性+定量”的犯罪構(gòu)成體系下，侵犯個人關(guān)系到達了社會危害的程度，是具有刑法意義被處以刑罰的。
（三）從社會后果的角度“AI換臉”犯罪須進行刑事規(guī)制
盡管AI換臉可以在游戲娛樂等方面給人們帶來一定的新奇感與生活樂趣，具有一定的合理性與社會容忍度、但AI換臉的實際應(yīng)用卻不停留于搞怪開玩笑，其從一開始就在濫用與非法牟利的驅(qū)動下廣泛用于色情行業(yè)。[ 參見郭洪平：《AI換臉，不是想換就換》，《方圓》2023年第7期。]在AI換臉侵害個別人信息、肖像與名譽的情況，受害者利用民法上的侵權(quán)責任要求侵害人停止侵權(quán)、賠禮道歉、賠償損失、刪除網(wǎng)上虛假視頻即可。此時AI換臉僅發(fā)生針對個人發(fā)生民事責任上的法律意義，用民法手段即可實現(xiàn)司法保護。但隨著網(wǎng)上傳播的加劇，虛假視頻對社會產(chǎn)生了公開的影響，嚴重地損害了受害者甚至是大多數(shù)受害者的合法阿權(quán)益，產(chǎn)生了因侮辱誹謗自殺、騙取巨額財產(chǎn)等社會后果，對正常的社會秩序發(fā)生劇烈的沖擊，造成了嚴重與惡劣的影響，AI換臉就變成了刑法的問題，需要動用刑事與刑罰手段來加以禁止。此時，如果繼續(xù)停留使用民事責任手段，僅對侵害人要求停止侵權(quán)及輕微的損失賠償，其還會有承擔違法成本繼續(xù)侵權(quán)危害的放任心態(tài)，不足以制止違法犯罪行為。因此，只要動用刑罰的嚴厲手段，讓侵害人蒙受嚴重的刑事處罰，才能彌補民事責任的不足，從治理源頭上遏制違法犯罪的發(fā)生。因此，AI換臉的濫用侵害的法益具有復(fù)雜性、多樣性與不可逆性決定了刑法層面回應(yīng)具有必要性、正當性與可行性。[ 參見鄭高鍵：《深度偽造技術(shù)濫用行為的刑法回應(yīng)》，《法律科學(xué)》2025年第3期。]
三、“AI換臉”犯罪刑法規(guī)制體系的制度構(gòu)建
（一）域外法制之借鑒
美國是世界上AI換臉技術(shù)發(fā)展最早、技術(shù)最發(fā)達以及立法最早的國家。其通過聯(lián)邦與各州兩個層面采用分散式立法規(guī)制AI換臉技術(shù)。2018年美國參議院提出了《惡意偽造禁令法案》，對制作深度偽造內(nèi)容并在社交網(wǎng)絡(luò)媒體傳播引發(fā)犯罪和侵權(quán)行為的和人進行罰款，并實施長達兩年的監(jiān)禁。2019年美國政府要求國土安全部定期發(fā)布有關(guān)深度偽造技術(shù)評估的《深度偽造報告法案》，回應(yīng)政府對深度偽造技術(shù)的關(guān)注，由國家情報部門定期匯報利用深度偽造技術(shù)制作虛假信息及潛在的惡性行為開展詳細報告，督促研發(fā)全球首款“反變臉”的AI刑偵檢測工具。2019年美國眾議院提出《深度偽造責任法案》要求任何利用深度偽造技術(shù)的人，必須用不可刪除的數(shù)字水印和文本描述說明是偽造制作的，否則以構(gòu)成犯罪處理。2019年弗吉尼亞州實施《復(fù)仇色情法》，對深度偽造內(nèi)容規(guī)定最高判12個月監(jiān)禁并罰款2500美元。同年，德克薩斯州通過《反深度欺詐法》，紐約州提交了編號為A08155的法案禁止利用AI技術(shù)制作虛假視頻。由于深度偽造技術(shù)產(chǎn)生了龐大的數(shù)據(jù)流量帶來了絕大的經(jīng)濟利益，美國的上述法律規(guī)定在深度偽造技術(shù)產(chǎn)生危害社會后果時才規(guī)制，時典型的“先發(fā)展后治理”的立法模式。
歐盟在2018年通過了《通用數(shù)據(jù)保護條例》將人臉圖像明確規(guī)定為生物識別數(shù)據(jù)，將生成對抗網(wǎng)絡(luò)與深度偽造技術(shù)納入隱私和數(shù)據(jù)保護法律框架，規(guī)定了嚴厲的制裁措施和救濟渠道。該條例生效后，歐洲不少科技公司因此收到處罰，比如法國對谷歌處以5000萬歐元的罰款。該條例成為世界上最嚴厲的數(shù)據(jù)條咧。此外，歐盟還通過了《歐盟不實信息實踐準則》將AI換臉納入不實信息，制定了《人工智能法》建立了安全風險風控制度。總的看來，歐盟側(cè)重對公民隱私權(quán)進行保護，對人臉識別技術(shù)實施嚴格管控，呈現(xiàn)出從弱風險預(yù)防到強風險預(yù)防的立場改變。[ 參見熊波：《“深度偽造”的擴張刑事治理風險及其限度》，《安徽大學(xué)學(xué)報（哲學(xué)社會科學(xué)版）》2020年第6期。]
我國臺灣在2022年發(fā)生網(wǎng)紅小玉對“立法委員”高嘉俞、“議員”黃捷等119名受害者進行AI換臉制作色情影片并進行販賣傳播牟利超過1100萬新臺幣后，與2023年修改刑法規(guī)定對利用深度偽造技術(shù)制作性影像損害他人權(quán)益的，處五年以下尤其徒刑、拘役或科并科50萬元以下罰金，意圖盈利的處七年以下有期徒刑并科70萬以下的罰金。同時在司法事件中也積極利用類推解釋的方法，將被AI換臉濫用的被害人的臉部特征、姓名、藝名以及網(wǎng)絡(luò)名稱等認定為個人資料保護法保護的個人資料，非法濫用人構(gòu)成非公務(wù)機關(guān)免于搜集之特定目的必要范圍內(nèi)利用個人資料罪、販賣猥褻影像罪、誹謗罪，積極運用既有的犯罪體系規(guī)制新出現(xiàn)的AI換臉行為。
可見，世界各國的普遍潮流是對AI換臉技術(shù)涉及的犯罪進行專門的立法規(guī)制。但在隱私權(quán)、名譽權(quán)等傳統(tǒng)犯罪的領(lǐng)域，也吸納AI換臉新型技術(shù)犯罪，類推處理。
（二）確立綜合論的基調(diào)與策略
在如何對AI換臉技術(shù)新犯罪現(xiàn)象進行規(guī)制的討論上，當今刑法學(xué)界存在解釋論與立法論兩種不同的主張。大多數(shù)學(xué)者認為既有的犯罪體系已經(jīng)涵攝了AI換臉問題，沒有必要另行立法規(guī)制。例如，劉艷紅教授認為，AI換臉技術(shù)犯罪比如利用該技術(shù)實施詐騙，僅是利用現(xiàn)有科技條件的犯罪新表現(xiàn)，沒有導(dǎo)致詐騙罪質(zhì)的異化，僅僅屬于犯罪的進化且不是犯罪的異化，沒有必要規(guī)定AI換臉獨立構(gòu)成犯罪。[ 參見劉艷紅：《中國刑法的發(fā)展方向：安全刑法抑或自由刑法》，《政法論壇》2023年第2期。]鄭高健教授認為，深度偽造技術(shù)并沒有擴大待保護的法益范圍，僅是加深了犯罪的侵害程度。在我國刑法中存在諸多罪名可以應(yīng)對，因此秉持解釋論是正確的。對新型犯罪為題，動輒推動刑事立法是積極刑法觀的不當表現(xiàn)，會導(dǎo)致過度刑法化性形成病態(tài)現(xiàn)象。[ 參見參見鄭高鍵：《深度偽造技術(shù)濫用行為的刑法回應(yīng)》，《法律科學(xué)》2025年第3期。]
筆者認為對AI換臉發(fā)生的新型犯罪是國外此項技術(shù)高度國家的普遍立法潮流，在傳統(tǒng)罪名還可以引用的情況下運用刑法既有罪名去規(guī)制也不是不可以。著名刑法學(xué)家陳興良教授對此作出了科學(xué)的評論：“目前我國生成式人工智能犯罪只是剛剛冒頭，現(xiàn)在所能做的也僅僅是對生成式人工智能犯罪現(xiàn)象進行描述，在現(xiàn)有的法律框架之內(nèi)，為懲治生成式人工智能犯罪提供法律恩局。如果生成式人工智能犯罪發(fā)展到一定程度，出現(xiàn)了刑法難以涵蓋的人工智能犯罪現(xiàn)象，才需要采取相應(yīng)的刑法立法措施�！盵 參見陳興良：《人工智能犯罪的刑法應(yīng)對》，《國家檢察官學(xué)院學(xué)報》2025年第2期。 ]一方面，盡管在侵犯個人信息、肖像、名譽等領(lǐng)域，運用刑法既有的誹謗、侮辱等罪名可以類推處理，但這畢竟是違反了罪行法定原則的。我們法律包括民事與刑事基本都杜絕與禁止類推適用。同時，利用AI換臉技術(shù)深度偽造了虛假視頻在網(wǎng)絡(luò)媒體廣泛傳播，其導(dǎo)致的危害性顯然要比傳統(tǒng)犯罪要嚴重，屬于加重從重情節(jié)，因此傳統(tǒng)罪名的刑罰幅度具有不適應(yīng)性。另一方面，除傳播淫穢視頻罪外，AI換臉技術(shù)及其形成的灰色黑色產(chǎn)業(yè)鏈及形成的非法牟利產(chǎn)業(yè)至今缺乏刑罰規(guī)制。至少在濫用AI換臉牟利方面，我們需要出臺法律加以應(yīng)對規(guī)制。因此，我們認為應(yīng)堅持解釋論與立法論兩手結(jié)合的綜合論來回應(yīng)AI換臉的刑法挑戰(zhàn)。
（三）從解釋論的角度完善民事刑事化制度
1、科學(xué)詮釋相關(guān)法律概念。AI換臉技術(shù)使用的人臉是否構(gòu)成個人的特有信息要正確適用《個人信息保護法》。人臉屬于人的組成部分，屬于個人信息是沒有問題。但如何確定深度偽造所使用的人臉就是受害人的人臉呢？使用雙胞胎一人的人臉是否構(gòu)成對另外一人的侵犯？人臉是具有相似性的，所以偽造使用的人臉就不一定是受害者本人的人臉。在這種情況下，法院需要查詢偽造所使用的人臉的來源，看是否查證得出歸屬于受害者。在無法查明來源的情況下，可以開展人臉鑒定，一般地說只要具有高度相似性即可認定。此外，人臉與網(wǎng)站賬號與密碼具備保密性不同，天然是公開的，在這個意義上應(yīng)嚴格解鎖“侵犯個人信息罪”，只要犯罪嫌疑人的確存在非法竊取的情況下才認定構(gòu)成侵犯。
2、采用歸納解釋方法進行法律適用。對利用AI換臉技術(shù)進行的濫用行為，是否傳播淫穢物品罪、誹謗罪、詐騙罪、侵犯人格罪、侵犯著作權(quán)罪，目前的刑法學(xué)理論采用的是類推的方法，根據(jù)各罪的構(gòu)成要件與具體犯罪事實對比，具有相似性就據(jù)此定罪處罰。如前所屬，類推法律適用違背了罪行法定原則，已經(jīng)被刑法禁止。筆者主張使用歸納法，按照罪名的構(gòu)成要件將具體犯罪事實一一對號入座，能滿足該罪所有犯罪構(gòu)成要件的，即認定構(gòu)成該罪。
3、把握“定性+定量”的入罪原則。單個的AI換臉技術(shù)如果沒有非法傳播等情節(jié)，挺多是惡搞搞笑，僅構(gòu)成民事侵權(quán)或無須承擔任何法律責任。因此，AI換臉技術(shù)濫用行為要具有一定的規(guī)模性與量的積累疊加才會對社會產(chǎn)生危害，也才有犯罪學(xué)的意義。“民法是形式思維強調(diào)法律關(guān)系，但刑法與之不同，具有實質(zhì)判斷的性質(zhì)。”[ 參見陳興良：《刑民交叉案件的法律適用》，《法律科學(xué)》2019年第2期。]一定的法律關(guān)系只有符合“定量”的標準才能實現(xiàn)民事刑事化，才能定罪入刑。例如傳播淫穢視頻，一般是構(gòu)成民事侵權(quán)，承擔停止侵權(quán)刪除、賠禮道歉、賠償經(jīng)濟損失的民事責任，但在網(wǎng)絡(luò)上非法傳播在200人以上、點擊量2000次以上的，即認定對社會產(chǎn)生廣泛的不良影響危害了犯罪，也才能認定構(gòu)成傳播淫穢物品罪。
4、堅持從重原則科學(xué)量刑。根據(jù)最高法院、最高檢察院與公安部2023年9月頒布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》，利用深度合成等生成式人工智能技術(shù)發(fā)布違法信息的要進行從重處罰。因此，對AI換臉并在網(wǎng)絡(luò)濫用引發(fā)的各罪，要堅持從重處罰的原則，加大對違法犯罪的打擊力度，徹底從源頭上杜絕違法犯罪的發(fā)生。
（四）從立法論的角度建立專門化刑事制度
1、及時修改法律，推動AI換臉犯罪的民事刑事化，隨著AI換臉技術(shù)的高速發(fā)展以及在各類場景的廣泛應(yīng)用，其引致的犯罪所產(chǎn)生的社會危害程度可能是幾何級倍增的。原有的刑法罪名的入罪門襤可能需要調(diào)整，量刑情節(jié)也需要加重。所以，相關(guān)的罪名要針對AI換臉進行專門的特別的規(guī)定，提供刑法打擊的正確性與科學(xué)性。
2、AI換臉技術(shù)需要禁止。如前所以，該項技術(shù)從非法竊取個人信息進行偽造開始到被相關(guān)行為被宣告構(gòu)成犯罪，其各個環(huán)節(jié)均具有社會危害性風險，是一棵“從頭爛到根”的枯樹，需要用刑法的手段進行全面修剪乃至連根撥起�？梢哉f，AI換臉技術(shù)是一項不正當?shù)募夹g(shù)，從一開始就產(chǎn)生侵權(quán)以及社會危害，其余其他人工智能技術(shù)所具有的中性特質(zhì)是完全不同的，作為“深度偽造”的真實面目其沒有多大的社會積極價值，故應(yīng)開展源頭治理加以禁止。我國可效仿歐盟制度《人工智能法》規(guī)定發(fā)展AI換臉技術(shù)構(gòu)成違法犯罪。
3、針對利用AI換臉技術(shù)牟利從而形成的巨大灰色與黑色產(chǎn)業(yè)，我國刑法應(yīng)加強規(guī)制填補法律空白，加以重力打擊。從利益驅(qū)動層面徹底鏟除AI換臉技術(shù)發(fā)展產(chǎn)業(yè)化的基礎(chǔ)。
4、追究網(wǎng)絡(luò)平臺的刑事法律責任。AI換臉的濫用產(chǎn)生社會危害性，網(wǎng)絡(luò)平臺提供的傳播載體起到必不可少的關(guān)鍵作用。對此，網(wǎng)絡(luò)平臺具有監(jiān)管的責任，其放任不管的構(gòu)成幫助犯罪。我國應(yīng)立法完善這方面的法律規(guī)定。
綜上所述，筆者建議針對AI換臉犯罪出臺《刑法修正案》制定專門的刑事立法�？梢宰魅缦乱�(guī)定：“禁止發(fā)展AI換臉技術(shù)，違法發(fā)展該項技術(shù)侵犯他人合法權(quán)益與危害社會的，以犯罪論處，判決有期徒刑五年以下，并處罰金20萬元以下；情節(jié)嚴重的，判處五年以上十年以下有期徒刑，并處罰金50萬以下。利用AI換臉技術(shù)非法牟利的，比照前款從重處罰。網(wǎng)絡(luò)平臺明知利用AI換臉進行犯罪行為不加以監(jiān)管的，以幫助犯罪論，比照第一款處罰。本條規(guī)定與其他法律規(guī)定不一致的，擇重罪規(guī)定予以處罰�！�
四、結(jié)語
AI換臉技術(shù)本質(zhì)是深度偽造技術(shù)，其在現(xiàn)在社會的發(fā)展與濫用已經(jīng)超越了人工智能技術(shù)的邊界，對社會秩序以及他人合法權(quán)益產(chǎn)生了廣泛與嚴重的危害。我們需要堅持積極刑法觀念，利用刑事解釋與立法手段從源頭上加以全面治理，我們再發(fā)展人工智能的同時，應(yīng)堅持其為人民為社會造福的理念，杜絕其對社會造成危害，杜絕邪惡技術(shù)的發(fā)展，堅持法治管理的手段，建立相關(guān)領(lǐng)域的法律規(guī)則與準入制度。如此，人工智能才能有更廣泛的發(fā)展空間，才能實現(xiàn)“人腦與人工智能共生長”，為人類社會謀取更好的福祉。
【參考文獻】
（一）專題類
1、袁佳音：《人工智能時代我國刑法面臨的挑戰(zhàn)與應(yīng)對》，載《洛陽理工學(xué)院院報（社科版）》2024年第1期；
總共3頁 1 [2] [3]
下一頁
