只需一張照片

經(jīng)過深度合成算法處理

就能秒變視頻主人公

但“換臉”也伴隨著法律風(fēng)險和侵權(quán)糾紛

 

 

 

       近日，杭州互聯(lián)網(wǎng)法院就審理了一起因“AI換臉”App利用深度合成算法侵害他人肖像權(quán)的案件，最終判決App開發(fā)者賠禮道歉并賠償損失共5000元。

 

       基本案情

 

       原告樓某某系國內(nèi)古風(fēng)漢服模特，經(jīng)常發(fā)布古風(fēng)漢服照片和視頻。今年3月，其在某短視頻平臺發(fā)布一段短視頻。在該視頻中，樓某某帶有清晰的面部古風(fēng)妝容，并著漢服半身出鏡，視頻包括多段造型形象片段。

 

       被告上海某公司（以下簡稱“A公司”），是一款“AI換臉”App的運營主體。該App宣傳“僅需一張照片，立即變成視頻主角”“只需一張自拍，馬上改頭換面”。用戶通過支付68元至198元不等的會員費，即可使用全部“換臉”視頻模板。

 

 

涉案“AI換臉”App宣傳界面

 

       原告樓某某發(fā)現(xiàn)，被告A公司運營的“AI換臉”APP中有樓某某拍攝的古風(fēng)造型視頻模板。用戶可通過上傳個人照片，將視頻模板中的人臉替換成用戶上傳的人臉，除五官發(fā)生實質(zhì)性變化之外，其余內(nèi)容都與原視頻保持一致。軟件生成換臉后的古風(fēng)造型視頻，用戶可以將其保存并分享到其他平臺。

 

       樓某某認(rèn)為，A公司的行為侵害其肖像權(quán)，請求法院判令A(yù)公司承擔(dān)停止侵權(quán)、賠禮道歉并賠償損失。

 

       裁判要旨

 

       杭州互聯(lián)網(wǎng)法院經(jīng)審理認(rèn)為，民法典明確將“不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)”，作為侵害肖像權(quán)的一種典型形態(tài)予以規(guī)制。“利用信息技術(shù)手段偽造”是指利用信息技術(shù)手段編造或者捏造他人肖像，以假亂真，以達到利用不存在的事物來謀取非法利益的目的。

 

       本案中，樓某某對案涉要素模板視頻及替換后視頻中所載對應(yīng)形象的人物肖像均享有肖像權(quán)。對于換臉前的視頻，樓某某雖以古風(fēng)妝容并著漢服出鏡，但從其面部形象、體貌特征，普通人仍可對其主體身份進行輕易識別。該視頻被上傳至App作為模板供他人使用時，視頻內(nèi)容未做篡改，亦不發(fā)生主體形象不可識別的問題。對于換臉后的視頻，樓某某僅留存身體形象，但對比原視頻素材，普通人仍能通過未被修改的相應(yīng)場景和細(xì)節(jié)識別出身體形象對應(yīng)主體為樓某某。

 

       被告A公司未經(jīng)樓某某同意，通過技術(shù)手段提取涉案古風(fēng)肖像視頻，并擅自上傳至其運營的換臉App中供用戶選擇使用，該行為本身已侵害樓某某肖像權(quán)。同時，涉案視頻模板已被用戶多次使用和收藏，可以認(rèn)定A公司利用深度合成技術(shù)將其他用戶提供的人臉替換至涉案視頻中的身體形象之上，并生成了形象逼真、畫面流暢的偽造肖像視頻，可供用戶進行下載保存、發(fā)布共享等不當(dāng)使用。

 

       綜上，被告A公司未經(jīng)樓某某同意，利用深度合成技術(shù)使用其肖像制作了偽造視頻，依法應(yīng)認(rèn)定為構(gòu)成對樓某某肖像權(quán)的侵害。

 

       雙方當(dāng)事人均服判息訴，目前判決已生效。

 

       深度合成技術(shù)，是指利用以深度學(xué)習(xí)、虛擬現(xiàn)實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術(shù)，包括人臉生成、人臉替換、人臉操控等圖像、視頻內(nèi)容中人臉等生物特征進行生成或者編輯的技術(shù)。

 

       “不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)”，主要是指利用人工智能合成內(nèi)容技術(shù)深度偽造他人肖像的行為，即通過人工智能技術(shù)，以數(shù)字化方式創(chuàng)建或者修改圖片、影像等內(nèi)容，將某人的肖像換成他人的肖像，并在此基礎(chǔ)上形成高度逼真且難以甄別的圖像、視頻等。結(jié)合一般肖像權(quán)侵權(quán)的構(gòu)成要件可知，以人工智能合成內(nèi)容技術(shù)深度偽造形態(tài)侵害他人肖像權(quán)的具體構(gòu)成要件應(yīng)為：1.自然人對特定肖像享有肖像權(quán)；2.行為人未經(jīng)同意利用信息技術(shù)手段對權(quán)利人的肖像進行篡改、偽造和自動生成等，產(chǎn)生逼真且難以甄別效果。

 

       首先，在認(rèn)定深度合成技術(shù)是否侵犯了某人肖像權(quán)時，無論其在深度合成技術(shù)中被使用的是面部形象還是身體形象，是局部形象還是整體形象，均應(yīng)以可被識別性標(biāo)準(zhǔn)作為認(rèn)定該形象是否為特定主體肖像的核心標(biāo)準(zhǔn)，當(dāng)某一身體形象能夠被識別為特定自然人所屬時，便符合了肖像的可被識別標(biāo)準(zhǔn)；其次，對已公開特別是為公眾所熟知的影像，從社會一般普通人的視角，能夠通過視頻中屬于原有視頻素材的未被修改的相應(yīng)的場景和細(xì)節(jié)識別出身體形象的所有人，該身體形象因符合可被識別標(biāo)準(zhǔn)而能夠被認(rèn)定為特定主體的肖像，身體形象的所有人對“深度偽造”視頻中的身體形象享有肖像權(quán)；最后，對此前未公開且不為社會公眾所知的影像，只要權(quán)利人窮盡所有識別手段，能夠證明自己系該身體形象的所有人，即使一般人未將該形象與形象所有人建立聯(lián)系，仍應(yīng)肯定其對該形象享有肖像權(quán)利。

 

       深度合成技術(shù)的應(yīng)用，破壞了肖像與主體的同一性。一方面，面部形象的主人有權(quán)拒絕將其面部移轉(zhuǎn)至他人身體形象中；另一方面，身體形象的主人亦應(yīng)有權(quán)利拒絕其身體形象被冠以他人之面目，這均是由肖像權(quán)的絕對性、專屬性、排他性等權(quán)利特征所決定的。與此同時，“換臉”等深度合成技術(shù)需要獲取大量人臉圖像中的特征數(shù)據(jù)信息，包括五官、表情等內(nèi)容，而人臉信息屬于個人信息保護法予以特殊保護的生物識別信息。法律對于人臉識別信息等緊密依附于身體、直接體現(xiàn)個人身體特征和行為特征，對人身具有直接指向性的敏感個人信息予以特別保護。據(jù)此，深度合成服務(wù)提供者提供人臉等生物識別信息編輯功能的，必須具有特定的目的和充分的必要性，采取嚴(yán)格保護措施，并取得被編輯的個人信息主體的單獨授權(quán)。

 

       需要指出的是，技術(shù)中立并不意味著價值中立，特別是開發(fā)、應(yīng)用者的價值中立，更不等于深度合成的參與者不應(yīng)當(dāng)受到來自法律的規(guī)制、道德倫理的約束。算法的獨特性質(zhì)，如不透明性、歧視性和歸責(zé)困難的特征確需法律對其進行特殊規(guī)制。概而言之，應(yīng)當(dāng)在場景化思維下著重把握算法設(shè)計、算法應(yīng)用和救濟三個階段。在算法設(shè)計時，建立評估備案制度，并將技術(shù)倫理和道德倫理嵌入算法開發(fā)、設(shè)計，使算法開發(fā)、設(shè)計時就兼?zhèn)淙饲榕c法理。在算法應(yīng)用時，提高算法的透明度，刺破算法籠罩的神秘面紗，并充分保護個人信息、數(shù)據(jù)權(quán)益。在救濟階段，應(yīng)構(gòu)建、強化算法問責(zé)機制，使算法問責(zé)過程兼具救濟與懲戒。

 

       案件審結(jié)后，杭州互聯(lián)網(wǎng)法院向相關(guān)主體發(fā)出司法建議，明確相關(guān)主體在互聯(lián)網(wǎng)信息服務(wù)深度合成中，需嚴(yán)格落實《中華人民共和國民法典》《中華人民共和國個人信息保護法》《中華人民共和國網(wǎng)絡(luò)安全法》及國家互聯(lián)網(wǎng)信息辦公室等制定的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等法律、行政規(guī)則規(guī)定，切實弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益。