人工智能技術(shù)近些年悄無聲息地融入到我們生活中的各個角落：智能語音客服、AI主播、語音轉(zhuǎn)文字等常見功能極大地提高了工作生活的便利性，眾多AI換臉、AI繪畫App或小程序也因上手簡單而讓普通人一秒鐘實現(xiàn)明星夢、畫家夢，去年年底美國研發(fā)的聊天工具ChatGPT一經(jīng)問世更是火爆全球。不過，技術(shù)永遠(yuǎn)是把雙刃劍，繼“AI孫燕姿”翻唱事件后，近日，福建一男子被騙子通過AI換臉和擬聲技術(shù)佯裝成其好友，并通過視頻聊天10分鐘詐騙430萬元一事，讓人們更加深刻地思考：AI技術(shù)應(yīng)怎樣服務(wù)人類？技術(shù)濫用會帶來哪些法律風(fēng)險，又會造成怎樣的信任危機(jī)呢？

(資料圖片)

AI“創(chuàng)作”存在侵權(quán)風(fēng)險

AI技術(shù)的發(fā)展初衷在于改善人類生活，近年來，其對于視頻、音頻、圖像、文字的處理逐漸從實驗室走向大眾，改變著人們的生產(chǎn)生活方式，且應(yīng)用場景廣泛，玩法多元，在降本增效、解放生產(chǎn)力方面有著不凡表現(xiàn)。

以AI視頻技術(shù)為例。以往，某位演員的失德失范可能導(dǎo)致其參演的整部作品無法播出，給拍攝方造成經(jīng)濟(jì)損失。通過AI技術(shù)，就可以在作品已經(jīng)拍攝完成后對問題演員進(jìn)行“換臉”，及時止損。在特效制作方面，過去的AI還只是特效師的輔助，但是目前已經(jīng)有多個軟件可以“傻瓜式”生成大片特效，電影特效進(jìn)入“平民時代”，普通人也能擁有自制特效的奇妙體驗。另外，AI技術(shù)還能夠在僅有文案而不添加其他圖片視頻素材的基礎(chǔ)上“無中生有”創(chuàng)作視頻，滿足了創(chuàng)作者們更加多元化的需求。

今年春節(jié)期間，一組紅色背景、毛茸茸的卡通兔子圖片風(fēng)靡朋友圈，成為了很多人的屏保壁紙和頭像，這些圖片均是由AI繪圖技術(shù)生成。眾多AI繪圖工具已經(jīng)在設(shè)計、繪畫領(lǐng)域嶄露頭角，使用者只需要輸入文字指令，就可以實現(xiàn)“以文生圖”，在幾分鐘內(nèi)得到一張不錯的作品，極大地提高了生產(chǎn)效率。不過，這可能會對圖片版權(quán)行業(yè)造成沖擊。

一般來講，想要使用一張有版權(quán)的圖片，包括繪畫和攝影作品等，需要付費才能夠合法使用，否則便會引發(fā)版權(quán)侵權(quán)案件，在自媒體領(lǐng)域相關(guān)糾紛尤其明顯。有些自媒體賬號在發(fā)布的廣告宣傳中未經(jīng)許可，使用了他人的版權(quán)圖片作為配圖，被權(quán)利人起訴索賠，有些版權(quán)代理公司還可能刻意隱瞞并誘導(dǎo)別人使用版權(quán)圖片，等握取侵權(quán)事實后再向?qū)Ψ剿饕r償、逼迫簽訂包年合同或提起訴訟，將維權(quán)變成了牟利手段。而AI繪圖技術(shù)的出現(xiàn)，在一定程度上能夠幫助自媒體運營者控制成本，降低因不當(dāng)使用圖片作品引發(fā)的涉訴風(fēng)險，另一方面，也對圖片作品商業(yè)化維權(quán)產(chǎn)業(yè)鏈擾亂市場經(jīng)營秩序的行為構(gòu)成打擊。

上述AI視頻、AI繪圖技術(shù)，以及能夠幫助人們寫論文、郵件、腳本、詩歌、代碼的“全能”聊天工具ChatGPT，都是深度合成技術(shù)的具體應(yīng)用，不論人們是否具有專業(yè)背景和相關(guān)經(jīng)驗，只要具備簡單的表達(dá)能力，都可以借助這些AI工具進(jìn)行“創(chuàng)作”。那么，這些生成的視頻、圖片、文字作品版權(quán)歸屬如何呢？事實上，我國著作權(quán)法對于利用AI生成的作品版權(quán)歸屬尚無明確規(guī)定，不過，眾多的AI工具均對產(chǎn)出作品的權(quán)利歸屬設(shè)置了相應(yīng)的使用規(guī)則，有些軟件還對免費用戶和付費用戶生成作品的權(quán)利歸屬以及是否可商用進(jìn)行了區(qū)分，可視為雙方就生成作品版權(quán)問題達(dá)成了一致，用戶對作品的處分應(yīng)當(dāng)遵照約定執(zhí)行。

此外，也有人質(zhì)疑AI通過對海量樣本的學(xué)習(xí)、模仿后生成的作品，是否會侵犯在先作品版權(quán)人的合法權(quán)利？對此，筆者認(rèn)為，要看AI作品對他人作品的借鑒、使用程度是否構(gòu)成實質(zhì)性相似。如果只是對他人創(chuàng)作的手法、規(guī)則、技巧、風(fēng)格的學(xué)習(xí)模仿，很難認(rèn)定為“抄襲”，但如果是機(jī)械地照搬、拼接了他人作品，則有可能構(gòu)成侵權(quán)。因此，在前期利用AI獲取靈感創(chuàng)意的基礎(chǔ)上，創(chuàng)作者應(yīng)注入自己的思想觀點、人文情感等，使其內(nèi)容具備實質(zhì)性的改動，讓作品的權(quán)屬問題和后續(xù)使用更加穩(wěn)妥。

AI“換臉”可能侵害肖像權(quán)

技術(shù)的迭代讓很多不可能成為了可能，近日爆火網(wǎng)絡(luò)的“AI孫燕姿”就是如此。很多創(chuàng)作者以孫燕姿的音色來訓(xùn)練AI，并以合成的音色翻唱其他歌手的作品，讓多年不出專輯的孫燕姿瞬間多出了千余首翻唱作品，連她本人都表示“人類無法超越它已指日可待”。那么，這些AI翻唱的作品是否合法呢？

事實上，歌手的唱腔、音色本身不屬于著作權(quán)法的保護(hù)范疇，但是民法典第一千零二十三條規(guī)定，對自然人聲音的保護(hù)參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定，也就是說，不得利用信息技術(shù)手段偽造的方式侵犯他人對聲音的權(quán)利。

此外，有人以“僅供娛樂并非商用”為由來聲明免責(zé)，但是根據(jù)著作權(quán)法第四十二條的規(guī)定，錄音制作者使用他人已經(jīng)合法錄制為錄音制品的音樂作品來制作錄音制品，可以不經(jīng)著作權(quán)人許可，但應(yīng)當(dāng)按照規(guī)定支付報酬，免責(zé)聲明并不是其著作權(quán)侵權(quán)的阻卻事由。而且有些人上傳AI翻唱作品后會獲得平臺收益或用戶打賞，雖然并非必須付費才能收聽，但制作者也的確因此獲得了收益，所以也很難將其作品定義為著作權(quán)法合理使用制度中的“免費表演”。

可見，AI技術(shù)雖好，但必須謹(jǐn)防濫用。曾有一段時間，“楊冪”“熱巴”等明星頻頻現(xiàn)身帶貨直播間，被眼尖的網(wǎng)友一眼識破，原來這些都是AI換臉技術(shù)，某些人妄圖頂著一張“明星臉”吸引更多用戶走進(jìn)直播間。這樣做，雖然有了流量，卻也侵犯了他人合法權(quán)益。根據(jù)民法典第一千零一十九條規(guī)定，任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。未經(jīng)肖像權(quán)人同意，肖像作品權(quán)利人不得以發(fā)表、復(fù)制、發(fā)行、出租、展覽等方式使用或者公開肖像權(quán)人的肖像。明星的肖像相較于普通人更具商業(yè)價值，非法將名人肖像“移植”到主播身上，相當(dāng)于零成本獲取名人效應(yīng)，不僅侵害了被換臉明星的肖像權(quán)及其代表的經(jīng)濟(jì)利益，對其他依法付費使用名人肖像的經(jīng)營者也明顯不公。

此外，還有網(wǎng)友曾上傳自己的照片，用自己的臉替換影視劇中演員的臉，此種行為也存在法律風(fēng)險。根據(jù)肖像權(quán)的法律規(guī)定，“反向換臉”也屬于利用信息技術(shù)手段偽造的方式侵害他人肖像權(quán)的行為。特別是換臉影視劇人物并將視頻上傳網(wǎng)絡(luò)發(fā)布，還可能構(gòu)成對影視作品信息網(wǎng)絡(luò)傳播權(quán)、保護(hù)作品完整權(quán)等著作權(quán)的侵害，相關(guān)著作權(quán)人可保留追究其責(zé)任并獲取賠償?shù)臋?quán)利。

需注意的是，“換臉”還可能引發(fā)其他人格權(quán)方面的糾紛。有視頻博主近期通過AI換臉技術(shù)將影視劇中親密戲部分男主角的臉換成了自己，造成了很多網(wǎng)友及演員粉絲的不適。演員在劇中的親密戲份屬于表演需要，在合同、劇本中有所體現(xiàn)，是在演員本人知情、同意的基礎(chǔ)上對劇情的必要演繹。但是該博主的行為不僅構(gòu)成了對女演員的無禮和冒犯，還可能因符合民法典第一千零一十條所述“違背他人意愿，以語言、文字、圖像、肢體行為等方式對他人實施性騷擾”的情形而承擔(dān)民事責(zé)任。更有甚者為了“造黃謠”或非法牟利，將女明星或者普通女性的肖像換臉到黃色視頻中，嚴(yán)重侵害了他人的名譽權(quán)，給當(dāng)事人造成了極大的精神痛苦，應(yīng)依法予以懲處。

重點防范利用AI實施犯罪

在人們還在拓展AI的各種便利時，犯罪分子早已盯上了這項技術(shù)。據(jù)報道，福建郭先生的微信“好友”通過視頻聯(lián)系他，稱要借430萬元保證金?；趯σ曨l通話的信任，郭先生在10分鐘內(nèi)完成了轉(zhuǎn)賬，不久之后發(fā)現(xiàn)被騙。原來，騙子先是盜取了郭先生好友的微信，知曉了郭先生的經(jīng)濟(jì)實力，又獲取了“好友”的臉孔、聲音等信息用于后期合成，最終完成了詐騙，讓人防不勝防。原本遠(yuǎn)程通信是為便利而生，但AI技術(shù)的濫用反而降低了人們對于線上交往的信任。試想一下，如果有人將AI技術(shù)用于制作非法視頻、虛假新聞等，這對社會信任體系無疑是不利的。

誠信對于保障交易安全至關(guān)重要，但是深度合成技術(shù)的不當(dāng)使用可能增加違約風(fēng)險，尤其是在以對方智力成果為標(biāo)的的交易領(lǐng)域。當(dāng)創(chuàng)作者的作品是通過ChatGPT、Midjourney等AI工具生成的文字或圖片時，其作品的獨創(chuàng)性或?qū)⒋嬖阼Υ谩＠缭谥鳈?quán)許可或轉(zhuǎn)讓合同方面，除非合同雙方就使用AI進(jìn)行創(chuàng)作達(dá)成了一致，否則這種合成的作品可能因獨創(chuàng)性不足而構(gòu)成瑕疵履行，或者因侵犯他人著作權(quán)而存在權(quán)利瑕疵，給被許可方或受讓方在后續(xù)商業(yè)化使用作品過程中造成不必要的損失。

另外，AI技術(shù)的觸手可及也將提升道德風(fēng)險。利用AI完成工作所需的工作量與個人開展獨立智力勞動所需的工作量相比，無論時間、經(jīng)濟(jì)、精力成本都相差甚遠(yuǎn)，如果寫作、繪畫等方面的從業(yè)者大量借助AI完成工作卻不予告知付費客戶，仍然按照個人獨立完成的標(biāo)準(zhǔn)報價，則相關(guān)行業(yè)良性競爭的秩序?qū)⒈淮蚱?，職業(yè)道德也將出現(xiàn)危機(jī)。

當(dāng)然，高風(fēng)險的還有學(xué)術(shù)領(lǐng)域。學(xué)生用ChatGPT等人工智能工具輔助寫論文已經(jīng)不是什么新鮮事，但是就現(xiàn)階段來講，AI創(chuàng)作的論文還存在很多弊端，或是缺乏新意，或是缺乏邏輯性表達(dá)，甚至連參考文獻(xiàn)都可能是AI胡編濫造的，這樣的學(xué)術(shù)成果不僅沒有任何價值可言，反而加劇了學(xué)術(shù)不端現(xiàn)象。

面對相關(guān)風(fēng)險，我們既要做好補(bǔ)救，也要做好防范。國家網(wǎng)信辦出臺的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》于今年1月10日正式施行，主要針對深度合成服務(wù)者的義務(wù)進(jìn)行了規(guī)定，其中要求深度合成服務(wù)提供者提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識，避免公眾混淆或者誤認(rèn)?？梢?，做好風(fēng)險防范首先要從技術(shù)開發(fā)者、服務(wù)提供者入手。

對于個人而言，人臉、指紋、聲音等生物信息以及身份證、銀行卡、社交媒體賬號等個人信息的保護(hù)則變得愈發(fā)重要。假如遇到熟人在線上提出轉(zhuǎn)賬需求時，要通過多重驗證來確認(rèn)其身份，特別是對AI技術(shù)了解不多的老年人更要重點防范。（劉津?qū)?作者單位：北京市第四中級人民法院）