近年來，“AI換臉”走紅網(wǎng)絡(luò)，一些“AI換臉”的App使用明星的圖片制作換臉視頻進(jìn)行推廣，其趣味性背后暗藏不少法律風(fēng)險(xiǎn)和侵權(quán)糾紛。

4月7日，浙江杭州蕭山區(qū)檢察院曝光的一個(gè)“女神群”，引發(fā)關(guān)注——

(資料圖片)

據(jù)了解，“AI換臉”技術(shù)的走紅，讓80后安徽小伙虞某嗅到了商機(jī)。他想到在網(wǎng)上推廣該項(xiàng)技術(shù)及相關(guān)的軟件，并從中獲利。

但一段時(shí)間過去，虞某卻始終沒有獲得什么關(guān)注度。偶然的一次機(jī)會(huì)，虞某看到有些人會(huì)在群里發(fā)布一些淫穢信息來吸引他人關(guān)注，就也動(dòng)起了歪腦筋。

此前報(bào)道：男網(wǎng)紅AI換臉熱吻女星引爭議

虞某先是將原本建的“換臉軟件資源群”的群名更改為“女神試看群”，后又通過互聯(lián)網(wǎng)下載了部分淫穢視頻，截取片段后發(fā)布在該公開群中，吸引、招攬觀看者加入。當(dāng)觀看者達(dá)到一定人數(shù)后，虞某會(huì)發(fā)布群消息稱，繳納198元-498元不等的“會(huì)費(fèi)”，進(jìn)入“內(nèi)部群”可以收看完整版。

除此之外，虞某表示，“內(nèi)部群”里發(fā)送的淫穢視頻有不少是由其本人使用“AI換臉技術(shù)”合成的，根據(jù)顧客的需要還可以使用不同的女明星的形象，進(jìn)行“私人定制”。也有不少人因?yàn)榭戳诉@些視頻后對(duì)換臉技術(shù)產(chǎn)生了興趣，向其咨詢?nèi)绾钨徺I換臉軟件。

一面通過“吸粉引流”，收取會(huì)費(fèi)；一面又通過出售“換臉軟件”，頻頻獲利。虞某短短幾個(gè)月的時(shí)間里就收獲了數(shù)萬元。截至案發(fā)，公安機(jī)關(guān)共在虞某所組建的公開群內(nèi)查證淫穢視頻1200余部、圖片1600余張，經(jīng)鑒定，上述均系淫穢物品。

2023年3月28日，蕭山區(qū)檢察院依法以制作、傳播淫穢物品牟利罪對(duì)虞某提起公訴。案件目前正在法院審理中。

AI時(shí)代如何保護(hù)我們的“臉”？

近日，多起AI換臉或AI換裝的爭議事件引起網(wǎng)友討論。

對(duì)此，蕭山檢察官提醒，“AI換臉技術(shù)”即便只是用來搞笑或者制作惡搞照片，也有可能涉及侵犯肖像權(quán)、名譽(yù)權(quán)，造成嚴(yán)重后果的，還可能構(gòu)成侮辱罪或者誹謗罪。希望大家依法使用該項(xiàng)技術(shù)，一旦遇到類似本案中利用“AI換臉技術(shù)”實(shí)施犯罪行為的，應(yīng)第一時(shí)間固定證據(jù)，并及時(shí)向司法機(jī)關(guān)報(bào)案。

澎湃新聞也曾發(fā)文表示，互聯(lián)網(wǎng)技術(shù)提供了異常多元、新奇的產(chǎn)品體驗(yàn)，用戶當(dāng)然也有網(wǎng)絡(luò)玩梗的剛需，但安全風(fēng)險(xiǎn)問題也隨著互聯(lián)網(wǎng)介入生活程度的加深而不斷凸顯。當(dāng)一項(xiàng)新技術(shù)橫空出世之際，背后的漏洞風(fēng)險(xiǎn)也應(yīng)當(dāng)審慎評(píng)估，相關(guān)的規(guī)定應(yīng)該適時(shí)跟上，努力縮短從野蠻生長到規(guī)范發(fā)展的時(shí)間差。

中國青年報(bào)（ID：zqbcyol 整理：陳垠杉）綜合：蕭山檢察、中青報(bào)此前報(bào)道、澎湃新聞

中國青年報(bào)·中國青年網(wǎng) 出品