近日，多個電商直播間被爆出使用明星AI換臉直播，引發爭議。南都記者留意到，有不少直播間里出現了“明星臉”，還是不同的主播共享同一張明星臉。

不同時段、不同主播同一張“楊冪”臉，她們都在向網友推銷某個女裝品牌；換一個直播間，網友又看到了“迪麗熱巴”在推銷茶葉……眼前的明星光彩奪目，但在主播低頭、轉身時，又會暴露出其實這不過是“換臉”后的結果。

在一般人看來，使用“明星臉”無論如何應該算是高科技了，但實際上專業人士透露:“AI換臉直播對算力的要求會低很多，也不涉及什么大模型，就只是一個面部輪廓，然后中間某些區域的合成。”更讓人吃驚的是AI換臉直播的成本。南都記者咨詢了一家提供AI換臉直播軟件的企業，對方收費僅99元……

(相關資料圖)

不算高端的技術、低廉的費用，意味著使用門檻很低。這一點又會帶來什么樣的結果，產生什么樣的影響?

使用明星AI換臉直播，性質并不模糊。根據法律，直播間未經明星同意，利用深度合成技術使用其肖像制作“AI換臉”行為，對明星來說屬于侵權，同時它又涉嫌“故意告知消費者虛假情況或者故意隱瞞真實情況，誘使消費者作出錯誤意思表示的行為”，已構成欺詐。

隨著AI技術的應用越來越廣泛、越來越智能化，惹出的事端越來越多了。

最近，“AI孫燕姿”因其翻唱《下雨天》等歌曲走紅網絡。而且“AI孫燕姿”居然連其“換氣聲”都可以模仿，一時間“AI出來后第一個失業的是孫燕姿”等話題被推上熱搜。

面對AI孫燕姿，盡管孫燕姿本人給予了包容，而且從產業發展的角度，“AI孫燕姿”的出圈宣告人工智能技術對音樂產業有了比較深入的滲透，但是聲音權、著作報酬分配權等法律問題注定無法繞過。

如果說使用明星AI換臉直播、“AI孫燕姿”等事件為AI技術應用增加了話題性，那么另外一些事件就讓人不寒而栗了。

此前人們或許聽說過應用AI技術的聲音合成詐騙。聲音合成詐騙，騙子會先通過騷擾電話錄音等來提取某人聲音，獲取素材后進行聲音合成，從而可以用偽造的聲音騙過目標，達成目的。但福州市某科技公司法定代表人郭先生10分鐘內被騙430萬元，騙術顯然要遠較聲音合成詐騙“高級”，因為對方是通過智能AI換臉技術，佯裝成好友對他實施了詐騙。

聲音對上了，“臉”也對上了，碰到這樣的騙術，誰能抵御?

科技的進步一日千里，但若用之于不善，也會讓作惡的效率大幅提升，并且增加人們防范的難度。

面對AI相關的侵權、詐騙事件頻發，專家提醒不要輕易提供人臉、指紋等個人生物信息給他人，不過度公開或分享動圖、視頻。這些提醒是及時的，信息安全意識對每個人都是必需的，但是現代生活的便捷不正是拜技術進步之賜嗎?

AI技術改變了公眾的生活，也帶來了很多挑戰。顯然，馴化而非拒絕，才是適宜的態度。

4月11日，國家互聯網信息辦公室發布了《生成式人工智能服務管理辦法(征求意見稿)》。其中明確提出，利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人，不僅要承擔該產品生成內容生產者的責任，還要承擔個人信息處理者的法定責任，履行個人信息保護義務。

可以看出，《辦法》既是對生成式人工智能的規范管理，也凸顯了國家對其未來發展的明確支持。只有協調好創新發展和風險防控之間的關系，確保生成式人工智能的行為服務全部處于監管之下，才能使其慢慢步入正軌，行穩致遠。

馴服AI技術，法律和倫理規制都要跟上。因為要維系其良好生態，離不開政府監管，也需要企業履責、社會監督和網民自律，任何時候，科技向善的底線都必須堅守。