近日，多個電商直播間被爆出使用明星AI換臉直播，引發(fā)爭議。南都記者留意到，有不少直播間里出現(xiàn)了“明星臉”，還是不同的主播共享同一張明星臉。

不同時段、不同主播同一張“楊冪”臉，她們都在向網(wǎng)友推銷某個女裝品牌；換一個直播間，網(wǎng)友又看到了“迪麗熱巴”在推銷茶葉……眼前的明星光彩奪目，但在主播低頭、轉(zhuǎn)身時，又會暴露出其實(shí)這不過是“換臉”后的結(jié)果。

在一般人看來，使用“明星臉”無論如何應(yīng)該算是高科技了，但實(shí)際上專業(yè)人士透露:“AI換臉直播對算力的要求會低很多，也不涉及什么大模型，就只是一個面部輪廓，然后中間某些區(qū)域的合成。”更讓人吃驚的是AI換臉直播的成本。南都記者咨詢了一家提供AI換臉直播軟件的企業(yè)，對方收費(fèi)僅99元……

(相關(guān)資料圖)

不算高端的技術(shù)、低廉的費(fèi)用，意味著使用門檻很低。這一點(diǎn)又會帶來什么樣的結(jié)果，產(chǎn)生什么樣的影響?

使用明星AI換臉直播，性質(zhì)并不模糊。根據(jù)法律，直播間未經(jīng)明星同意，利用深度合成技術(shù)使用其肖像制作“AI換臉”行為，對明星來說屬于侵權(quán)，同時它又涉嫌“故意告知消費(fèi)者虛假情況或者故意隱瞞真實(shí)情況，誘使消費(fèi)者作出錯誤意思表示的行為”，已構(gòu)成欺詐。

隨著AI技術(shù)的應(yīng)用越來越廣泛、越來越智能化，惹出的事端越來越多了。

最近，“AI孫燕姿”因其翻唱《下雨天》等歌曲走紅網(wǎng)絡(luò)。而且“AI孫燕姿”居然連其“換氣聲”都可以模仿，一時間“AI出來后第一個失業(yè)的是孫燕姿”等話題被推上熱搜。

面對AI孫燕姿，盡管孫燕姿本人給予了包容，而且從產(chǎn)業(yè)發(fā)展的角度，“AI孫燕姿”的出圈宣告人工智能技術(shù)對音樂產(chǎn)業(yè)有了比較深入的滲透，但是聲音權(quán)、著作報酬分配權(quán)等法律問題注定無法繞過。

如果說使用明星AI換臉直播、“AI孫燕姿”等事件為AI技術(shù)應(yīng)用增加了話題性，那么另外一些事件就讓人不寒而栗了。

此前人們或許聽說過應(yīng)用AI技術(shù)的聲音合成詐騙。聲音合成詐騙，騙子會先通過騷擾電話錄音等來提取某人聲音，獲取素材后進(jìn)行聲音合成，從而可以用偽造的聲音騙過目標(biāo)，達(dá)成目的。但福州市某科技公司法定代表人郭先生10分鐘內(nèi)被騙430萬元，騙術(shù)顯然要遠(yuǎn)較聲音合成詐騙“高級”，因?yàn)閷Ψ绞峭ㄟ^智能AI換臉技術(shù)，佯裝成好友對他實(shí)施了詐騙。

聲音對上了，“臉”也對上了，碰到這樣的騙術(shù)，誰能抵御?

科技的進(jìn)步一日千里，但若用之于不善，也會讓作惡的效率大幅提升，并且增加人們防范的難度。

面對AI相關(guān)的侵權(quán)、詐騙事件頻發(fā)，專家提醒不要輕易提供人臉、指紋等個人生物信息給他人，不過度公開或分享動圖、視頻。這些提醒是及時的，信息安全意識對每個人都是必需的，但是現(xiàn)代生活的便捷不正是拜技術(shù)進(jìn)步之賜嗎?

AI技術(shù)改變了公眾的生活，也帶來了很多挑戰(zhàn)。顯然，馴化而非拒絕，才是適宜的態(tài)度。

4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能服務(wù)管理辦法(征求意見稿)》。其中明確提出，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人，不僅要承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任，還要承擔(dān)個人信息處理者的法定責(zé)任，履行個人信息保護(hù)義務(wù)。

可以看出，《辦法》既是對生成式人工智能的規(guī)范管理，也凸顯了國家對其未來發(fā)展的明確支持。只有協(xié)調(diào)好創(chuàng)新發(fā)展和風(fēng)險防控之間的關(guān)系，確保生成式人工智能的行為服務(wù)全部處于監(jiān)管之下，才能使其慢慢步入正軌，行穩(wěn)致遠(yuǎn)。

馴服AI技術(shù)，法律和倫理規(guī)制都要跟上。因?yàn)橐S系其良好生態(tài)，離不開政府監(jiān)管，也需要企業(yè)履責(zé)、社會監(jiān)督和網(wǎng)民自律，任何時候，科技向善的底線都必須堅守。