全國人大代表、小米科技董事長兼CEO雷軍3月4日公開了今年兩會的5條建議，其中“加強‘AI換臉擬聲’違法侵權(quán)重災(zāi)區(qū)治理”尤為引人關(guān)注，因為他本人就是AI換臉擬聲的“深度受害者”。

去年國慶長假期間，短視頻平臺上曾經(jīng)出現(xiàn)大量“雷軍AI配音”的惡搞視頻，涉及堵車、調(diào)休、游戲等熱門話題，不僅言辭犀利，還常爆粗口，引得網(wǎng)友紛紛涌到雷軍微博下發(fā)問“最近你怎么在罵人”。對此，雷軍還專門發(fā)視頻，呼吁大家不要再惡搞。

雷軍個人賬號截圖

中招的不只是雷軍，現(xiàn)在很多互聯(lián)網(wǎng)平臺，都有大量用AI移花接木、惡搞名人的音視頻。還有AI魔改經(jīng)典老劇，用AI生成的“假名人”來帶貨，也是利用了換臉擬聲技術(shù)。

人工智能深度合成技術(shù)的快速發(fā)展，推動了“AI換臉擬聲”在影視、廣告、社交等領(lǐng)域廣泛興起，成為社會喜聞樂見、傳播力強的技術(shù)應(yīng)用。但正如雷軍所指出的，“AI換臉擬聲”不當(dāng)濫用也成了違法侵權(quán)行為的重災(zāi)區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個人信息以及詐騙等犯罪行為，帶來社會治理風(fēng)險。

此次雷軍作為“受害者本尊”，以全國人大代表的身份將這個嚴(yán)肅話題帶到全國兩會上，提出治理建議，可謂恰如其分，很有說服力。

有網(wǎng)友可能會問，不就是惡搞一下名人，值得這么緊張嗎？事實上，這絕不是件可以一笑而過的事。如果說從前礙于技術(shù)的問題，“AI換臉擬聲”還有比較明顯的破綻，而現(xiàn)在通過合成技術(shù)生成的AI數(shù)字人，形態(tài)自然、語言流暢，在特定環(huán)境下已經(jīng)和真人無異，讓人難以分辨。

而且，網(wǎng)絡(luò)上已經(jīng)出現(xiàn)了不少違法亂象：比如冒充名人與中老年人接觸，誘使他人轉(zhuǎn)賬；自稱是單位領(lǐng)導(dǎo)，要求他人匯款；甚至還有人通過AI技術(shù)編造險情、災(zāi)情等，以此博取流量。如果放任“AI換臉擬聲”不當(dāng)濫用，很有可能帶來社會治理的風(fēng)險，下一個受害者也許就會是我們的親人、朋友。

我國目前對于AI合成技術(shù)已經(jīng)作出了一些規(guī)定，例如《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)暫行管理辦法》等，明確要求深度合成服務(wù)提供者落實信息安全主體責(zé)任，使用者不得濫用深度合成服務(wù)。

但治理AI換臉擬聲也存在一些法律和技術(shù)上的難題。比如真要追責(zé)，取證困難，需證明視頻真實性、來源及目的；主觀性認(rèn)定困難，需證明行為人明知違法，且證據(jù)標(biāo)準(zhǔn)高。就拿雷軍來說，很多惡搞他的AI視頻已經(jīng)明顯越過了開玩笑、玩梗的界限，損害了其個人形象，但真要一個一個去“較真”，其實并不容易。

就現(xiàn)階段而言，一方面，平臺理應(yīng)強化主體責(zé)任，對用戶發(fā)布的內(nèi)容進(jìn)行審核，及時處理違法信息；另一方面，也應(yīng)該在法律層面盡快制定AI行業(yè)行為準(zhǔn)則和道德規(guī)范，推動行業(yè)自律和技術(shù)應(yīng)用的倫理合規(guī)性。

“AI換臉擬聲”被濫用，其實只是人工智能技術(shù)帶來的治理挑戰(zhàn)之一。在3月4日人大首場發(fā)布會上，發(fā)言人婁勤儉也坦言：人工智能技術(shù)的發(fā)展也伴隨一系列難以預(yù)知的風(fēng)險挑戰(zhàn)，在安全、社會治理、道德倫理等方面帶來眾多新課題，“中國政府高度重視人工智能技術(shù)的發(fā)展和風(fēng)險防范”。

因此，對于AI我們既要保持開放包容的心態(tài)，將其用好、發(fā)展好；對于新技術(shù)、新應(yīng)用帶來的種種問題，也要堅持在發(fā)展中治理，明確使用AI技術(shù)的底線和紅線，真正讓科技向上向善、為人類服務(wù)。