“大家好,我是你們的嬋寶,今天有事請大家幫忙。嬋妹就想著幫助媽媽,讓家里的生活過得更好一點,同時把老家的土雞蛋分享給粉絲們嘗嘗……”
在互聯網上,奧運冠軍的“聲音”突然開始推銷農產品,知名演員的“聲音”24小時不間斷在直播間與粉絲互動……隨著AI技術的普及,“克隆”特定人物聲音已實現“一鍵式”操作。當聲音能被輕易竊取和濫用,隨之而來的侵權亂象頻繁上演。
利用AI仿冒奧運冠軍聲音帶貨
背后潛藏灰色產業鏈
記者在某平臺發現,在網名為“我是小助理吖”的博主賬號中,已發布的17件作品,內容全部是利用AI仿冒奧運冠軍全紅嬋聲音帶貨土雞蛋的視頻,其中一個視頻點贊量高達1.1萬。
評論區顯示,大量粉絲誤以為這就是全紅嬋本人,紛紛下單購買鏈接中的雞蛋,該商品鏈接顯示已售出4.7萬件。今年4月,全紅嬋家人曾向媒體證實,全紅嬋并未給相關農產品代言或授權。
除全紅嬋外,奧運冠軍孫穎莎和王楚欽也遭遇了同樣的仿冒。在網名為“小兔真可愛”的賬號中,兩位奧運冠軍的AI克隆聲音同樣在為土雞蛋帶貨。
以假亂真的聲音再加上對奧運冠軍的喜愛,網絡博主收獲了大量粉絲的訂單。
而記者發現,AI仿冒名人的亂象遠不止帶貨,還有部分自媒體博主克隆名人的聲音后進行24小時語音直播,演員靳東是被仿冒最多的對象,在這看似匪夷所思的操作背后,其實隱藏著另一個灰色產業鏈。
據網絡安全專家潘季明介紹,通過仿冒名人進行直播,不僅可以誘騙粉絲打賞獲利,還可將一個小白賬號迅速打造成上萬粉絲的賬號,從而為后續牟利來鋪路。
合作一次就能無限克隆
配音演員遭“AI盜聲”困局
AI仿冒名人的行為,不僅欺騙了消費者,也侵犯了當事人的人格權。而AI克隆技術濫用盯上的遠不止我們熟知的名人。記者調查發現,配音演員被AI克隆侵權的案例同樣頻繁發生。
武揚是一位從業十多年的職業配音演員,主要從事影視和廣告配音。今年6月中旬,武揚突然在某餐飲企業的宣傳片中聽到了自己的聲音,但這段配音并不是他錄制的,該視頻的轉發量當時已達2800多次。
面對武揚的質問,對方承認了他們利用AI克隆武揚聲音的事實,但拒絕武揚提出公開道歉的要求,聲稱該克隆聲音由第三方公司提供,他們沒有直接責任,僅愿意支付5000元來進行賠償。武揚拒絕了這個條件,他擔心這筆錢被當成了授權費,更怕妥協后侵權會變本加厲。
與武揚的情況類似,另一位配音演員浩洋的維權也陷入了“自證循環”,侵權方不僅拒絕承認對浩洋聲音克隆侵權,還試圖采取拖延的方式蒙混過關。浩洋告訴記者,從今年年初開始,他已遭遇多次被侵權,而他的遭遇在配音行業也并非個例。
當被濫用的AI技術成為侵權行為的掩護,合作一次就能無限克隆。目前,武揚已經收集了相關的證據,準備走法律程序起訴侵權方。
一鍵盜聲僅需十幾秒
最大隱患是被詐騙分子利用
那么,AI克隆聲音是如何實現以假亂真的?又是誰在為“盜取聲音”而推波助瀾?
記者調查發現,在網絡平臺上,以“聲音克隆”為關鍵詞進行搜索,能輕易找到大量相關教程視頻和軟件下載信息。部分博主不僅詳細演示操作過程,還直接提供軟件資源。
網絡安全專家潘季明介紹,基于開源的語音大模型,只需一段清晰的語音樣本,任何人的聲音都可能在極短時間內被克隆,并能被操縱說出攻擊者設定的任意內容。
潘季明表示,除了侵犯聲音權等合法權益,AI克隆聲音目前最大的隱患是被詐騙分子利用,一旦與AI換臉等技術結合,生成高度逼真的“數字人”實施詐騙,危害將非常嚴重。潘季明建議,目前相關的技術要從源頭進行相應限制,在開源過程中需對代碼的使用時長、應用場景等做具體限制。
民法典:未經許可
使用或授權他人使用AI合成聲音屬侵權
從“一聽就假”到“真假難辨”,AI克隆技術的濫用不僅嚴重侵犯了當事者的權益,而且還涉嫌違法違規。
據法律專家介紹,我國民法典將人格權獨立成編,首次以立法形式將保護“聲音”寫入其中,在第1023條中明確,對自然人聲音的保護,參照適用肖像權保護的有關規定。
北航法學院副教授趙精武指出,若AI合成聲音能讓公眾憑音色、風格關聯到特定自然人,即具法律可識別性,可構成侵權。他還表示,任何自然人聲音均應受法律保護,錄音制品授權不等同于對聲音AI克隆授權,未經許可使用或授權他人使用權利人的聲音均屬侵權。
平臺應履行監管責任
多部門聯合整治AI克隆聲音亂象
針對目前網絡上AI克隆聲音的相關內容被大量傳播,平臺是否也應承擔相應責任?此類亂象該如何治理?
專家建議,針對濫用AI克隆聲音的亂象,平臺層面要切實履行監管責任,建立健全對AI聲音的審核和侵權舉報機制,及時發現和攔截侵權、虛假、違法等不良內容。
今年3月,國家網信辦等四部門聯合發布的《人工智能生成合成內容標識辦法》,將于2025年9月1日起施行,其中明確了服務提供者應當對文本、音頻、圖片、視頻、虛擬場景等生成合成內容添加顯式標識等。
另外,中央網信辦近日在全國范圍內部署開展“清朗·整治AI技術濫用”專項行動,將強化AI技術源頭治理,清理整治違規AI應用程序,推動網站平臺提升檢測鑒偽能力等。
據央視新聞