到九宮格
新華社北京2月12日電 題：你的聲音被誰“偷”走了？——AI聲音濫用現象調查
新華社“新華視點”記者邵魯文、溫競華
親耳聽到的就是真的嗎？未必。網絡平臺上，AI聲音隨處可見。
從“張文宏醫生”推銷卵白棒個人空間視頻“走紅”網絡，后被自己“打假”，到多位配音演員稱聲音被AI“偷走”，公開維權……“新華視點”記者調查發現，隨著人工智能技術和語音年夜模子應用的發展，AI分解聲音App大批出現，最快只需十幾秒便可“克隆”出來。與此同時，AI聲音濫用現象愈發凸起，不時引發爭議。
AI聲音濫舞蹈教室用不時發生
記者在某短視頻平臺以“AI克隆聲音”為關鍵詞檢索發現，明星翻唱、新聞播報、吐槽點評等大批共享空間視頻觸及AI聲音，有些甚至出現不雅觀詞匯，不少視頻點贊和評論量過千。
而AI聲音濫用事務也不時發生，引發關注和舞蹈場地討論。
在社交平臺上，通過AI模擬惡搞各領域名人的音視頻不在少數。此前，短視頻平臺涌現了大批AI模擬某著名企業家聲音吐槽堵車、調休、游戲等熱門話題的視頻，個別視頻甚至還有臟話出現，一度登上熱搜。該企業家隨后發視頻回應稱：“相關事務的確讓本身挺困擾，也挺不舒暢，盼望大師都教學場地不要‘玩’了。”
一些商家在短視頻平臺帶貨時，通過AI模擬聲音技術將主播“變”為著名女明星、著名醫生，銷售服裝、保健品等相關產品，對消費者形成了嚴重誤導。國家傳染病醫學中間主任、復旦年夜學附屬華山醫院沾染科主任張文宏接收媒體采訪時表現，通過語音分解來模擬他的聲音進行直播帶教學場地貨，這樣的賬號“不止一個，且一向在變”，他屢次向平臺投訴但屢禁不絕。
胖東來創始人于東來的聲音也曾頻遭AI模擬，相關平臺出現了大批與事實不符的分解視頻。胖東來商貿集團為此發布聲明稱，多個賬號未經授權私行應用AI技術手腕天生于東來的聲音，參加誤導性案牘，對公眾形成誤導和混雜。
記者清楚到，有犯警分子通過“AI換聲”仿冒一位白叟的孫子教學，以“打人須賠償，否則要坐牢”為由，詐騙白叟2萬元。類似的詐騙案件在全國已發生多起，有的詐騙金額達到上百萬元。
中國社會科學院年夜學互聯網法治研討中間主任劉曉春表現，在未經過授權、未進行標注的情況下，用別人聲音制作AI語音產品，尤其是“借用”公眾人物的聲音，很不難惹起誤解，不僅會損害個人信息平安，還能夠擾亂網絡空間生態和次序。
聲音是若何被“偷”走的？
AI若何天生以假亂真的聲音？受訪專家介紹，AI能夠“克隆”聲音，重要是依附深度學習算法，即短時間內從采集的聲音樣本中提取關鍵特征，包含頻率、音色、聲調、語速、感情等，將這些特征記錄為數學模子，再通過算法分解。
中國科學院自動化研討私密空間所形式識別實驗室工程師牛少東說，隨著算法越來越先進，在高機能設備和高精度模子的加持下，AI天生的語音內容從兩年前的“一眼假”升級到現在的“真假難辨”。
年夜四學生耿孝存比來經常在網絡音樂播放器中收聽幾首翻唱歌曲，他一向以為這些歌曲由某著名女歌手翻唱，后來才得知其實所有的是AI分解的。“聲音真切到我從來沒懷疑過。”耿孝存說。
AI聲音在比來一兩年時間內變得非分特別“風行”。1對1教學清華年夜學新聞與傳播學院傳授沈陽會議室出租說，人工智能技術的普及，讓AI模擬聲音的門檻年夜幅下降。通過一些開源軟件戰爭臺，沒有專業知識的通俗用戶也能操縱。
大批App能夠進行AI分解聲音，最快只需十幾秒。記者在應用商舖搜刮發現，相關App有數十款，下載量最高明千萬次。
記者聯系了一款App的客服人員，對方表現，花198元就能解鎖付費會員，對著鏡頭說幾遍“12345”，A個人空間I就共享空間會根據聲音天生各類內容的出鏡口播視頻。記者操縱后發現，通過這款軟件天生的名人聲音，基礎可以以假亂真，且錄進名人聲音不需求供給任何授權證明。
業內人士告訴記者，AI模擬人聲在互聯網“風行”，有追瑜伽場地逐私密空間流量和變現的小樹屋目標。通過“克隆”名人聲音制作的惡搞、獵奇類視頻，在相關平臺播放和點贊量均不低，有的甚至還被推上熱搜。發布者也相應獲得流量曝光、粉絲增長、廣告支出等播放收益。
此外，“偷”人聲音也有犯警好處驅動。國家金融監管總局202私密空間4年7月發布的《關于防范新型電信網絡詐騙的風險提醒》中提到，犯警分子能夠對明星、專家、執法人員等音視頻進行人工分解，假借其成分傳播虛假新聞，從而實現詐騙目標。
多措并舉強化管理
用AI天生別人聲音，能否違法違規？多位受訪專“當然。”裴毅急忙點頭，回答，只要他媽媽能同意他去祁州。家表現，個人聲音中包括的聲紋信息具備可識別性，能以電子方法記錄，能關聯到獨一天然人，是生物識別信息，屬于個人信息保護法規定的敏感個人信息之一。
2024年4月家教，北京互聯網法院宣判全國首例“AI聲音侵權案”，明確認定在具備可識別性的條件下，天然人聲音權益的保護范圍可及于AI天生聲音。該法瑜伽教室院法官認為，未經權利人許可，私行應用或許可別人應用錄音制品中的聲音構成共享空間侵權。
近年來，有關主管部門出臺《人工智能天生分解內容標識辦法（征求意會議室出租見稿）》《互聯網信息服務深度分解治理規定》《天生式人工智能服務治理暫行辦法於是，他告訴岳父，他必須回家請母親做決定。結果，媽媽真的不一樣了。她二話不說，點了點頭，“是”，讓他去藍雪詩府》等規定，必定水平上給AI技術應用劃定了紅線。
沈陽等共享空間專家小樹屋認為，關于人工智能應用產生的造謠侵權、刑事犯法、品德倫理等問題，建議有關部門細化完美相關規則，通過典範案例、司法解釋等方法給予更為明確小樹屋的規范指引，厘清法令法規邊界。
中國科學院科技戰略咨詢研討院院長潘教峰認為，需進一個步驟強化人工智能倫理規制，超前安排瑜伽教室人工個人空間智能風險研討，提早預判人工智能技術應用能夠帶來的社會影響。
2024年1瑜伽場地2月，廣電交流總局網絡視舞蹈教室聽司發布《治理提醒（AI魔改）》，請求嚴格家教落實天生式人工智能內容審核請求，對在平臺上應用、傳播的各類相關技術產品嚴格準進和監看，對AI天生內容做出顯著“我不累，我們再走吧。”藍雨華不忍心結束這段回憶之旅。提醒。
多位專家表1對1教學現，各類社交網絡、短視頻平臺要強化主動監管意識，及時發現、處理能夠觸及侵權的AI天生作品；相關部門應繼續加年夜對應用AI技術進行詐騙等違法犯法行為的打擊力度，構成加倍完美的常態化管理機制。
牛少東說，在AI時代，個人也要加倍留意保護本身的生物特征信息，增強法令意識，抵抗別人侵權等行為。