新聞背景： 

　　國慶上網被“雷軍”罵了整整7天？有媒體報道，剛剛過去的國慶假期里，短視頻平臺出現了大量“雷軍”的發言視頻，涉及堵車、調休、游戲等熱門話題，時而言辭犀利，時而爆出粗口。據悉，這些發言與知名企業家雷軍并無關系，而是由AI合成。目前，相關短視頻已被各大平臺下架。

　　AI技術怎能不斷“試探”底線？

　　從“AI孫燕姿”“AI周杰倫”翻唱歌曲，到“郭德綱”講英文段子、“霉霉”講流利中文，再到如今“雷軍”七天罵翻全網，AI配音在網絡世界的應用并不鮮見。原本，制作者只是在小范圍玩梗逗樂，卻逐漸變為在違法、悖德的邊緣瘋狂“試探”：有人利用AI語音招搖撞騙、有人未經允許利用AI技術“重現”已故明星聲音……凡此種種，皆提示我們在享受技術便利的同時，也要格外關注潛藏的風險。【詳細】

　　AI流水線式造假，不僅侵犯公民的合法權益、混淆大眾認知，更帶來巨大的風險隱患。《2024人工智能安全報告》顯示，僅今年上半年，AI詐騙案案值已超過1.85億元。【詳細】

　　深度偽造已成滋生亂象溫床

　　從彼雷軍到此“雷軍”，使用“AI配音”就可以“一鍵直達”。近年來，通過AI實現聲音和畫面深度偽造的技術門檻不斷降低，為這種“一鍵變聲”“一鍵變臉”泛濫提供了可能。目前，市面上已有大量的AI配音小程序，用戶只需在程序內選擇相應的人物聲音并輸入文字，便可借用他人的聲音發表言論。有的軟件免費向用戶開放部分使用權限，收費版本價格也并不高。

　　在深度偽造技術之下，我們越來越無法區別真假，過去崇尚的“眼見為實”受到沖擊，只能信以為真。而真偽難辨的混沌地帶，也很可能成為滋生各種亂象的溫床。更甚之，不法人員憑借一段原始語音、照片等就能編造謠言甚至設置陷阱，并借此實施詐騙。【詳細】

　　該給AI生成套上韁繩了

　　當深度偽造嵌入我們的數字生活，該怎么辦？這并非無病呻吟強說愁。一方面，要推動反深偽檢測技術持續更新迭代，以應對層出不窮的深度偽造騙局；另一方面，要加強技術監管，明確生成式人工智能服務合法與非法的邊界，對相關違法行為進行嚴肅懲處，以“前車之鑒”構筑其參照坐標。【詳細】

　　就防止AI合成內容侵權的問題而言，我們能做的還有很多。比如，作為傳播鏈條中的重要一環，社交平臺需負起相應的治理責任，并注意識別AI生成音視頻的真偽，對侵權素材作出及時處理，必要時標注“疑似AI合成”之類的提醒。再比如，網絡惡搞不能沒有邊界，廣大網友也要注重尊重他人的合法權益，絕不能突破法律和道德的底線。【詳細】

　　（以上綜合光明網、北京日報、南方日報） 

　　V視角： 

　　@小小鹿同學：玩梗要適度，這樣惡搞知名企業家不太好吧？

　　@笑逐顏開：這種AI換聲已經涉嫌侵權了。

　　@心隨風動：雷軍都被侵權，那我們普通人要遭到侵權就更難辦了。

　　@是不是笑一笑就好了：為了流量啥都干，真是沒有底線了。

　　@我是布布：支持雷總維權。

　　中國經濟網編后語： 

　　如今，AI換臉或配音、文生文、文生圖、文生視頻等應用的發展如火如荼，但越來越多的質疑聲也隨著侵權、泄露個人信息、詐騙等問題到來。雷軍遭遇AI侵權，或許這次只是惡搞，倘若互聯網應用的場景中謠言和詐騙橫行，我們又該如何應對？規范生成式人工智能技術的發展，不該止于“平臺下架相關內容”，而應當最大力度強化監管和處罰，同時，還應厘清AI生成的邊界，更好引導“科技向善”。

    回顧：往期“經”點熱評