今日要聞!【法治護我心】眼見真的為“實”？NO！探尋深度合成亂象破解之道

【法治護我心——《互聯網信息服務深度合成管理規定》系列解讀】

光明網記者 李飛 孔繁鑫

(資料圖片)

近年來，不少“AI換臉”“魔法變聲”類應用走紅網絡；影像修復讓影視愛好者得以重溫高清的老電影；電商直播、影視動畫、文化傳媒等日常生活場景中，虛擬數字人已經廣泛應用……深度合成類技術竟這般“神奇”。

作為人工智能領域的新型“黑科技”，得益于人工智能技術的不斷發展與開放，深度合成技術以其較低的應用門檻、較強的娛樂屬性、豐富的應用場景，愈加受到廣泛關注。然而，利用非法盜取的音視頻和照片，通過變聲、換臉等技術偽裝“瞞天過海”，實施詐騙或侵犯他人肖像權、名譽權的事件，卻也時有發生。

1月10日，針對深度合成服務治理的專門性部門規章《互聯網信息服務深度合成管理規定》（以下簡稱《規定》）施行，網民普遍“點贊”，對其將形成的治理、規范效用表達支持。

難辨真假背后技術亂象門檻愈低

以假亂真，是深度合成技術的顯著特點之一。“深度合成服務在互聯網社交媒體中廣泛應用，豐富了互聯網信息內容生態，推動了互聯網相關產業發展。”中國科學院信息工程研究所所長孟丹認為，該技術在為人民生活帶來了便利便捷和多樣化體驗的同時，也可能被惡意利用，虛假信息內容或將帶來政策干擾、謠言泛濫、低俗內容肆意傳播等影響國家安全、社會穩定的風險問題。

圖源 《中國教育報》

中國互聯網絡信息中心最新數據顯示，截至2022年6月，我國有10.51億網民，互聯網普及率達74.4%。同時，以互聯網、大數據、人工智能為代表的數字領域，逐漸成為我國創新發展活躍、社會輻射廣泛的新興領域。隨著各類商業化產品普及，深度合成的信息內容也在網絡上大量涌現，越來越多的社會公眾接觸到了深度合成技術。

清華大學研究生院院長周杰認為，深度合成技術的使用門檻愈發降低，呈現出“平民化”的趨勢，普通人也可以利用簡單方便的軟件工具制作合成內容。

“AI配音騙了多少中老年人”“頂著明星的臉賣貨”……正如部分網民所提到的，在互聯網技術日益發達的時代，人們對于看到的畫面、聽到的聲音和讀到的文本，已難以如往常一般充分信任。通過人工智能和大數據算法合成的虛擬數據，具有了高度仿真的視覺、聽覺等效果，使人們難辨真假。

虛假信息一直是互聯網治理的痛點與難點，深度合成技術的廣泛應用則對虛假信息的治理提出了更高的要求。

既要直面技術風險，又要做好源頭整治

如今，深度合成技術已展現其強大的能力，在各個領域的加速應用逐漸成為趨勢。中國政法大學教授張凌寒認為，《規定》將深度合成為代表的生成合成類算法作為算法安全治理體系細化的重要一步，一方面是由于深度合成屬于高敏感性的與互聯網信息內容安全息息相關的技術應用，另一方面深度合成技術將成為網絡虛擬空間與現實物理世界虛實結合、融為一體的關鍵技術應用，未來存在巨大發展空間。

“在相關技術研究發展的同時，也須直面技術帶來的風險，保證算法和數據的安全性、可靠性，最大程度做到技術進步的趨利避害。”周杰這樣說。

那么，對算法和數據的正向引導從何下手？有網民提出，“把平臺管牢，就解決了很大一部分深度偽造問題”。對此，中國信息通信研究院云計算與大數據研究所所長何寶宏表示，《規定》構建了圍繞深度合成“技術支持者”和“服務提供者”的責任框架。其中，技術支持者應從源頭深化技術治理，加強數據和技術管理，同時參照相關規定履行算法備案等手續。服務提供者應全方位落實信息安全主體責任，強化針對服務、用戶、數據、技術以及內容等方面的管理措施，實施安全可控的技術保障措施。

“AI換臉、AI繪畫等常用技術及其生產內容，今后還能使用嗎？”有網友在社交平臺上這樣提問。中國科學院自動化研究所研究員陶建華介紹，《規定》從兩個方面明確了深度合成內容標識管理的具體要求：一是要添加不影響使用的標識，保障深度合成信息內容可識別溯源；二是要使用顯著方式，對生成或顯著改變信息內容的深度合成信息內容進行標識，保障公眾知情權。

“虛擬主播”如何管理？中國人民大學未來法治研究院執行院長張吉豫提到，《規定》將“數字人物”納入深度合成管理，這是對深度合成技術的不斷發展運用中可能面臨的風險所進行的科學研判，數字人物運用中同樣涉及私權、可能帶來問題，需要進行合理規范。

技術發展要兼具“創新”與“溫暖”

正如眾多網民在接觸和使用之中的感受，深度合成技術具有“兩面性”。如何使其保持快速發展的同時，在各個應用領域得到依法合理有效利用，最大程度服務于滿足用戶需求、改進用戶體驗，保障“眼見為實”，是網民的深度關切和期待。

張凌寒提到，深度合成技術代表了未來人工智能產業發展的重要方向，重新定義了虛擬化數字生存空間。

2021年“元宇宙”概念的火熱，為深度合成技術提供了更加寬廣的應用場景，也促進了深度合成技術的加速發展。“《規定》也回應了這一人工智能未來的發展方向，三維重建、數字仿真等生成或者編輯數字人物、虛擬場景、沉浸式擬真場景的技術，是《規定》規制的深度合成技術的重要類別。”張凌寒說。

深度合成技術向善使用，甚至還可帶給人“情感慰藉”。2019年，我國某人工智能實驗室受一位作為母親的網民所托，將其已離世的女兒合成“復制”為可交互的軟件，女兒的“語音”得以在互動終端設備中重現。一位美國記者詹姆斯·弗拉霍斯（James Vlahos）在父親確診為癌癥晚期后，收集了父親的錄音、生平、記憶，并利用這些數據開發擁有父親“思想”和“記憶”的AI機器人，它能夠用父親的口吻與詹姆斯進行有思維性的聊天，讓詹姆斯感到十分欣慰。

創新與溫情之外，業內人士坦言，深度合成內容行業的挑戰，將主要體現在深度合成逼真度正在快速提升，甚至很難分辨真偽邊界。而最新的深度偽造技術具備強對抗性，天然針對檢測方法進行對抗攻擊，從而使檢測方法失效。

面向算法正面正向的應用，《規定》已給出了解答和方向。陶建華說，《規定》明確了技術應用的底線，要求體現正確的社會價值觀；要建立健全辟謠機制并及時采取相應辟謠措施；同時鼓勵深度合成服務相關行業自律并遵循公正公平、公開透明、科學合理和誠實信用的原則。

中國社科院哲學所科技哲學研究室主任、研究員段偉文還建議，深度合成技術涉及認知安全，要提升社會認知安全意識，提升公眾的數字素養。

標簽： 技術亂象 深度合成服務治理