繼算法推薦之后，深度合成技術也迎來單獨規范。12月11日晚間，國家網信辦、工信部、公安部發布《互聯網信息服務深度合成管理規定》（下稱《規定》），《規定》從技術提供者、服務使用者以及監管等各方面，對深度合成技術應用提出規范，《規定》自2023年1月10日起施行。

、AIGC背后推手

深度合成技術，是指利用以深度學習、虛擬現實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。

中國科學院信息工程研究所所長孟丹表示，近年來，深度合成技術應用廣泛、形式多樣，在影視、傳媒、教育等領域有大量應用形式，可實現特效制作、元宇宙場景、虛擬仿真教學等功能。隨著各類商業化產品普及，深度合成的信息內容也在網絡上大量涌現。

典型的深度合成案例包括人臉替換、人臉再現、人臉合成和語音合成。近日風靡全網的AI聊天機器人，以及AIGC、虛擬主播等，均為深度合成技術的具體應用。

可以看到，深度合成應用正在“深入群眾”，然而，技術“平民化”的背后，一系列負面風險也隨之而來。實際上，利用深度合成技術偽造虛假音視頻，從而進行詐騙勒索的違法行為和案例報道已屢見不鮮，亟需得到規范。

孟丹認為，從技術進步的角度來說，深度合成技術應用的初衷是讓生成合成內容更逼真，但深度合成技術在愈趨“智能”的同時，也不可避免地帶來更多的安全風險，除深度偽造風險外，還包括生成合成信息內容帶來的個人信息泄漏、侵犯人格權和知識產權等他人合法權益等風險。

小冰CEO李笛此前在接受《科創板日報》記者采訪時表示，早年間的AI換臉，就是典型的利用AI技術作惡的亂象。2019年AI“換臉”應用ZAO走紅網絡，用戶只需要上傳一張自己的照片，就可以換臉成為影視劇中的明星。然而僅僅三天，ZAO便因涉嫌未依法依規收集使用人臉信息被工信部約談，接著便被下架。

行業人士認為，此次《規定》的出臺，能消除一些行業亂象。

平臺需把關審核 個人需知情

2021年12月，國家互聯網信息辦公室發布《互聯網信息服務算法推薦管理規定》（以下簡稱《算法規定》），對包括生成合成類在內的五類算法推薦服務進行規范。《互聯網信息服務算法推薦管理規定》已于今年1月施行，《規定》是第二部專門針對算法的規范。

有基于ZAO等“AI換臉”等負面案例，本次《規定》要求深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。

在技術提供者方面，《規定》明確，應用程序分發平臺應當落實安全管理責任，核驗深度合成類應用程序相關情況。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。

此外，深度合成服務提供者應當基于移動電話號碼、身份證件號碼、統一社會信用代碼或者國家網絡身份認證公共服務等方式，依法對深度合成服務使用者進行真實身份信息認證，不得向未進行真實身份信息認證的深度合成服務使用者提供信息發布服務。

這也意味著，深度合成服務提供者和技術支持者都要從源頭上對深度合成內容提前把關。

《規范》還明確了主管部門職責，由網信部門負責統籌協調深度合成服務的治理和相關監督管理工作；電信主管部門、公安部門依據各自職責負責深度合成服務的監督管理工作。

對比年初的征求意見稿，《科創板日報》記者還發現，《規定》新增了條款，要求具有生成或者編輯人臉、人聲等生物識別信息的模型、模板等工具的深度合成服務提供者和技術支持者，應當自行或者委托專業機構開展安全評估。

“有別于信息內容發布與傳播，互聯網信息服務深度合成活動是一項涉及算法技術、應用功能、產品業務，覆蓋數據采集、分析、編輯、加工等多環節的數據處理過程，產生的安全風險也是由參與多方、不同環節共同作用形成的，因此對互聯網信息服務深度合成的規范和引導，需要覆蓋各主體、各環節。 ”孟丹表示。

國家互聯網信息辦公室有關負責人指出，深度合成服務治理需要政府、企業、社會、網民等多方主體共同參與，推動深度合成技術的依法、合理、有效使用，積極防范化解深度合成技術帶來的風險，促進互聯網信息服務健康發展，維護網絡空間良好生態。