繼算法推薦之后，深度合成技術(shù)也迎來單獨規(guī)范。12月11日晚間，國家網(wǎng)信辦、工信部、公安部發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（下稱《規(guī)定》），《規(guī)定》從技術(shù)提供者、服務(wù)使用者以及監(jiān)管等各方面，對深度合成技術(shù)應(yīng)用提出規(guī)范，《規(guī)定》自2023年1月10日起施行。

、AIGC背后推手

深度合成技術(shù)，是指利用以深度學(xué)習(xí)、虛擬現(xiàn)實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術(shù)。

中國科學(xué)院信息工程研究所所長孟丹表示，近年來，深度合成技術(shù)應(yīng)用廣泛、形式多樣，在影視、傳媒、教育等領(lǐng)域有大量應(yīng)用形式，可實現(xiàn)特效制作、元宇宙場景、虛擬仿真教學(xué)等功能。隨著各類商業(yè)化產(chǎn)品普及，深度合成的信息內(nèi)容也在網(wǎng)絡(luò)上大量涌現(xiàn)。

典型的深度合成案例包括人臉替換、人臉再現(xiàn)、人臉合成和語音合成。近日風(fēng)靡全網(wǎng)的AI聊天機(jī)器人，以及AIGC、虛擬主播等，均為深度合成技術(shù)的具體應(yīng)用。

可以看到，深度合成應(yīng)用正在“深入群眾”，然而，技術(shù)“平民化”的背后，一系列負(fù)面風(fēng)險也隨之而來。實際上，利用深度合成技術(shù)偽造虛假音視頻，從而進(jìn)行詐騙勒索的違法行為和案例報道已屢見不鮮，亟需得到規(guī)范。

孟丹認(rèn)為，從技術(shù)進(jìn)步的角度來說，深度合成技術(shù)應(yīng)用的初衷是讓生成合成內(nèi)容更逼真，但深度合成技術(shù)在愈趨“智能”的同時，也不可避免地帶來更多的安全風(fēng)險，除深度偽造風(fēng)險外，還包括生成合成信息內(nèi)容帶來的個人信息泄漏、侵犯人格權(quán)和知識產(chǎn)權(quán)等他人合法權(quán)益等風(fēng)險。

小冰CEO李笛此前在接受《科創(chuàng)板日報》記者采訪時表示，早年間的AI換臉，就是典型的利用AI技術(shù)作惡的亂象。2019年AI“換臉”應(yīng)用ZAO走紅網(wǎng)絡(luò)，用戶只需要上傳一張自己的照片，就可以換臉成為影視劇中的明星。然而僅僅三天，ZAO便因涉嫌未依法依規(guī)收集使用人臉信息被工信部約談，接著便被下架。

行業(yè)人士認(rèn)為，此次《規(guī)定》的出臺，能消除一些行業(yè)亂象。

平臺需把關(guān)審核 個人需知情

2021年12月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《算法規(guī)定》），對包括生成合成類在內(nèi)的五類算法推薦服務(wù)進(jìn)行規(guī)范。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》已于今年1月施行，《規(guī)定》是第二部專門針對算法的規(guī)范。

有基于ZAO等“AI換臉”等負(fù)面案例，本次《規(guī)定》要求深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個人，并取得其單獨同意。

在技術(shù)提供者方面，《規(guī)定》明確，應(yīng)用程序分發(fā)平臺應(yīng)當(dāng)落實安全管理責(zé)任，核驗深度合成類應(yīng)用程序相關(guān)情況。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識，避免公眾混淆或者誤認(rèn)。

此外，深度合成服務(wù)提供者應(yīng)當(dāng)基于移動電話號碼、身份證件號碼、統(tǒng)一社會信用代碼或者國家網(wǎng)絡(luò)身份認(rèn)證公共服務(wù)等方式，依法對深度合成服務(wù)使用者進(jìn)行真實身份信息認(rèn)證，不得向未進(jìn)行真實身份信息認(rèn)證的深度合成服務(wù)使用者提供信息發(fā)布服務(wù)。

這也意味著，深度合成服務(wù)提供者和技術(shù)支持者都要從源頭上對深度合成內(nèi)容提前把關(guān)。

《規(guī)范》還明確了主管部門職責(zé)，由網(wǎng)信部門負(fù)責(zé)統(tǒng)籌協(xié)調(diào)深度合成服務(wù)的治理和相關(guān)監(jiān)督管理工作；電信主管部門、公安部門依據(jù)各自職責(zé)負(fù)責(zé)深度合成服務(wù)的監(jiān)督管理工作。

對比年初的征求意見稿，《科創(chuàng)板日報》記者還發(fā)現(xiàn)，《規(guī)定》新增了條款，要求具有生成或者編輯人臉、人聲等生物識別信息的模型、模板等工具的深度合成服務(wù)提供者和技術(shù)支持者，應(yīng)當(dāng)自行或者委托專業(yè)機(jī)構(gòu)開展安全評估。

“有別于信息內(nèi)容發(fā)布與傳播，互聯(lián)網(wǎng)信息服務(wù)深度合成活動是一項涉及算法技術(shù)、應(yīng)用功能、產(chǎn)品業(yè)務(wù)，覆蓋數(shù)據(jù)采集、分析、編輯、加工等多環(huán)節(jié)的數(shù)據(jù)處理過程，產(chǎn)生的安全風(fēng)險也是由參與多方、不同環(huán)節(jié)共同作用形成的，因此對互聯(lián)網(wǎng)信息服務(wù)深度合成的規(guī)范和引導(dǎo)，需要覆蓋各主體、各環(huán)節(jié)。 ”孟丹表示。

國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人指出，深度合成服務(wù)治理需要政府、企業(yè)、社會、網(wǎng)民等多方主體共同參與，推動深度合成技術(shù)的依法、合理、有效使用，積極防范化解深度合成技術(shù)帶來的風(fēng)險，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。