1月28日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》公開征求意見的通知，依據(jù)網(wǎng)安法、數(shù)安法、個保法等法律要求規(guī)范應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)的信息安全義務(wù)，意見反饋截止日期為2月28日。

所謂深度合成技術(shù)，是指利用以深度學(xué)習(xí)、虛擬現(xiàn)實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術(shù)。

比如篇章生成、文本風(fēng)格轉(zhuǎn)換、問答對話等對文本內(nèi)容進行生成或者編輯的技術(shù)；文本轉(zhuǎn)語音、語音轉(zhuǎn)換、語音屬性編輯等對語音內(nèi)容進行生成或者編輯的技術(shù)；音樂生成、場景聲編輯等對非語音內(nèi)容進行生成或者編輯的技術(shù)。

也包括時下火熱的人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等對圖像、視頻內(nèi)容中人臉等生物特征進行生成或者編輯的技術(shù)；圖像增強、圖像修復(fù)等對圖像、視頻內(nèi)容中非生物特征進行編輯的技術(shù)；三維重建等對虛擬場景進行生成或者編輯的技術(shù)。

《規(guī)定》對深度合成服務(wù)提供者主要提出下列要求：

落實信息安全主體責(zé)任，建立健全算法機制機理審核、用戶注冊、信息內(nèi)容管理、數(shù)據(jù)安全和個人信息保護、未成年人保護、從業(yè)人員教育培訓(xùn)等管理制度，具有與新技術(shù)新應(yīng)用發(fā)展相適應(yīng)的安全可控的技術(shù)保障措施；

以顯著方式提示深度合成服務(wù)使用者信息安全義務(wù)，并依法依約履行相應(yīng)管理責(zé)任；

對深度合成服務(wù)使用者進行真實身份信息認(rèn)證；

加強對深度合成信息內(nèi)容的管理、審核；

加強深度合成技術(shù)管理，定期審核、評估、驗證算法機制機理，對涉及生物識別信息或可能涉及國家安全、社會公共利益的工具自行開展安全評估，預(yù)防信息安全風(fēng)險。；

加強訓(xùn)練數(shù)據(jù)管理，確保數(shù)據(jù)處理合法、正當(dāng)，采取必要措施保障數(shù)據(jù)安全。訓(xùn)練數(shù)據(jù)包含涉及個人信息數(shù)據(jù)的，還應(yīng)當(dāng)遵守個人信息保護有關(guān)規(guī)定，不得非法處理個人信息；

在使用其服務(wù)所制作的深度合成信息內(nèi)容中添加標(biāo)識以實現(xiàn)可識別、追溯；

提供模擬自然人進行文本生成或者編輯服務(wù)，語音生成或者顯著改變個人身份特征的編輯服務(wù)，虛擬人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務(wù)，提供沉浸式擬真場景等生成或者編輯服務(wù)及其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)，應(yīng)當(dāng)使用顯著方式對深度合成信息內(nèi)容進行標(biāo)識；

建立健全辟謠機制；

按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》有關(guān)規(guī)定履行備案手續(xù)；

開發(fā)上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應(yīng)用、新功能的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估。

前期，國家已出臺《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等相關(guān)規(guī)范性文件，在對生成合成類算法和利用深度學(xué)習(xí)、虛擬現(xiàn)實等新技術(shù)新應(yīng)用制作音視頻內(nèi)容等的監(jiān)管要求的基礎(chǔ)上，出臺具有系統(tǒng)性、針對性和可操作性的專門管理規(guī)定，將進一步厘清、細化深度合成技術(shù)的應(yīng)用場景，明確深度合成服務(wù)提供者和使用者的信息安全主體責(zé)任。

（內(nèi)容來源：安全419公眾號）

- END -