國家互聯(lián)網(wǎng)信息辦公室

中華人民共和國工業(yè)和信息化部

中華人民共和國公安部

令

第12號

      《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已經(jīng)2022年11月3日國家互聯(lián)網(wǎng)信息辦公室2022年第21次室務(wù)會議審議通過,，并經(jīng)工業(yè)和信息化部,、公安部同意,，現(xiàn)予公布，自2023年1月10日起施行,。

國家互聯(lián)網(wǎng)信息辦公室主任 莊榮文

工業(yè)和信息化部部長 金壯龍

公安部部長 王小洪

2022年11月25日

互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定

第一章 總則

       第一條 為了加強互聯(lián)網(wǎng)信息服務(wù)深度合成管理,，弘揚社會主義核心價值觀，維護國家安全和社會公共利益,，保護公民,、法人和其他組織的合法權(quán)益，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》,、《中華人民共和國數(shù)據(jù)安全法》,、《中華人民共和國個人信息保護法》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律,、行政法規(guī),，制定本規(guī)定。

       第二條 在中華人民共和國境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)（以下簡稱深度合成服務(wù)）,，適用本規(guī)定,。法律、行政法規(guī)另有規(guī)定的,，依照其規(guī)定,。

       第三條 國家網(wǎng)信部門負責統(tǒng)籌協(xié)調(diào)全國深度合成服務(wù)的治理和相關(guān)監(jiān)督管理工作。國務(wù)院電信主管部門,、公安部門依據(jù)各自職責負責深度合成服務(wù)的監(jiān)督管理工作,。

地方網(wǎng)信部門負責統(tǒng)籌協(xié)調(diào)本行政區(qū)域內(nèi)的深度合成服務(wù)的治理和相關(guān)監(jiān)督管理工作。地方電信主管部門,、公安部門依據(jù)各自職責負責本行政區(qū)域內(nèi)的深度合成服務(wù)的監(jiān)督管理工作,。

       第四條 提供深度合成服務(wù)，應(yīng)當遵守法律法規(guī),，尊重社會公德和倫理道德,，堅持正確政治方向、輿論導向,、價值取向,，促進深度合成服務(wù)向上向善。

       第五條 鼓勵相關(guān)行業(yè)組織加強行業(yè)自律,，建立健全行業(yè)標準,、行業(yè)準則和自律管理制度，督促指導深度合成服務(wù)提供者和技術(shù)支持者制定完善業(yè)務(wù)規(guī)范,、依法開展業(yè)務(wù)和接受社會監(jiān)督,。

第二章 一般規(guī)定

       第六條 任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制,、發(fā)布,、傳播法律,、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國家安全和利益,、損害國家形象,、侵害社會公共利益、擾亂經(jīng)濟和社會秩序,、侵犯他人合法權(quán)益等法律,、行政法規(guī)禁止的活動。

深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作,、復(fù)制,、發(fā)布、傳播虛假新聞信息,。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的,，應(yīng)當依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。

       第七條 深度合成服務(wù)提供者應(yīng)當落實信息安全主體責任,，建立健全用戶注冊,、算法機制機理審核、科技倫理審查,、信息發(fā)布審核,、數(shù)據(jù)安全、個人信息保護,、反電信網(wǎng)絡(luò)詐騙,、應(yīng)急處置等管理制度，具有安全可控的技術(shù)保障措施,。

       第八條 深度合成服務(wù)提供者應(yīng)當制定和公開管理規(guī)則、平臺公約,，完善服務(wù)協(xié)議,，依法依約履行管理責任，以顯著方式提示深度合成服務(wù)技術(shù)支持者和使用者承擔信息安全義務(wù),。

       第九條 深度合成服務(wù)提供者應(yīng)當基于移動電話號碼,、身份證件號碼、統(tǒng)一社會信用代碼或者國家網(wǎng)絡(luò)身份認證公共服務(wù)等方式,，依法對深度合成服務(wù)使用者進行真實身份信息認證,，不得向未進行真實身份信息認證的深度合成服務(wù)使用者提供信息發(fā)布服務(wù)。

       第十條 深度合成服務(wù)提供者應(yīng)當加強深度合成內(nèi)容管理,，采取技術(shù)或者人工方式對深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進行審核,。

       深度合成服務(wù)提供者應(yīng)當建立健全用于識別違法和不良信息的特征庫，完善入庫標準,、規(guī)則和程序,，記錄并留存相關(guān)網(wǎng)絡(luò)日志,。

       深度合成服務(wù)提供者發(fā)現(xiàn)違法和不良信息的，應(yīng)當依法采取處置措施,，保存有關(guān)記錄,，及時向網(wǎng)信部門和有關(guān)主管部門報告；對相關(guān)深度合成服務(wù)使用者依法依約采取警示,、限制功能,、暫停服務(wù)、關(guān)閉賬號等處置措施,。

       第十一條 深度合成服務(wù)提供者應(yīng)當建立健全辟謠機制,，發(fā)現(xiàn)利用深度合成服務(wù)制作、復(fù)制,、發(fā)布,、傳播虛假信息的，應(yīng)當及時采取辟謠措施,，保存有關(guān)記錄,，并向網(wǎng)信部門和有關(guān)主管部門報告。

       第十二條 深度合成服務(wù)提供者應(yīng)當設(shè)置便捷的用戶申訴和公眾投訴,、舉報入口,，公布處理流程和反饋時限，及時受理,、處理和反饋處理結(jié)果,。

       第十三條 互聯(lián)網(wǎng)應(yīng)用商店等應(yīng)用程序分發(fā)平臺應(yīng)當落實上架審核、日常管理,、應(yīng)急處置等安全管理責任,，核驗深度合成類應(yīng)用程序的安全評估、備案等情況,；對違反國家有關(guān)規(guī)定的,，應(yīng)當及時采取不予上架、警示,、暫停服務(wù)或者下架等處置措施,。

第三章 數(shù)據(jù)和技術(shù)管理規(guī)范

       第十四條 深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當加強訓練數(shù)據(jù)管理，采取必要措施保障訓練數(shù)據(jù)安全,；訓練數(shù)據(jù)包含個人信息的,，應(yīng)當遵守個人信息保護的有關(guān)規(guī)定。

       深度合成服務(wù)提供者和技術(shù)支持者提供人臉,、人聲等生物識別信息編輯功能的,，應(yīng)當提示深度合成服務(wù)使用者依法告知被編輯的個人，并取得其單獨同意。

       第十五條 深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當加強技術(shù)管理,，定期審核,、評估、驗證生成合成類算法機制機理,。

       深度合成服務(wù)提供者和技術(shù)支持者提供具有以下功能的模型,、模板等工具的，應(yīng)當依法自行或者委托專業(yè)機構(gòu)開展安全評估：

     （一）生成或者編輯人臉,、人聲等生物識別信息的,；

     （二）生成或者編輯可能涉及國家安全、國家形象,、國家利益和社會公共利益的特殊物體,、場景等非生物識別信息的。

       第十六條 深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容,，應(yīng)當采取技術(shù)措施添加不影響用戶使用的標識,，并依照法律、行政法規(guī)和國家有關(guān)規(guī)定保存日志信息,。

       第十七條 深度合成服務(wù)提供者提供以下深度合成服務(wù),，可能導致公眾混淆或者誤認的，應(yīng)當在生成或者編輯的信息內(nèi)容的合理位置,、區(qū)域進行顯著標識,，向公眾提示深度合成情況：

     （一）智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務(wù),；

     （二）合成人聲,、仿聲等語音生成或者顯著改變個人身份特征的編輯服務(wù)；

     （三）人臉生成,、人臉替換,、人臉操控、姿態(tài)操控等人物圖像,、視頻生成或者顯著改變個人身份特征的編輯服務(wù),；

     （四）沉浸式擬真場景等生成或者編輯服務(wù)；

     （五）其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù),。

       深度合成服務(wù)提供者提供前款規(guī)定之外的深度合成服務(wù)的，應(yīng)當提供顯著標識功能,，并提示深度合成服務(wù)使用者可以進行顯著標識,。

       第十八條 任何組織和個人不得采用技術(shù)手段刪除、篡改,、隱匿本規(guī)定第十六條和第十七條規(guī)定的深度合成標識,。

第四章 監(jiān)督檢查與法律責任

       第十九條 具有輿論屬性或者社會動員能力的深度合成服務(wù)提供者，應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù),。

       深度合成服務(wù)技術(shù)支持者應(yīng)當參照前款規(guī)定履行備案和變更,、注銷備案手續(xù)。

       完成備案的深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當在其對外提供服務(wù)的網(wǎng)站,、應(yīng)用程序等的顯著位置標明其備案編號并提供公示信息鏈接,。

       第二十條 深度合成服務(wù)提供者開發(fā)上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應(yīng)用,、新功能的,，應(yīng)當按照國家有關(guān)規(guī)定開展安全評估。

       第二十一條 網(wǎng)信部門和電信主管部門,、公安部門依據(jù)職責對深度合成服務(wù)開展監(jiān)督檢查,。深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當依法予以配合，并提供必要的技術(shù),、數(shù)據(jù)等支持和協(xié)助,。

       網(wǎng)信部門和有關(guān)主管部門發(fā)現(xiàn)深度合成服務(wù)存在較大信息安全風險的，可以按照職責依法要求深度合成服務(wù)提供者和技術(shù)支持者采取暫停信息更新,、用戶賬號注冊或者其他相關(guān)服務(wù)等措施,。深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當按照要求采取措施，進行整改,，消除隱患,。

       第二十二條 深度合成服務(wù)提供者和技術(shù)支持者違反本規(guī)定的，依照有關(guān)法律,、行政法規(guī)的規(guī)定處罰,；造成嚴重后果的，依法從重處罰,。

構(gòu)成違反治安管理行為的,，由公安機關(guān)依法給予治安管理處罰；構(gòu)成犯罪的,，依法追究刑事責任,。

第五章 附則

       第二十三條 本規(guī)定中下列用語的含義：

       深度合成技術(shù)，是指利用深度學習,、虛擬現(xiàn)實等生成合成類算法制作文本,、圖像、音頻,、視頻,、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)，包括但不限于：

     （一）篇章生成,、文本風格轉(zhuǎn)換,、問答對話等生成或者編輯文本內(nèi)容的技術(shù)；

     （二）文本轉(zhuǎn)語音、語音轉(zhuǎn)換,、語音屬性編輯等生成或者編輯語音內(nèi)容的技術(shù),；

     （三）音樂生成、場景聲編輯等生成或者編輯非語音內(nèi)容的技術(shù),；

     （四）人臉生成,、人臉替換、人物屬性編輯,、人臉操控,、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù),；

     （五）圖像生成,、圖像增強、圖像修復(fù)等生成或者編輯圖像,、視頻內(nèi)容中非生物特征的技術(shù),；

     （六）三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物,、虛擬場景的技術(shù),。

       深度合成服務(wù)提供者，是指提供深度合成服務(wù)的組織,、個人,。

       深度合成服務(wù)技術(shù)支持者，是指為深度合成服務(wù)提供技術(shù)支持的組織,、個人,。

       深度合成服務(wù)使用者，是指使用深度合成服務(wù)制作,、復(fù)制,、發(fā)布、傳播信息的組織,、個人,。

       訓練數(shù)據(jù)，是指被用于訓練機器學習模型的標注或者基準數(shù)據(jù)集,。

       沉浸式擬真場景,，是指應(yīng)用深度合成技術(shù)生成或者編輯的、可供參與者體驗或者互動的,、具有高度真實感的虛擬場景,。

       第二十四條 深度合成服務(wù)提供者和技術(shù)支持者從事網(wǎng)絡(luò)出版服務(wù)、網(wǎng)絡(luò)文化活動和網(wǎng)絡(luò)視聽節(jié)目服務(wù)的,，應(yīng)當同時符合新聞出版、文化和旅游、廣播電視主管部門的規(guī)定,。

       第二十五條 本規(guī)定自2023年1月10日起施行,。

編輯：柘城網(wǎng)