《互聯網信息服務深度合成管理規定》，是由國家互聯網信息辦公室會議審議通過，并經工業和信息化部、公安部同意發布的規定。
2022年11月25日，《互聯網信息服務深度合成管理規定》正式公布。2023年1月10日起，《互聯網信息服務深度合成管理規定》正式施行。
《互聯網信息服務深度合成管理規定》的發布是為了深入貫徹落實黨中央決策部署、劃定深度合成服務的“底線”和“紅線”、維護網絡空間良好生態、促進深度合成服務規范發展。旨在加強互聯網信息服務、深度合成管理、弘揚社會主義核心價值觀、維護國家安全和社會公共利益、保護公民、法人、和其他組織的合法權益。
發布歷史
背景
《互聯網信息服務深度合成管理規定》的發布是為了深入貫徹落實黨中央決策部署、維護網絡空間良好生態、促進深度合成服務規范發展。
發布
2022年11月3日，國家互聯網信息辦公室2022年第21次室務會議審議通過《互聯網信息服務深度合成管理規定》，并經工業和信息化部、公安部同意，2022年11月25日，《互聯網信息服務深度合成管理規定》由國家互聯網信息辦公室、工業和信息化部、公安部正式公布。
實施
2023年1月10日起，《互聯網信息服務深度合成管理規定》正式施行。
價值意義
《互聯網信息服務深度合成管理規定》的發布旨在加強互聯網信息服務、深度合成管理、弘揚社會主義核心價值觀、維護國家安全和社會公共利益、保護公民、法人、和其他組織的合法權益。
規定內容
第一章 總則
第一條 為了加強互聯網信息服務深度合成管理，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》《互聯網信息服務管理辦法》等法律、行政法規，制定本規定。
第二條 在中華人民共和國境內應用深度合成技術提供互聯網信息服務（以下簡稱深度合成服務），適用本規定。法律、行政法規另有規定的，依照其規定。
第三條 國家網信部門負責統籌協調全國深度合成服務的治理和相關監督管理工作。國務院電信主管部門、公安部門依據各自職責負責深度合成服務的監督管理工作。地方網信部門負責統籌協調本行政區域內的深度合成服務的治理和相關監督管理工作。地方電信主管部門、公安部門依據各自職責負責本行政區域內的深度合成服務的監督管理工作。
第四條 提供深度合成服務，應當遵守法律法規，尊重社會公德和倫理道德，堅持正確政治方向、輿論導向、價值取向，促進深度合成服務向上向善。
第五條 鼓勵相關行業組織加強行業自律，建立健全行業標準、行業準則和自律管理制度，督促指導深度合成服務提供者和技術支持者制定完善業務規范、依法開展業務和接受社會監督。
第二章 一般規定
第六條 任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發布、傳播虛假新聞信息。轉載基于深度合成服務制作發布的新聞信息的，應當依法轉載互聯網新聞信息稿源單位發布的新聞信息。
第七條 深度合成服務提供者應當落實信息安全主體責任，建立健全用戶注冊、算法機制機理審核、科技倫理審查、信息發布審核、數據安全、個人信息保護、反電信網絡詐騙、應急處置等管理制度，具有安全可控的技術保障措施。
第八條 深度合成服務提供者應當制定和公開管理規則、平臺公約，完善服務協議，依法依約履行管理責任，以顯著方式提示深度合成服務技術支持者和使用者承擔信息安全義務。
第九條 深度合成服務提供者應當基于移動電話號碼、身份證件號碼、統一社會信用代碼或者國家網絡身份認證公共服務等方式，依法對深度合成服務使用者進行真實身份信息認證，不得向未進行真實身份信息認證的深度合成服務使用者提供信息發布服務。
第十條 深度合成服務提供者應當加強深度合成內容管理，采取技術或者人工方式對深度合成服務使用者的輸入數據和合成結果進行審核。深度合成服務提供者應當建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規則和程序，記錄并留存相關網絡日志。深度合成服務提供者發現違法和不良信息的，應當依法采取處置措施，保存有關記錄，及時向網信部門和有關主管部門報告。對相關深度合成服務使用者依法依約采取警示、限制功能、暫停服務、關閉賬號等處置措施。
第十一條 深度合成服務提供者應當建立健全辟謠機制，發現利用深度合成服務制作、復制、發布、傳播虛假信息的，應當及時采取辟謠措施，保存有關記錄，并向網信部門和有關主管部門報告。
第十二條 深度合成服務提供者應當設置便捷的用戶申訴和公眾投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理和反饋處理結果。
第十三條 互聯網應用商店等應用程序分發平臺應當落實上架審核、日常管理、應急處置等安全管理責任，核驗深度合成類應用程序的安全評估、備案等情況。對違反國家有關規定的，應當及時采取不予上架、警示、暫停服務或者下架等處置措施。
第三章 數據和技術管理規范
第十四條 深度合成服務提供者和技術支持者應當加強訓練數據管理，采取必要措施保障訓練數據安全。訓練數據包含個人信息的，應當遵守個人信息保護的有關規定。深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。
第十五條 深度合成服務提供者和技術支持者應當加強技術管理，定期審核、評估、驗證生成合成類算法機制機理。深度合成服務提供者和技術支持者提供具有以下功能的模型、模板等工具的，應當依法自行或者委托專業機構開展安全評估：
（一）生成或者編輯人臉、人聲等生物識別信息的。
（二）生成或者編輯可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息的。
第十六條 深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識，并依照法律、行政法規和國家有關規定保存日志信息。
第十七條 深度合成服務提供者提供以下深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況：
（一）智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務。
（二）合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務。
（三）人臉生成、人臉替換、人臉操控、姿態操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務。
（四）沉浸式擬真場景等生成或者編輯服務。
（五）其他具有生成或者顯著改變信息內容功能的服務。
深度合成服務提供者提供前款規定之外的深度合成服務的，應當提供顯著標識功能，并提示深度合成服務使用者可以進行顯著標識。
第十八條 任何組織和個人不得采用技術手段刪除、篡改、隱匿本規定第十六條和第十七條規定的深度合成標識。
第四章 監督檢查與法律責任
第十九條 具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《互聯網信息服務算法推薦管理規定》履行備案和變更、注銷備案手續。深度合成服務技術支持者應當參照前款規定履行備案和變更、注銷備案手續。完成備案的深度合成服務提供者和技術支持者應當在其對外提供服務的網站、應用程序等的顯著位置標明其備案編號并提供公示信息鏈接。
第二十條 深度合成服務提供者開發上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能的，應當按照國家有關規定開展安全評估。
第二十一條 網信部門和電信主管部門、公安部門依據職責對深度合成服務開展監督檢查。深度合成服務提供者和技術支持者應當依法予以配合，并提供必要的技術、數據等支持和協助。網信部門和有關主管部門發現深度合成服務存在較大信息安全風險的，可以按照職責依法要求深度合成服務提供者和技術支持者采取暫停信息更新、用戶賬號注冊或者其他相關服務等措施。深度合成服務提供者和技術支持者應當按照要求采取措施，進行整改，消除隱患。
第二十二條 深度合成服務提供者和技術支持者違反本規定的，依照有關法律、行政法規的規定處罰。造成嚴重后果的，依法從重處罰。構成違反治安管理行為的，由公安機關依法給予中華人民共和國治安管理處罰法。構成犯罪的，依法追究刑事責任。
第五章 附則
第二十三條 本規定中下列用語的含義：
深度合成技術，是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術，包括但不限于：
（一）篇章生成、文本風格轉換、問答對話等生成或者編輯文本內容的技術。
（二）文本轉語音、語音轉換、語音屬性編輯等生成或者編輯語音內容的技術。
（三）音樂生成、場景聲編輯等生成或者編輯非語音內容的技術。
（四）人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等生成或者編輯圖像、視頻內容中生物特征的技術。
（五）圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內容中非生物特征的技術。
（六）三維重建、數字仿真等生成或者編輯數字人物、虛擬場景的技術。
深度合成服務提供者，是指提供深度合成服務的組織、個人。深度合成服務技術支持者，是指為深度合成服務提供技術支持的組織、個人。深度合成服務使用者，是指使用深度合成服務制作、復制、發布、傳播信息的組織、個人。訓練數據，是指被用于訓練機器學習模型的標注或者基準數據集。沉浸式擬真場景，是指應用深度合成技術生成或者編輯的、可供參與者體驗或者互動的、具有高度真實感的虛擬場景。
第二十四條 深度合成服務提供者和技術支持者從事網絡出版服務、網絡文化活動和網絡視聽節目服務的，應當同時符合新聞出版、文化和旅游、廣播電視主管部門的規定。
第二十五條 本規定自2023年1月10日起施行。
規定解讀
政策背景解讀
深度合成技術是指基于深度學習、虛擬現實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。通過對網絡內容進行處理，使其實現從原初形態到目標形態的轉變。在實際應用中，深度合成技術可以完成聲音復刻、文本生成、微表情操縱等。最為人熟知的便是人臉合成，或稱“AI換臉”。雖然圖像修飾和篡改技術早已有之，如PS技術。但深度合成技術可以做到高度真實的改頭換面，甚至是人體姿態的全身合成。德國的科學家曾用1000段“換臉”視頻進行鑒別實驗。實驗表明，普通人若無特殊的標記訓練，根本無法辨別人臉真偽。深度合成技術的應用場景“多點開花”。只需要上傳一張照片，就可以生成古風、民族風、現代風等風格的人臉特效視頻。相比以往，AI換臉的制作門檻和成本都大為降低。越來越多的人可以體會到虛擬化身、數字分身的樂趣，并通過社交媒體享受超越現實的個性化體驗，實現了技術的“平民化”。
然而，與其他技術一樣，深度合成也會被人為誤用和濫用。比如，制造虛假視頻、虛假音頻進行無限、誹謗、詐騙、勒索等違法行為。深度學習算法的成型，以及多數算法代碼的開源，都使換臉軟件的開發變得簡易，可以近乎零成本地在世界范圍內擴散。公眾人物的圖像、視頻、音頻資料極易通過網絡獲取，也成為了二度“創作”的首選，“阿湯哥表演硬幣魔術”等深度合成視頻都曾火爆“出圈”。深度偽造內容數量不斷增多、危害性不斷增強，甚至造成個人名譽、財產、精神損害，公司名譽、財產損失以及社會國家安全風險。
解決措施解讀
針對技術帶來的風險和挑戰，世界各國紛紛出臺相關法律政策，探索深度合成的治理路徑，方案側重各有不同。
美國
美國從聯邦和州兩個層面進行專門立法。當前，美國聯邦層面雖然還沒有生效的專門立法，但參眾兩院先后提出了側重點各異的四部法案，即《深度偽造責任法案》《2018惡意深度偽造禁止法案》《2019年深度偽造法案》和《2020財年情報授權法案》。在地方層面，各州對于“深度偽造”技術的法律規制較為積極，目前已有正式生效的法律。總體而言，美國的相關立法強調“深度合成”技術的虛假性。在提及虛假信息危害性的治理時，要求先由市場主體預防，社交平臺和視頻平臺自我規制，而后采用聯邦和地方立法強制性規制，形成自下而上的治理模式。
歐盟
歐盟“深度合成”納入《通用數據保護條例（GDPR）》等現有法律框架規制，致力于保護歐盟所有網絡用戶的數據隱私權利，明確提升了企業的數據保護責任，并顯著完善了有關監管機制。雖然歐盟對于“深度合成”技術尚未專門立法，但已有法律將該技術囊括其中。比如，《一般數據保護條例》為“深度合成”技術對個人生物識別信息的濫用創設了嚴格的法律限制；2019年歐盟委員會人工智能高級專家工作小組提出了《可信賴人工智能倫理指引》，包括人工智能領域的“數據管理”“算法開發”以及“商業運用”，對“深度合成”技術的使用提出了嚴格的程序和實體要求。總體而言，歐盟將“深度合成”技術分解為個人生物識別信息和算法技術，以個人信息保護和人工智能倫理指引為出發點，采用個人數據治理和算法規制的模式。
其他國家
德國、新加坡、英國、韓國等國家，則選擇將“深度合成”相關犯罪納入刑法范疇，尚未出臺國家層面的專門立法。
中國
《法治社會建設實施綱要（2020-2025年）》明確提出制定完善對算法推薦、深度偽造等新技術應用的規范管理辦法。在此背景下，中國頒布的《互聯網信息服務深度合成管理規定》是中國第一部針對深度合成服務治理的專門性部門規章、規范互聯網信息服務深度合成管理、明確生成合成類算法治理的對象、確立算法治理的基本原則、鼓勵相關行業組織加強行業自律、建立健全行業標準、行業準則和自律管理制度、強化深度合成服務提供者和技術支持者的主體責任、為安全可靠的深度合成技術發展指明了方向、為技術的服務應用提供指引和規范。
在明確主體責任方面，一是不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息，或從事法律、行政法規禁止的活動。二是建立健全用戶注冊、算法機制機理審核、科技倫理審查、信息發布審核、數據安全、個人信息保護、反電信網絡詐騙、應急處置等管理制度，具有安全可控的技術保障措施。三是制定和公開管理規則、平臺公約，完善服務協議，落實真實身份信息認證制度。四是加強深度合成內容管理，采取技術或者人工方式對輸入數據和合成結果進行審核，建立健全用于識別違法和不良信息的特征庫，記錄并留存相關網絡日志。五是建立健全辟謠機制，發現利用深度合成服務制作、復制、發布、傳播虛假信息的，應當及時采取辟謠措施，保存有關記錄，并向網信部門和有關主管部門報告。
在明確數據和規范技術管理方面，一是加強訓練數據管理。采取必要措施保障訓練數據安全；訓練數據包含個人信息的，應當遵守個人信息保護的有關規定；提供人臉、人聲等生物識別信息顯著編輯功能的，應當提示使用者依法告知被編輯的個人，并取得其單獨同意。二是加強技術管理。定期審核、評估、驗證生成合成類算法機制機理；提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應當依法自行或者委托專業機構開展安全評估。
在明確深度合成服務提供者的標識要求上，一是深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識，并依法依規保存日志信息。二是提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有生成或者顯著改變信息內容功能服務的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示信息內容的合成情況，避免公眾混淆或者誤認；提供非上述深度合成服務的，應當提供顯著標識功能，并提示使用者可以進行顯著標識。任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識。
在明確備案義務方面，具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《互聯網信息服務算法推薦管理規定》履行備案和變更、注銷備案手續。深度合成服務技術支持者應當參照服務提供者履行備案和變更、注銷備案手續。完成備案的深度合成服務提供者和技術支持者應當在其對外提供服務的網站、應用程序等的顯著位置標明其備案編號并提供公示信息鏈接。
在履行安全評估和配合監督檢查義務方面，深度合成服務提供者開發上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能的，應當按照國家有關規定開展安全評估。深度合成服務提供者和技術支持者應當依法配合網信部門和有關主管部門開展的監督檢查，并提供必要的技術、數據等支持和協助。發現存在較大信息安全風險的，網信部門和有關主管部門可以按照職責依法要求其采取暫停信息更新、用戶賬號注冊或者其他服務等措施。
參考資料 >
《互聯網信息服務深度合成管理規定》今日起施行.百家號.2024-12-05
互聯網信息服務深度合成管理規定.網信中國.2024-12-05
網警課堂|一圖讀懂《互聯網信息服務深度合成管理規定》.百家號.2024-12-05
互聯網信息服務深度合成管理規定.中國網信網.2024-12-05
法治護我心——《互聯網信息服務深度合成管理規定》系列解讀.南方+.2024-12-05
《互聯網信息服務深度合成管理規定》答記者問.中國政府網.2024-12-05