網(wǎng)信辦新動(dòng)作，事關(guān)每一家AIGC平臺(tái)算法備案

2023年6月20日，國(guó)家互聯(lián)網(wǎng)信息辦公室公布了中國(guó)境內(nèi)第一批深度合成算法備案名錄，眾多大廠及AIGC行業(yè)先行者成功上榜。這既是中國(guó)算法與人工智能風(fēng)險(xiǎn)治理的關(guān)鍵一步，也是AIGC行業(yè)合規(guī)的重大突破。

今天颯姐團(tuán)隊(duì)就為大家詳解什么是深度合成算法備案，以及AIGC行業(yè)在什么情況下需要備案、如何備案等問(wèn)題。

一、什么是深度合成算法備案？

截至目前，我國(guó)針對(duì)AIGC工具的專門性立法有兩部，均由國(guó)家互聯(lián)網(wǎng)信息辦公室制訂并發(fā)布：

(資料圖片僅供參考)

1. 《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱“《深度合成規(guī)定》”）；

2. 《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《管理辦法草案》）

由于AIGC本身具有較強(qiáng)的引導(dǎo)或者說(shuō)誘導(dǎo)能力，借助信息網(wǎng)絡(luò)技術(shù)傳播速度快、傳播面廣的特性，很可能導(dǎo)致AIGC內(nèi)容在短時(shí)間內(nèi)實(shí)現(xiàn)病毒式擴(kuò)散，例如不久前某自媒體平臺(tái)利用ChatGPT制造假新聞并廣泛傳播博取流量并不當(dāng)引導(dǎo)部分地區(qū)民眾輿論的案件，已經(jīng)明確的向我們展示了AIGC工具本身作為一種輿論引導(dǎo)工具抑或說(shuō)欺詐工具的風(fēng)險(xiǎn)。正是基于該特性，我國(guó)監(jiān)管機(jī)關(guān)基于維持社會(huì)公共秩序的長(zhǎng)期和諧穩(wěn)定的這一法益出發(fā)，賦予AIGC企業(yè)對(duì)自身算法進(jìn)行備案的義務(wù)。

那么首先我們需要明白所謂深度合成技術(shù)指的是什么。根據(jù)《深度合成規(guī)定》第二十三條之規(guī)定，深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò)信息的技術(shù)，包括但不限于：

（一）篇章生成、文本風(fēng)格轉(zhuǎn)換、問(wèn)答對(duì)話等生成或者編輯文本內(nèi)容的技術(shù)；

（二）文本轉(zhuǎn)語(yǔ)音、語(yǔ)音轉(zhuǎn)換、語(yǔ)音屬性編輯等生成或者編輯語(yǔ)音內(nèi)容的技術(shù)；

（三）音樂(lè)生成、場(chǎng)景聲編輯等生成或者編輯非語(yǔ)音內(nèi)容的技術(shù)；

（四）人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)；

（五）圖像生成、圖像增強(qiáng)、圖像修復(fù)等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù)；

（六）三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場(chǎng)景的技術(shù)。

以上列舉式的六類應(yīng)用外，根據(jù)《管理辦法草案》第六條之規(guī)定：利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國(guó)家網(wǎng)信部門申報(bào)安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

因此在《管理辦法草案》生效后，如果該條款沒(méi)有大的變動(dòng)，我們還應(yīng)當(dāng)根據(jù)該管理法版第二條之規(guī)定，將涉及“算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。”囊括入“深度合成技術(shù)“的范疇內(nèi)。

二、哪些深度合成技術(shù)算法需要備案？

颯姐團(tuán)隊(duì)提示，并非所有的深度合成技術(shù)都需要其服務(wù)提供商進(jìn)行備案登記，在技術(shù)中立原則的指導(dǎo)下，僅有滿足特定條件的深度合成技術(shù)服務(wù)提供商才需要對(duì)其算法進(jìn)行備案。

具體來(lái)說(shuō)，進(jìn)行深度合成算法備案的AIGC行業(yè)主要集中在《深度合成規(guī)定》第十九條規(guī)定的“具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者”這一范圍中。但在實(shí)踐中關(guān)于什么是“具有輿論屬性或者社會(huì)動(dòng)員能力”的界定標(biāo)準(zhǔn)卻相對(duì)較為模糊。

根據(jù)《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》第二條，具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)，包括下列情形：

（一）開(kāi)辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號(hào)、短視頻、網(wǎng)絡(luò)直播、信息分享、小程序等信息服務(wù)或者附設(shè)相應(yīng)功能；

（二）開(kāi)辦提供公眾輿論表達(dá)渠道或者具有發(fā)動(dòng)社會(huì)公眾從事特定活動(dòng)能力的其他互聯(lián)網(wǎng)信息服務(wù)。

嚴(yán)格意義上講，AIGC并不屬于上述第一款中服務(wù)提供者所提供的任何一項(xiàng)服務(wù)，大多數(shù)的AIGC目前也并沒(méi)有將自己只作為一種社交媒體平臺(tái)。一家之言，颯姐團(tuán)隊(duì)認(rèn)為，在基于前述AIGC本身在社交媒體平臺(tái)上具有廣泛傳播的風(fēng)險(xiǎn)的情況下，從實(shí)質(zhì)性監(jiān)管的角度來(lái)看，其大概率符合“公眾輿論表達(dá)渠道或者具有發(fā)動(dòng)社會(huì)公眾從事特定活動(dòng)能力的其他互聯(lián)網(wǎng)信息服務(wù)”的這一兜底性條款。

因此，從這個(gè)角度來(lái)說(shuō)，基本AIGC行業(yè)的所有賽道的服務(wù)提供者們都可能涉及深度合成算法備案，包括而不限于文本生成、圖像生成、視頻生成、音頻生成等。最重要的判斷標(biāo)準(zhǔn)在于用戶群體的開(kāi)放程度，如果該服務(wù)提供者面向不特定公眾提供服務(wù)，那么基本上就在《深度合成規(guī)定》的輻射范圍內(nèi)。

三、如何進(jìn)行深度合成算法備案

首先，備案方式為網(wǎng)上備案。根據(jù)《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》的要求，符合備案要求的服務(wù)提供者應(yīng)當(dāng)在安全管理服務(wù)平臺(tái)（地址；http://www.beian.gov.cn/）上進(jìn)行備案。

在備案過(guò)程中，影響備案成功率最重要的一份材料就是深度合成服務(wù)提供者遞交的《評(píng)估報(bào)告》。深度合成服務(wù)提供者和技術(shù)支持者提供兩類特定功能的模型、模板等工具的，必須提供自評(píng)估或委托專業(yè)機(jī)構(gòu)進(jìn)行安全評(píng)估后出具的《評(píng)估報(bào)告》：

1. 生成或者編輯人臉、人聲等生物識(shí)別信息的；

2. 生成或者編輯可能涉及國(guó)家安全、國(guó)家形象、國(guó)家利益和社會(huì)公共利益的特殊物體、場(chǎng)景等非生物識(shí)別信息的。

由于以上兩類服務(wù)涉及的領(lǐng)域及信息較為敏感，評(píng)估具體內(nèi)容應(yīng)當(dāng)在基本評(píng)估維度之上，增加與《個(gè)人信息保護(hù)法》《網(wǎng)絡(luò)安全法》及《數(shù)據(jù)安全法》相符合的評(píng)估標(biāo)準(zhǔn)。

一般而言，評(píng)估標(biāo)準(zhǔn)有七大項(xiàng)，分別為：

（1）安全管理負(fù)責(zé)人、信息審核人員及安全管理機(jī)構(gòu)設(shè)立情況；

（2）用戶真實(shí)身份核驗(yàn)及注冊(cè)信息留存措施；

（3）對(duì)用戶賬號(hào)、操作時(shí)間、操作類型、網(wǎng)絡(luò)源地址和目標(biāo)地址、網(wǎng)絡(luò)源端口、客戶端硬件特征等日志信息，以及用戶發(fā)布信息記錄的留存措施；

（4）對(duì)用戶賬號(hào)和通訊群組名稱、昵稱、簡(jiǎn)介、備注、標(biāo)識(shí)，信息發(fā)布、轉(zhuǎn)發(fā)、評(píng)論和通訊群組等服務(wù)功能中違法有害信息的防范處置和有關(guān)記錄保存措施；

（5）個(gè)人信息保護(hù)以及防范違法有害信息傳播擴(kuò)散、社會(huì)動(dòng)員功能失控風(fēng)險(xiǎn)的技術(shù)措施；

（6）建立投訴、舉報(bào)制度，公布投訴、舉報(bào)方式等信息，及時(shí)受理并處理有關(guān)投訴和舉報(bào)的情況；

（7）建立為監(jiān)管部門和執(zhí)法部門依法履職提供技術(shù)、數(shù)據(jù)支持和協(xié)助的工作機(jī)制的情況。

寫在最后

深度合成備案制度是我國(guó)人工智能及算法風(fēng)險(xiǎn)治理的一項(xiàng)重要?jiǎng)?chuàng)舉及新突破，颯姐團(tuán)隊(duì)建議，AIGC行業(yè)務(wù)必在咨詢專業(yè)合規(guī)人士的情況下進(jìn)行算法安全評(píng)估以及深度合成算法備案。目前來(lái)看，颯姐團(tuán)隊(duì)認(rèn)為該項(xiàng)算法備案是AIGC行業(yè)的一項(xiàng)重要且具有普遍性的合規(guī)義務(wù)，除非影響力較小且極為封閉的AIGC服務(wù)提供者外，其他AIGC服務(wù)提供主體均需要履行該項(xiàng)義務(wù)，以防滋生行政甚至刑事風(fēng)險(xiǎn)。

本文系未央網(wǎng)專欄作者:肖颯 發(fā)表，內(nèi)容屬作者個(gè)人觀點(diǎn)，不代表網(wǎng)站觀點(diǎn)，未經(jīng)許可嚴(yán)禁轉(zhuǎn)載，違者必究！

關(guān)鍵詞：