隨著生成式AI的爆發(fā)，社交媒體上的內(nèi)容越來越真假難辨，人們很難確信某張照片或視頻是真實(shí)存在的瞬間，以往的一句“眼見為實(shí)”在當(dāng)下已經(jīng)需要打上問號(hào)。

　　為應(yīng)對這一沖擊，9月14日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》（下文簡稱《意見稿》），在《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)上，進(jìn)一步細(xì)化了AI合成內(nèi)容的標(biāo)識(shí)辦法。

　　“這是全球范圍內(nèi)第一部關(guān)于人工智能生成合成內(nèi)容標(biāo)識(shí)的國家標(biāo)準(zhǔn)，是關(guān)于人工智能內(nèi)容治理機(jī)制建設(shè)的重要探索，對人工智能內(nèi)容產(chǎn)業(yè)的有序發(fā)展和業(yè)務(wù)規(guī)則具有重要的指引意義，也有助于人工智能良性生態(tài)的培育?！北本煼洞髮W(xué)法學(xué)院副教授、中國互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括對第一財(cái)經(jīng)表示。

　　細(xì)化內(nèi)容生成標(biāo)識(shí)

　　此次的《意見稿》提出，人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可被用戶明顯感知到的標(biāo)識(shí)。隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識(shí)。

　　不同互聯(lián)網(wǎng)平臺(tái)的義務(wù)不盡相同。墾丁律所創(chuàng)始合伙人朱駿超告訴記者，網(wǎng)絡(luò)信息服務(wù)提供者的義務(wù)包括確保顯式標(biāo)識(shí)、添加隱式標(biāo)識(shí)；提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者的義務(wù)包括核驗(yàn)隱式標(biāo)識(shí)、添加提示標(biāo)識(shí)、管理疑似內(nèi)容，管理疑似內(nèi)容包括在疑似生成合成內(nèi)容的文件元數(shù)據(jù)中添加生成合成內(nèi)容屬性信息、傳播平臺(tái)名稱或編碼、內(nèi)容編號(hào)等傳播要素信息；互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)的義務(wù)包括核驗(yàn)標(biāo)識(shí)功能，即在應(yīng)用程序上架或上線審核時(shí)，核驗(yàn)服務(wù)提供者是否按要求提供生成合成內(nèi)容標(biāo)識(shí)功能。

　　具體而言，針對提供生成合成服務(wù)的網(wǎng)絡(luò)信息服務(wù)提供者，《意見稿》第四條提出，如果提供《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形規(guī)定的深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)按要求對生成合成內(nèi)容添加顯式標(biāo)識(shí)。

　　《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款提到的具體情形包括：智能對話、智能寫作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)；合成人聲、仿聲等語音生成或者顯著改變個(gè)人身份特征的編輯服務(wù)；人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個(gè)人身份特征的編輯服務(wù)等。

　　顯式標(biāo)識(shí)方式根據(jù)內(nèi)容表現(xiàn)形式有所差異。如果是圖片，則需在適當(dāng)位置添加顯著的提示標(biāo)識(shí)；如果是視頻，則在視頻起始畫面和視頻播放周邊的適當(dāng)位置添加顯著的提示標(biāo)識(shí)，可在視頻末尾和中間適當(dāng)位置添加顯著的提示標(biāo)識(shí)，等等。

　　《意見稿》還要求提供生成合成服務(wù)的網(wǎng)絡(luò)信息服務(wù)提供者，在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)，隱式標(biāo)識(shí)需包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或編碼、內(nèi)容編號(hào)等制作要素信息。同時(shí)，提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)應(yīng)當(dāng)采取措施，規(guī)范生成合成內(nèi)容傳播活動(dòng)。包括提供必要的標(biāo)識(shí)功能，并提醒用戶主動(dòng)聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容等。

　　如果違反這一規(guī)定，未對生成合成內(nèi)容進(jìn)行標(biāo)識(shí)造成嚴(yán)重后果的，將由網(wǎng)信等有關(guān)主管部門按照有關(guān)法律、行政法規(guī)、部門規(guī)章的規(guī)定予以處罰。

　　新壹科技副總裁陳鵬對記者表示，《意見稿》保護(hù)了用戶權(quán)益，通過顯式和隱式標(biāo)識(shí)，用戶可以更容易地識(shí)別出內(nèi)容是否由人工智能生成，有助于保護(hù)用戶的知情權(quán)和選擇權(quán)。另外，通過這一規(guī)范能增強(qiáng)內(nèi)容可信度，減少誤導(dǎo)和濫用的可能性。

　　吳沈括對記者提到，內(nèi)容標(biāo)識(shí)是目前關(guān)于人工智能內(nèi)容治理中的一種非常重要的機(jī)制設(shè)計(jì)，它對于避免深度偽造帶來的安全風(fēng)險(xiǎn)有非常大的價(jià)值，且通過標(biāo)準(zhǔn)的統(tǒng)一也有助于引導(dǎo)各方的業(yè)務(wù)規(guī)則、業(yè)務(wù)設(shè)計(jì)和業(yè)務(wù)模式，對于全鏈條的風(fēng)險(xiǎn)防范具有非常重要的作用，也能有助于公眾識(shí)別AI內(nèi)容的真?zhèn)魏蜋?quán)威性。

　　漢王科技天地大模型算法負(fù)責(zé)人彭菲認(rèn)為，這一辦法的出臺(tái)具有重要意義和積極作用，不僅保護(hù)了公民、法人以及其他組織的合法權(quán)益，而且維護(hù)國家安全和社會(huì)公共利益。

　　“比如數(shù)據(jù)安全方面，顯示和隱式標(biāo)識(shí)有助于提高數(shù)據(jù)的可追溯性，從而增強(qiáng)數(shù)據(jù)安全；通過明確標(biāo)識(shí)AI生成的內(nèi)容，有效防止誤導(dǎo)性信息的傳播，減少因技術(shù)濫用而引發(fā)的社會(huì)問題。版權(quán)管理方面，辦法明確AI生成內(nèi)容的來源和版權(quán)歸屬，維護(hù)了創(chuàng)作者的合法權(quán)益?！迸矸普J(rèn)為，通過這些標(biāo)識(shí)，用戶能更容易識(shí)別出合成內(nèi)容，從而規(guī)范和負(fù)責(zé)地使用這些內(nèi)容，減少虛假信息的傳播。該辦法有助于促使行業(yè)服務(wù)提供者規(guī)范地開展業(yè)務(wù)，推動(dòng)人工智能技術(shù)的健康發(fā)展和廣泛應(yīng)用。

　　防范AI犯罪

　　“《意見稿》大意是說生成相關(guān)內(nèi)容如圖片、視頻、文字、語音必須標(biāo)識(shí)說明為AI生成，防止有人惡意造謠、詐騙，引發(fā)不良影響的社會(huì)輿論，防止相關(guān)犯罪發(fā)生。之前有人非法用他人頭像或者臉部做合成，通過AI轉(zhuǎn)換語音進(jìn)行詐騙，類似這種惡性事件應(yīng)該杜絕。”AI視頻制作者馮彬告訴記者。

　　就在8月底，韓國出現(xiàn)多起利用AI換臉偽造女性色情露骨圖像的犯罪案，在這背后，犯罪者用深度偽造技術(shù)（Deepfake）合成色情照片和視頻，并在通信軟件Telegram的群聊中傳播，參與者多達(dá)22萬人，引發(fā)韓國民眾恐慌，有人將其稱之為韓國又一“N號(hào)房”丑聞。

　　深度偽造這一技術(shù)犯罪，不僅僅出現(xiàn)在韓國，這兩年在全球都有出現(xiàn)在國內(nèi)，今年6月，“男子用AI偽造學(xué)生同事近7000張裸照”沖上微博熱搜。據(jù)央視新聞消息，犯罪嫌疑人用AI“一鍵去衣”技術(shù)，深度偽造淫穢圖片近7000張，再每張1.5元賣出，賺了將近一萬元。圖片涉及女性人數(shù)多，包括學(xué)生、教師、同事。

　　馮彬表示，現(xiàn)在多個(gè)視頻平臺(tái)都有向視頻上傳者提供類似“作者聲明：內(nèi)容為AI生成”的標(biāo)識(shí)選項(xiàng)，包括抖音、b站、快手、視頻號(hào)，但是沒有強(qiáng)制創(chuàng)作者選擇。據(jù)他觀察，沒有標(biāo)識(shí)為AI內(nèi)容的視頻，平臺(tái)會(huì)識(shí)別出一些并標(biāo)識(shí)類似“疑似AI生成”的字段。

　　馮彬認(rèn)為，平臺(tái)在標(biāo)識(shí)、提醒內(nèi)容是否為AI生成方面，應(yīng)該更嚴(yán)格一些。相比視頻、圖片，平臺(tái)應(yīng)該更難識(shí)別文本是否為AI生成，而從傳播效果看，視頻可能是“假新聞”更多采用的載體，AI換臉、AI語音這些有可能滋生詐騙的內(nèi)容也尤其值得關(guān)注。

　　目前國內(nèi)外已經(jīng)達(dá)成共識(shí)，要對AI生成內(nèi)容進(jìn)行標(biāo)識(shí)和管理。去年7月，美國白宮與大型科技公司達(dá)成協(xié)議，為人工智能的開發(fā)設(shè)置更多防護(hù)措施，包括開發(fā)水印系統(tǒng)等。歐盟委員會(huì)也要求社交媒體公司標(biāo)記所有由人工智能生成的內(nèi)容。

　　科技公司已經(jīng)開始嘗試用技術(shù)制衡AI濫用。今年2月，OpenAI 團(tuán)隊(duì)推出“AI 生成內(nèi)容識(shí)別器”，旨在識(shí)別文本是由電腦自動(dòng)生成還是人類撰寫，其本質(zhì)上是一個(gè)區(qū)別真實(shí)內(nèi)容和 AI 生成內(nèi)容的分類器。不過，OpenAI 在博客中指出，此識(shí)別器對 AI 撰寫內(nèi)容的檢出成功率僅為 26%。

　　今年5 月，谷歌在 Google I/O 大會(huì)上公布了AI 生成圖像識(shí)別工具，用戶可以通過上傳來源不明的圖片、執(zhí)行反向圖片搜索，了解到這張圖片被谷歌初次收錄的時(shí)間、最早出現(xiàn)的網(wǎng)站。谷歌還宣布，它自己的生成式 AI 工具將在每張圖片中包含元數(shù)據(jù)、嵌入水印，以表明這是 AI 生成的圖像，而不是真實(shí)照片。相比AI 生成內(nèi)容識(shí)別器，數(shù)字水印被認(rèn)為可能是更有效的方法。

　　更早前，微軟在Build 2023開發(fā)者大會(huì)上，宣布增加一項(xiàng)功能，讓任何人都能識(shí)別Bing Image Creator和Microsoft Designer生成的圖像或視頻片段是否是由AI生成的。該技術(shù)使用密碼學(xué)方法對AI生成的內(nèi)容進(jìn)行標(biāo)記和簽名，并附上有關(guān)其來源的元數(shù)據(jù)信息。

　　吳沈括表示，企業(yè)方面的是微生態(tài)，此次出臺(tái)的標(biāo)識(shí)辦法標(biāo)準(zhǔn)則是國家和產(chǎn)業(yè)的大生態(tài)，“力度很大”。

　　（本文來自第一財(cái)經(jīng)）