【光明論壇】

　　作者：馬麗霞（中國科學(xué)院大學(xué)經(jīng)濟(jì)與管理學(xué)院高級工程師；汪壽陽，系中國科學(xué)院預(yù)測科學(xué)研究中心主任）

　　“加快發(fā)展數(shù)字經(jīng)濟(jì)，促進(jìn)數(shù)字經(jīng)濟(jì)和實體經(jīng)濟(jì)深度融合”“構(gòu)建新一代信息技術(shù)、人工智能、生物技術(shù)、新能源、新材料、高端裝備、綠色環(huán)保等一批新的增長引擎”，黨的二十大報告的重要部署，為以人工智能等新興技術(shù)驅(qū)動數(shù)字經(jīng)濟(jì)發(fā)展提供了重要遵循。作為人工智能領(lǐng)域的創(chuàng)新應(yīng)用，深度合成近年來風(fēng)頭正勁，AI語音助手、虛擬人、數(shù)字人、AR購物、影像修復(fù)等在文藝、傳媒、醫(yī)療、社交等多個領(lǐng)域造福著社會，成為促進(jìn)數(shù)字經(jīng)濟(jì)“虛實融合”的關(guān)鍵性技術(shù)。

　　不過，正如很多科技突破都帶來了意想不到的“副產(chǎn)品”，深度合成在展露出可觀經(jīng)濟(jì)價值的同時，也暴露出破壞性“潛力”，通過深度合成偽造的視頻、音頻進(jìn)行誣陷、誹謗、詐騙、勒索等違法行為近年來層出不窮。尤其在互聯(lián)網(wǎng)經(jīng)濟(jì)領(lǐng)域，深度合成技術(shù)能夠生成真?zhèn)坞y辨的虛假信息，帶來身份認(rèn)證、信息存儲等環(huán)節(jié)的技術(shù)難題，導(dǎo)致數(shù)字經(jīng)濟(jì)發(fā)展面臨新的安全隱患。要求加強(qiáng)監(jiān)管的呼聲近年來日漸高漲。

　　為促進(jìn)深度合成技術(shù)向上向善發(fā)展，世界各國紛紛出臺法律法規(guī)，對深度合成技術(shù)進(jìn)行規(guī)約。在《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等規(guī)章的基礎(chǔ)上，近日，國家網(wǎng)信辦等三部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，并于今年1月10日起正式實施，其中明確了深度合成內(nèi)容的用途、標(biāo)記、使用范圍以及濫用處罰，這意味著深度合成將迎來規(guī)范化發(fā)展的關(guān)鍵期。為新興技術(shù)劃定適當(dāng)?shù)氖褂每蚣苁且豁棥凹夹g(shù)活”，容易陷入一管就死、一放就亂的困局。如何推動智能技術(shù)向善發(fā)展，最大限度地趨利避害，還需從幾個方向持續(xù)發(fā)力——

　　促進(jìn)深度合成技術(shù)向善發(fā)展，需完善規(guī)則，強(qiáng)化技術(shù)風(fēng)險防控的法治保障。應(yīng)當(dāng)圍繞國家信息安全和數(shù)字經(jīng)濟(jì)安全、社會治理以及保護(hù)公民合法權(quán)益，對深度合成服務(wù)劃定合理開發(fā)使用的“綠線”和禁止性的“紅線”，建立分級分類制度。一方面，加大深度合成服務(wù)應(yīng)用程序推廣前的審核力度，尤其是高風(fēng)險產(chǎn)品和服務(wù)，確保技術(shù)應(yīng)用的服務(wù)形式和服務(wù)范圍符合國家有關(guān)規(guī)定。另一方面，要明確互聯(lián)網(wǎng)平臺尤其是社交媒體的內(nèi)容審核義務(wù)，推動其建立虛假消息篩查機(jī)制，禁止上傳可能危害國家安全或造成負(fù)面社會影響的深度合成制品。此外，還要充分賦予用戶知情權(quán)和選擇權(quán)，通過用戶“投票”倒逼行業(yè)各類不規(guī)范行為的整治。

　　促進(jìn)深度合成技術(shù)向善發(fā)展，需構(gòu)建體系，實現(xiàn)技術(shù)應(yīng)用安全的常態(tài)化監(jiān)管。在以人工智能新興技術(shù)為主的算法服務(wù)安全應(yīng)用監(jiān)管中，普遍存在各主體之間權(quán)責(zé)不明確、數(shù)據(jù)信息傳遞過程不可控和缺乏社會監(jiān)督等問題，亟須明確責(zé)任主體，貫徹常態(tài)化信息監(jiān)管措施。首先，要確定深度合成服務(wù)提供者和使用者的主體責(zé)任，厘清界限，激活市場主動規(guī)約的積極性，使信息內(nèi)容的生產(chǎn)源頭公開透明、權(quán)責(zé)分配公正公平。其次，要對深度合成內(nèi)容進(jìn)行合成前、合成后、發(fā)布后和傳播后的全流程監(jiān)管，追蹤合成內(nèi)容的真實性，控制信息傳遞的風(fēng)險。再次，要完善深度合成技術(shù)的應(yīng)用體系，引入理性中立的第三方專業(yè)機(jī)構(gòu)，完善行業(yè)標(biāo)準(zhǔn)，推動行業(yè)自律。最后，還應(yīng)暢通用戶投訴、舉報渠道，確保以主流價值觀為引領(lǐng)，強(qiáng)化信息內(nèi)容的安全規(guī)范。

　　促進(jìn)深度合成技術(shù)向善發(fā)展，還需探索機(jī)制，提升技術(shù)風(fēng)險治理的整體水平。新興技術(shù)的敏捷、精準(zhǔn)治理，需要多方合力、多措并舉，構(gòu)建多方協(xié)同治理模式。對于政府部門，要推動從傳統(tǒng)管理向“包容審慎”治理轉(zhuǎn)變，倡導(dǎo)有所為有所不為，給予新技術(shù)必要的發(fā)展時間與試錯空間，以更為靈活的治理方式適應(yīng)數(shù)字經(jīng)濟(jì)的發(fā)展特點。對于從業(yè)人員，要加強(qiáng)科技倫理教育和法律法規(guī)培訓(xùn)，建立系統(tǒng)性的科技倫理人才培養(yǎng)體系，鼓勵開展深度合成與深度檢測的技術(shù)對抗演練，以技術(shù)之道還治技術(shù)之險，從源頭防范深度合成的安全應(yīng)用風(fēng)險。對于公眾，要加強(qiáng)新興技術(shù)科普教育特別是對特定群體數(shù)字鴻溝的彌合，提升技術(shù)應(yīng)用在公眾中的透明度，增強(qiáng)公眾對合成媒體防偽的警惕度和辨識能力。在全球經(jīng)濟(jì)復(fù)蘇的當(dāng)下，相信深度合成等新興人工智能技術(shù)必將邁著更加穩(wěn)健的步伐迎接一個全面數(shù)字化的世界。