今年以來(lái)，數(shù)字中國(guó)建設(shè)峰會(huì)、中國(guó)網(wǎng)絡(luò)文明大會(huì)、2023年國(guó)家網(wǎng)絡(luò)安全宣傳周等重要活動(dòng)接連在福建舉辦，這三場(chǎng)活動(dòng)都與互聯(lián)網(wǎng)有關(guān)，但聚焦的卻是截然不同的兩個(gè)關(guān)鍵詞。

　　互聯(lián)網(wǎng)是把“雙刃劍”，“發(fā)展”和“安全”正是它的一體兩面。隨著新一輪科技革命和產(chǎn)業(yè)變革深入發(fā)展，網(wǎng)絡(luò)安全領(lǐng)域面臨的風(fēng)險(xiǎn)和挑戰(zhàn)日益突出。

　　例如，近年來(lái)越來(lái)越受輿論關(guān)注的“AI換臉術(shù)”，在今年的網(wǎng)絡(luò)安全博覽會(huì)上，“AI換臉”的“攻”和“防”亦備受關(guān)注。

　　只需一張目標(biāo)人物的照片，依托人工智能合成，站在攝像頭前的你就能在屏幕上“變成”他，還能通過(guò)網(wǎng)貸平臺(tái)的人臉認(rèn)證，眨眨眼、搖搖頭就把錢(qián)轉(zhuǎn)出去了。在美亞柏科展區(qū)，工作人員演示了這一“騙術(shù)”。

　　對(duì)此，現(xiàn)場(chǎng)工作人員表示，目前，美亞柏科自主研發(fā)了深度偽造檢測(cè)鑒定平臺(tái)，可以進(jìn)行智能檢測(cè)和識(shí)別偽造的視頻，助力監(jiān)管部門(mén)提升內(nèi)容安全治理能力。

　　于今年4月在福州舉辦的數(shù)字中國(guó)建設(shè)峰會(huì)上聊“發(fā)展”時(shí)，AI稱(chēng)得上是最熱的詞；在當(dāng)下正在舉辦的網(wǎng)絡(luò)安全宣傳周上談“安全”時(shí)，AI仍是最大的焦點(diǎn)。

　　“數(shù)據(jù)可以說(shuō)是AI大模型最重要的一個(gè)要素，大家認(rèn)識(shí)不同，但是總的來(lái)說(shuō)幾乎所有人都認(rèn)為數(shù)據(jù)的質(zhì)量對(duì)模型智能水平影響最高，差不多要超過(guò)60%。”在北京智源人工智能研究院院長(zhǎng)、北京大學(xué)計(jì)算機(jī)學(xué)院教授黃鐵軍看來(lái)，大模型基于背后的數(shù)據(jù)，所有的功能都源于數(shù)據(jù)，這也意味著越來(lái)越高的風(fēng)險(xiǎn)，“對(duì)于AI技術(shù)，你給它‘喂’的數(shù)據(jù)出錯(cuò)了，它就永遠(yuǎn)照這個(gè)錯(cuò)誤的來(lái)辦，有的時(shí)候相互矛盾?！?/p>

　　粵港澳大灣區(qū)數(shù)字經(jīng)濟(jì)研究院創(chuàng)院理事長(zhǎng)沈向洋談到“AI對(duì)社會(huì)的沖擊”時(shí)用了三個(gè)詞：不完美的數(shù)據(jù)源、一本正經(jīng)的“胡說(shuō)八道”和更難被察覺(jué)的AI謠言。

　　搜索引擎和AI大模型都有搜集資料、解答疑問(wèn)的功能，沈向洋形象地將搜索引擎形容為“責(zé)任有限公司”，而將AI大模型形容為“責(zé)任無(wú)限公司”。如此論斷的區(qū)別在于深層次學(xué)習(xí)。

　　“搜索引擎搜出來(lái)不好的東西，你知道它的出處在哪里，所以它責(zé)任有限，而AI大模型通過(guò)深層次的人工智能將內(nèi)容生成，我把它叫做‘責(zé)任無(wú)限公司’。”沈向洋說(shuō)。

　　在一些專(zhuān)家看來(lái)，生成式人工智能，新型安全風(fēng)險(xiǎn)正在顯現(xiàn)，比如不良輿情、算法偏見(jiàn)、認(rèn)知錯(cuò)誤、心理誤導(dǎo)、數(shù)據(jù)泄露等。

　　今年7月，我國(guó)出臺(tái)了全球首部針對(duì)生成式人工智能的專(zhuān)門(mén)立法——《生成式人工智能服務(wù)管理暫行辦法》，對(duì)數(shù)據(jù)合規(guī)提出明確要求。

　　中央宣傳部副部長(zhǎng)、中央網(wǎng)信辦主任、國(guó)家網(wǎng)信辦主任莊榮文在會(huì)上表示，要?jiǎng)?chuàng)新數(shù)據(jù)治理，大力提升數(shù)據(jù)安全和個(gè)人信息保護(hù)水平，加大數(shù)據(jù)領(lǐng)域違法違規(guī)行為的打擊力度，保障個(gè)人信息安全。要強(qiáng)化規(guī)范引領(lǐng)，加強(qiáng)新技術(shù)新應(yīng)用前瞻性研究，劃清安全紅線，有效規(guī)范引導(dǎo)新技術(shù)新應(yīng)用健康有序安全發(fā)展。(人民網(wǎng))