兩元就能P不雅照，打包售賣(mài)持續(xù)更新

　　警惕AI黑色產(chǎn)業(yè)鏈批量“造黃謠”

　　6月27日，中央網(wǎng)信辦下發(fā)《關(guān)于開(kāi)展“清朗·2023年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動(dòng)的通知》，開(kāi)展為期兩個(gè)月的“清朗·2023年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動(dòng)(以下簡(jiǎn)稱“專項(xiàng)行動(dòng)”)。其中特別指出要關(guān)注新技術(shù)新應(yīng)用風(fēng)險(xiǎn)問(wèn)題，如對(duì)“AI換臉”等技術(shù)生成涉未成年人低俗色情圖片視頻等，要予以重點(diǎn)整治。

　　——————————

　　如今，“AI脫衣”技術(shù)已生成一條黑色產(chǎn)業(yè)鏈。上游不法分子通過(guò)AI技術(shù)生成圖片，并對(duì)這些圖片進(jìn)行整合，打包成圖集，通過(guò)成套售賣(mài)的方式出售給下游買(mǎi)家，有的人為此建立起“付費(fèi)會(huì)員群”，使一些無(wú)辜人士、甚至未成年人陷入“黃謠”漩渦。中青報(bào)·中青網(wǎng)記者對(duì)此進(jìn)行了調(diào)查采訪。

　　“AI脫衣”圖被公開(kāi)叫賣(mài)

　　“圖片中確實(shí)是我的臉，但這里的我……怎么沒(méi)穿衣服？”

　　今年5月，還在讀大學(xué)的李亦(化名)收到一名網(wǎng)友給她發(fā)來(lái)的圖片，看后，她又氣憤又害怕。

　　李亦是一名Cosplay(角色扮演)博主，常在社交媒體分享自己扮演各種動(dòng)漫角色的照片。后來(lái)，她和網(wǎng)友找到了制作裸照的洛粉(網(wǎng)名)。洛粉承認(rèn)，他將照片放入一款A(yù)I(人工智能)軟件中，不到幾分鐘就能將李亦穿好的衣服“脫下”。在網(wǎng)上，洛粉以5元一張的價(jià)格公開(kāi)叫賣(mài)圖片，聲稱60元能打包買(mǎi)到60多名博主的“裸照”，其中甚至還有未成年人的照片。

　　“我從來(lái)沒(méi)有拍過(guò)這種照片！”氣憤的李亦著手收集對(duì)方利用AI進(jìn)行不法行為的證據(jù)，意圖追究其法律責(zé)任，于是，她以買(mǎi)家的身份與洛粉加上了好友。

　　洛粉并非直白地以“AI脫衣”字眼兒 招攬生意，而是隱晦地表示自己在“改圖”，“小姐姐，這里接Cosplay的‘改圖’，5元一張?！碑?dāng)李亦進(jìn)一步詢問(wèn)其如何“改圖”時(shí)，洛粉含糊不清地表示，自己是采用AI技術(shù)生成了各種Cosplay的圖片。

　　李亦從洛粉組建的一個(gè)群聊中發(fā)現(xiàn)了端倪。在這里，洛粉不僅繼續(xù)提供“改圖”的服務(wù)，更發(fā)布了大量帶有暗示挑逗意味的圖片，以圖集形式公開(kāi)叫賣(mài)，稱60元可以買(mǎi)到65張，“預(yù)計(jì)還有總共300張會(huì)通過(guò)群聊慢慢更新”。

　　“這是誰(shuí)？”李亦從中找到了自己的“裸照”，去找洛粉問(wèn)個(gè)明白?！斑@是克羅托(角色名)不穿衣服，博主本人讓這么拍攝的?！甭宸鄞鸬?，并諱莫如深地提示，“可別亂轉(zhuǎn)亂發(fā)，因?yàn)樘讏D中涉及到的60多名博主本人不同意”。

　　“他這么說(shuō)像是我們這些博主自己去拍了大尺度照片！”李亦十分氣憤，亮明身份，與洛粉對(duì)質(zhì)。

　　“對(duì)不起姐姐！”洛粉承認(rèn)自己“二次創(chuàng)作”了李亦的圖片。李亦表示，這并非正常的“二次創(chuàng)作”范圍，而是侵犯了她的人格權(quán)。

　　洛粉辯稱，這些系列圖并非出自他手，“是請(qǐng)別人做的”，洛粉并沒(méi)有意識(shí)到這件事情的嚴(yán)重性，和李亦商量，“我的卡里余額只有1200元，能不能賠償你650元私了？”

　　“這不是錢(qián)的問(wèn)題，你已經(jīng)違法了?！崩钜嗪推渌┲鬟x擇報(bào)警。

　　黑色產(chǎn)業(yè)鏈禍及未成年人

　　李亦的遭遇并非個(gè)例。AI技術(shù)被濫用，一條黑色產(chǎn)業(yè)鏈正在形成。

　　在網(wǎng)絡(luò)上，只要輸入關(guān)鍵詞，就能輕易找到提供“AI脫衣”相關(guān)技術(shù)或服務(wù)的商家。他們打著“AI繪畫(huà)”“AI改圖”的旗號(hào)在社交媒體上招攬生意，引導(dǎo)顧客添加其聯(lián)系方式，待到一對(duì)一溝通或加入私密群聊后，就拿出具有暗示意味的圖片，誘導(dǎo)網(wǎng)友購(gòu)買(mǎi)。

　　“AI脫衣”的受害者眾多，甚至禍及未成年人。一名賣(mài)家聲稱自己“資源眾多”，發(fā)來(lái)了一整套價(jià)目表，詳細(xì)地將圖集分為“明星”“網(wǎng)紅”“模特”“漫畫(huà)”等多個(gè)種類，在他發(fā)來(lái)的樣張圖片中，甚至還出現(xiàn)了穿著校服的高中生。他聲稱，如果沒(méi)有喜愛(ài)的類型，顧客可以發(fā)照片“單圖定制”，兩元一張，“網(wǎng)絡(luò)上的圖都可以作為素材”。

　　另一名賣(mài)家也采用會(huì)員制方式邀請(qǐng)顧客進(jìn)群，稱目前“群里已經(jīng)有兩三百個(gè)圖集”，只要花30元進(jìn)群就可以享受免費(fèi)持續(xù)更新。當(dāng)中青報(bào)·中青網(wǎng)記者進(jìn)一步追問(wèn)其圖集來(lái)源時(shí)，他支支吾吾地表示自己的資源是從某網(wǎng)站下載來(lái)的，“不是我自己做的”。

　　“其實(shí)只要掌握了相關(guān)技術(shù)，人們都可以利用AI制作這些圖片?！辟Y深算法工程師藍(lán)天告訴中青報(bào)·中青網(wǎng)記者，“AI脫衣”算法稱作“DeepNude”，因?yàn)閭惱韱?wèn)題，目前在美國(guó)已被下架，但不排除有人通過(guò)其他AI算法訓(xùn)練機(jī)器，以達(dá)到同樣的效果。

　　在某通訊軟件上，一個(gè)AI機(jī)器人收獲了眾多用戶。它不需要使用者掌握復(fù)雜的算法知識(shí)，只需要按照其提示，就能完成給照片“換臉”“去衣”等操作。這一機(jī)器人還有詳細(xì)的精細(xì)化設(shè)置，能像美顏相機(jī)一樣調(diào)整圖片的各項(xiàng)參數(shù)。

　　這款機(jī)器人需要付費(fèi)使用，點(diǎn)擊“充值”按鈕后，用戶會(huì)被引導(dǎo)到一個(gè)點(diǎn)卡充值網(wǎng)站當(dāng)中進(jìn)行網(wǎng)上支付。不過(guò)，用戶并非付費(fèi)給商家，而是個(gè)人，因此很難追蹤該機(jī)器人的運(yùn)營(yíng)主體。根據(jù)其價(jià)目表，最低兩元就能生成一張脫衣照。

　　“機(jī)器是中立的，只要給它‘喂’了足夠多的人體構(gòu)造圖，機(jī)器就能在之后輸入圖片時(shí)，通過(guò)識(shí)別面部、身體等特征重繪全圖，生成一張‘脫衣照’?！彼{(lán)天稱，機(jī)器“只管照片的生成”，不會(huì)顧及照片中人的意愿，以及是否成年等倫理、法律問(wèn)題。

　　“按照技術(shù)工具論的視角，技術(shù)是中性且無(wú)害的，但這樣的認(rèn)識(shí)忽略了技術(shù)本應(yīng)具有的道德相關(guān)性問(wèn)題?！蔽髂险ù髮W(xué)刑事偵查學(xué)院副教授、碩士生導(dǎo)師謝玲認(rèn)為，技術(shù)之間是有差別的，有一些新技術(shù)如深度偽造技術(shù)等被濫用所產(chǎn)生的后果很難預(yù)料，其道德倫理及法律問(wèn)題更為復(fù)雜。

　　從“最有利于未成年人”原則構(gòu)建網(wǎng)絡(luò)安全規(guī)則

　　北京市京師律師事務(wù)所合伙人姚志斗律師接觸過(guò)多起因新技術(shù)濫用侵害未成年人權(quán)益的案例。在一起案件中，一不法分子利用“AI換臉”軟件，將從互聯(lián)網(wǎng)渠道收集到的大批未成年學(xué)生的面部信息進(jìn)行替換，制作生成虛假的換臉淫穢視頻，再將視頻有償銷(xiāo)售?！斑@不僅侵害未成年學(xué)生的肖像權(quán)及心理健康，同時(shí)這一行為涉嫌傳播淫穢物品牟利犯罪?！?/p>

　　“應(yīng)對(duì)新技術(shù)新應(yīng)用風(fēng)險(xiǎn)，需要從‘最有利于未成年人’原則和‘兒童權(quán)利’的視角來(lái)構(gòu)建安全規(guī)則?！敝袊?guó)青少年研究中心青少年法律研究專家郭開(kāi)元認(rèn)為，針對(duì)新技術(shù)新應(yīng)用帶來(lái)的風(fēng)險(xiǎn)，要把握好未成年人的特殊保護(hù)和新技術(shù)應(yīng)用的動(dòng)態(tài)平衡。有關(guān)部門(mén)應(yīng)盡快設(shè)立保護(hù)兒童、尊重隱私、設(shè)置特殊保護(hù)的規(guī)則，尤其要建立按照年齡標(biāo)準(zhǔn)進(jìn)行分級(jí)管理規(guī)則、監(jiān)護(hù)人的知情同意規(guī)則等。

　　謝玲呼吁，對(duì)新技術(shù)的應(yīng)用風(fēng)險(xiǎn)進(jìn)行分類和評(píng)估，建立針對(duì)新技術(shù)規(guī)制的制度屏障，明確技術(shù)合理運(yùn)用的界限。如果沒(méi)有針對(duì)技術(shù)濫用設(shè)立屏障，應(yīng)嚴(yán)格規(guī)制這一類高風(fēng)險(xiǎn)新技術(shù)的聯(lián)網(wǎng)應(yīng)用，因?yàn)椤靶录夹g(shù)極有可能導(dǎo)致未來(lái)新型不法行為的產(chǎn)生”。

　　姚志斗稱，對(duì)網(wǎng)絡(luò)犯罪監(jiān)管存在一定難度。網(wǎng)絡(luò)犯罪證據(jù)主要存儲(chǔ)在網(wǎng)絡(luò)服務(wù)器中，面對(duì)復(fù)雜、形式多樣的電子數(shù)據(jù)，取證存在一定困難。此外，違法行為人的身份確定難度較大，有的犯罪分子身在國(guó)外，給案件管轄?zhēng)?lái)挑戰(zhàn)。

　　事實(shí)上，針對(duì)網(wǎng)絡(luò)新技術(shù)新應(yīng)用帶來(lái)的風(fēng)險(xiǎn)，有關(guān)部門(mén)已加大力度重拳整治。

　　此次中央網(wǎng)信辦專項(xiàng)行動(dòng)聚焦的七大重點(diǎn)之一，即劍指新技術(shù)新應(yīng)用風(fēng)險(xiǎn)問(wèn)題，包括利用“AI換臉”“AI繪圖”“AI一鍵脫衣”等技術(shù)生成涉未成年人低俗色情圖片視頻；利用所謂“閱后即焚”的密聊軟件誘騙未成年人提供個(gè)人信息，誘導(dǎo)實(shí)施違法行為；利用生成式人工智能技術(shù)制作發(fā)布涉未成年人有害信息。

　　“這釋放了國(guó)家加大力度整治網(wǎng)絡(luò)環(huán)境，切實(shí)加強(qiáng)對(duì)未成年人網(wǎng)絡(luò)保護(hù)的信號(hào)?！敝x玲指出，這一專項(xiàng)行動(dòng)針對(duì)未成年人身心易受影響的特點(diǎn)，意在預(yù)防未成年人不良上網(wǎng)用網(wǎng)行為，避免其成為新型網(wǎng)絡(luò)違法犯罪活動(dòng)的“工具人”，也是落實(shí)未成年人保護(hù)法、預(yù)防未成年人犯罪法相關(guān)法律保護(hù)措施的具體體現(xiàn)。

　　如今，李亦已走出心理陰影，她說(shuō)：“不能因?yàn)檫@些事情而停止我對(duì)生活的熱愛(ài)。”

　　中青報(bào)·中青網(wǎng)見(jiàn)習(xí)記者 劉胤衡 記者 先藕潔 來(lái)源：中國(guó)青年報(bào)