今年年初,AI生成的多張圖片引起了全世界的驚嘆,它把並不存在的事,甚至根本不存在的人畫得像真實世界裡發生過一樣。
這組川普受到刑事指控後『被逮捕』的圖,就是AI作畫的『成名作』之一。
圖片被發到網上時,很多人都信以為真,直到有人辟謠才恍然大悟。
此後,不斷湧出的AI作圖,讓穿白色巴黎世家羽絨服的教宗,現實中根本不存在的海嘯災難救援,馬斯克親吻美女機器人等假圖片層出不窮。
各國的無數種AI程序正在飛速開發,使用AI作圖的門檻也越來越低,人們開始擔憂AI會讓民眾更難判斷新聞的真假。
然而,除此之外,還有更令人擔憂的問題,已經發生在我們身邊。
近期有網友爆料,在國內的視頻網站上出現了大量涉嫌兒童色情的AI作圖內容。
一些博主訓練AI,把女童的臉放在各種有挑逗意味的動作上,讓幼童向鏡頭掀裙子、穿『下衣失蹤裝』。
圖源來自網絡
還有一些視頻裡,小女孩穿著女仆裝被成年人掀裙子,另一些視頻的標題則直接寫著『濕身蘿莉』,『蘿莉洗澡』等令人不適的內容。
圖源來自網絡
這些圖片中的小女孩看上去都是不滿10歲的女童,甚至有的圖片主角的面部特征還是嬰幼兒的狀態。
正常人看這樣的照片都會覺得有問題,但這些視頻卻在視頻網站相當受歡迎,上傳者大有人在,而且點擊上萬的就有不少。
點進這些視頻的評論區和彈幕,到底是哪些人在制作和消費這些圖片不言而喻。
一些人明知道視頻的內容涉及兒童色情,明知道這是戀童癖行為,卻一邊求圖包,一邊開著『坐牢』、『死刑』的玩笑,完全沒把自己的剝削行為當回事。
截圖來自@賽博十塊鑒定處
還有的視頻上傳者毫不顧忌地講自己的作圖心得,甚至有些人用這些小女孩的臉,做出有裸露和性元素的圖片,在評論區分享給『粉絲』們。
竟然還有人為他們的戀童行為找理由,說這是他們對『純真』的向往,真是令人作嘔。
有些人還辯駁說,反正是AI畫出來的,都是假的,又沒有真人受到傷害,不需要對這樣的行為上綱上線。
然而事實並非如此。
眾所周知AI學習作畫的過程需要用戶上傳幾張甚至幾十張人物圖片或照片,AI會通過這些圖片中人物長相的共同特征,做出人物模型。
也就是說,這些被他們當作性幻想對象的小女孩,是有幾個真人原型,甚至很可能就是根據現實中的某一個小女孩的照片捏造的。
想想看,有人會希望自己幼小的女兒的臉被安在軟色情圖片裡,成為戀童癖的意淫對象嗎?
就算是套上了高科技的外殼,傳播兒童色情制品也仍然是最惡劣的性犯罪之一。
目前這些視頻已被刪除,大部分相關賬號被查封
今年,國內外許多媒體都發現,由於AI技術在管理尚且混亂的狀況下飛速發展,已經導致更多的兒童和女性成為了新型犯罪的受害者。
最開始引起關注的是源源不斷被P進色情圖片和成人影片內的女明星們。
與上文制作兒童軟色情圖片的同一個AI模型分享網站上,有一個明星專欄,裡面基本全是各國女明星的AI作圖。
從日韓偶像到歐美當紅演員,再到中國的女星網紅的臉都被做成了可以隨意使用的模型。
雖然該網站聲明不允許分享者發佈色情圖片,然而在各種女星模型的評論區裡,能輕易找到各種令人不適的照片。
制作者通過AI制作了女明星身著暴露服裝,擺出性感姿勢的照片。
要知道這些能夠發出來的照片隻是冰山一角,他們可以利用AI生成更惡劣,更露骨的圖片甚至視頻。
我們難以想象這些照片的用處是什麼,可以確定的是,它們很多足以以假亂真。
如果圖片流傳到了社交網站上,一定會有很多人相信這些照片是真實的,從而給女性帶來更大的麻煩,導致她們被謾罵和騷擾。
事實上這類內容在許多社交網站上已經有很多了,無論是制作平臺還是傳播平臺,都對這種行為視而不見,甚至在評論區還有很多人點名要某某女星的AI換臉圖。
而制作平臺和傳播平臺的縱容,就是在傳播一種錯誤的價值觀,告訴人們『侵犯女性和兒童是輕而易舉且沒有成本的』。
『紐約時報』調查發現,歐美著名的AI繪圖程序Midjourney中《即開頭提到的川普被捕圖生成程序》,也含有大量女明星的換頭成人圖像,盡管Midjourney自稱這個程序是『家庭友好型』,並聲稱它『13歲以下用戶僅需家長指導即可觀看』。
但這幾年來,被它P進裸照、成人影片的女明星數不勝數,受害者包括『大表姐』 詹妮弗·勞倫斯、金·卡戴珊、艾瑪·沃森和斯嘉麗·約翰遜等。
許多活躍於短視頻和直播網站上的未成年,或剛剛成年的博主也屢屢遭到侵犯。
今年2月,直播平臺Twitch的知名女主播QTCinderella等多名女性博主的臉被人惡意使用AI換臉P成了裸照。
這些圖片還被制作者煞有介事地發到了色情網站上,給這些女孩『造黃謠』。
許多女博主是在這名博主的道歉視頻中才知道自己被換頭的
這些博主靠出賣身體賺錢的謠言一下就傳遍了全網,也傳到了受害者的耳朵裡。
28歲的QTCinderella發現網站上的所有人都在討論她的裸體,討論她在成人視頻中的表現,盡管那些都是AI做出來的,這還是讓她嚇壞了。
她為此淚流滿面,懇求大家不要在傳播這些圖片:
『我想尖叫,停下吧!求大家停下好嗎,不要再傳播這些圖片了,不要再給這件事熱度了,求你們了。
在不願意的情況下被人看到'裸體'不是我作為主播應該承受的事!那些拿我的照片做文章的'記者們',我可真是謝謝你們這群傻x敗類了!』
另一位未成年受害博主說:『我發現我被造謠了我永遠都不會允許自己做的事,這太可怕了,簡直像是被人強奸了一樣』
然而她們的發聲卻被很多看客罵『矯情』,『事兒多』,到現在仍然有部分換臉視頻沒有被刪除。
影視明星中,斯嘉麗 ·約翰遜更是深受其害。
她太常成為換頭視頻的受害者,數次動用各種法律手段阻止這種行為都沒有什麼成效。
她還是會經常發現自己的臉被嫁接到各種糟糕的圖片視頻裡。
斯嘉麗說自己對此非常失望,已經放棄通過法律再為自己維權。
她說:『互聯網是個吞噬我的巨大黑洞』
要知道斯嘉麗是一名凈資產達到1.65億美元的一線巨星,是好萊塢身價最高的演員之一。
她有比普通人更好的法律資源,更強大的號召力和人脈,然而斯嘉麗仍因為不斷湧出的換頭視頻而崩潰,拿它們毫無辦法。
而當這些剝削發生在普通女性,甚至沒有行為能力的兒童身上時,隻會更加猖狂和難以控制。
Midjourney上已經出現了將女友、網紅P進露骨圖像中造黃謠、進行色情報復等行為。
還有一些人盜用了兒童的照片,將他們做成兒童色情制品賣給戀童癖。
兒童受害者既有未成年童星,也有普通的孩子,後者的照片多是從孩子父母的社交賬號上偷來的。
所以專家也建議在AI作圖規范化之前,慎重網上曬娃,以防被不法之徒盯上。
前不久一名西班牙人因使用AI制造換臉色情制品被捕,在他的家中甚至發現了女嬰遭到性侵、虐待的恐怖視頻。
令調查此案的警探們僅僅是閱覽這些資料都需要接受心理輔導,更不要提被換臉的孩子的父母們如果知道此事,會有怎樣的感受。
一些科技公司已經承諾,他們會訓練AI更謹慎地作圖,不要觸碰一些紅線,並且會在社交媒體上開發自動刪除兒童色情相關圖片的程序,但目前為止真正采取措施的公司還是少數。
同時,針對AI換頭侵權的法律保障也不完善。
2019年,美國紐約州民主黨人Yvette Clarke 提出對換頭視頻的制作者進行追責的法案,這項法案石沉大海,至今仍沒有音信。
而包括美國在內的一些國家,甚至沒有將虛擬的兒童色情制品列入違法范圍。
也就是說,如果AI生成了未成年人的裸露圖像,受害者甚至難以找到合適的法案為自己維權。
最後,專家提出了一些鑒別AI換臉圖片和視頻的方法,提高對換臉圖像的鑒別能力,不去大肆傳播這些內容加重對受害者的剝削,也是我們力所能及可以做到的。
下面是一些換臉視頻和圖片常有的漏洞:
1、手部和眼球運動不自然的視頻和圖片可能是假的。
AI現在還不太能完全復制人類的眼球運動軌跡,也不太會畫人手;
2、人物表情和五官奇怪甚至有點扭曲的圖片;
3、人物姿勢別扭,身體比例看上去不協調;
4、頭發看上去很假,過於光滑沒有碎發;
5、牙齒的輪廓模糊,牙齒過於整齊;
6. 圖像顏色奇怪,陰影位置奇怪,人像邊緣模糊或錯位。
AI繪畫的進步的確給人類帶來了很多驚喜和可能性,但技術進步不該成為剝削的工具,新的發展和科技也不能成為隨意踐踏他人,尤其是社會弱勢群體的權利和尊嚴的理由。
希望沒有下限的換頭圖片和視頻早日得到治理,從網絡上消失…
『免責聲明』圖文來源於網絡,版權歸原作者所有。
如涉及作品版權問題,請與我們聯系,我們將刪除內容!特別說明,本站分享的文章不屬於商業類別宣傳。