4月26日，在社交平臺(tái)有著百萬粉絲的網(wǎng)紅博主 @Caro賴賴 發(fā)文稱，有人盜了她的“臉”。

據(jù)她介紹，大約在半年前，自己的視頻評(píng)論區(qū)便不斷有網(wǎng)友提及看過她的“小視頻”。

本著清者自清的原則，她一開始沒進(jìn)行任何回應(yīng)。

【資料圖】

直到近日，@Caro賴賴 的朋友給她發(fā)來一些了截圖和視頻，在看到這些內(nèi)容后，她才發(fā)現(xiàn)事情沒有這么簡(jiǎn)單。

原來，這些視頻里的女演員的臉和自己一模一樣，這時(shí)她才意識(shí)到自己的臉可能被盜用了。

經(jīng)過深入了解，@Caro賴賴 還發(fā)現(xiàn)AI盜臉視頻似乎已經(jīng)形成一條產(chǎn)業(yè)鏈。

其中一部分不法分子，在only fans上冒充她注冊(cè)了假賬號(hào)，搬運(yùn)了她發(fā)布在國(guó)內(nèi)社交平臺(tái)的日常內(nèi)容。

當(dāng)積累了一定的粉絲，就會(huì)以會(huì)員訂閱的方式販賣視頻。

在調(diào)查過程中，@Caro賴賴 稱自己還看到過一個(gè)網(wǎng)紅名單，里面都是熟悉的名字。

他們的目標(biāo)大多集中在明星、網(wǎng)紅博主上，甚至也會(huì)盜用普通人的臉制作假的色情照片或視頻，再明碼標(biāo)價(jià)售出。

這些不法分子會(huì)根據(jù)博主的粉絲量級(jí)進(jìn)行分類，假視頻價(jià)格在30-50元不等。

通?？蛻糁灰?00元就能進(jìn)群，進(jìn)群后不僅可以享受永久半價(jià)，甚至還能接“私人定制”——付費(fèi)后發(fā)送帶人像的生活照，就能通過AI合成的方式制成假的視頻。

@Caro賴賴稱，這些不法分子將這類服務(wù)統(tǒng)稱為“一鍵脫衣”。

值得一提的是，就在上個(gè)月，#女子地鐵照被AI一鍵脫衣傳播#也一度沖上熱搜。

當(dāng)時(shí)廣州一女生在小紅書發(fā)布的一張正常穿著的地鐵擺拍照片，卻被有心之人用AI軟件p成了裸露照片，并發(fā)散在全網(wǎng)。

假照片一經(jīng)發(fā)出，“廣州地鐵三號(hào)線不雅照事件”“廣州地鐵美女露出事件”等詞條立刻成為了焦點(diǎn)，給受害女生帶來了極大的影響。

如今，隨著技術(shù)門檻越來越低，AI帶來的隱患也越來越多。

隨意在社交平臺(tái)上搜索關(guān)鍵詞，就可以找到不少販賣“AI換臉”軟件和提供“去衣”服務(wù)的賣家。

有記者在調(diào)查過程中購(gòu)買了一款價(jià)值259元的“去衣軟件”。

當(dāng)軟件導(dǎo)入一張人像圖片后，用“畫筆”涂抹人像上的衣服，經(jīng)過一些設(shè)置，再等待一段時(shí)間，原本人像上的衣服就會(huì)消失不見，正常照片就變成了一張裸照。

唾手可得的“脫衣軟件”讓造謠者更加有機(jī)可乘，輕輕一點(diǎn)，逼真的黃圖便輕松合成。

與之形成鮮明對(duì)比的是，受害者的維權(quán)成本極高，讓不少人只能無奈放棄。

按照法律，用AI換臉制作傳播淫穢圖片或視頻，涉嫌違反《治安管理處罰法》，公安機(jī)關(guān)可對(duì)行為人治安處罰。

如果情節(jié)嚴(yán)重，則可能觸犯《刑法》，涉嫌制作、傳播淫穢物品牟利罪。

根據(jù)《刑法》規(guī)定，以牟利為目的，制作、復(fù)制、出版、販賣、傳播淫穢物品的，處三年以下有期徒刑、拘役或者管制，并處罰金；情節(jié)嚴(yán)重的，處三年以上十年以下有期徒刑，并處罰金；情節(jié)特別嚴(yán)重的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財(cái)產(chǎn)。

AI技術(shù)確實(shí)降低了造謠和作假門檻，但科技本無罪，而是那群被利益蒙了眼、臟了心的人。

技術(shù)的進(jìn)步是為了造福于人類，而不是淪為動(dòng)動(dòng)手指就能輕易傷害他人的犯罪工具。