AI脫衣軟件網(wǎng)上叫賣 正常照片秒變不堪入目照片

　　惡意人工智能應(yīng)用已進(jìn)入監(jiān)管視野

　　7月19日,南都記者再次搜索發(fā)現(xiàn),部分賣家已刪除商品鏈接及Deepfakes關(guān)鍵詞,但仍有賣家通過頭像提示稱“沒下載的請(qǐng)等兩天后私我”。

　　北京莫少平律師事務(wù)所律師莫少平說,商家在網(wǎng)上兜售換臉淫穢視頻,肯定屬于違法行為。根據(jù)情節(jié)不同,輕則違反《治安管理處罰條例》,重則觸犯《刑法》,構(gòu)成犯罪。

　　按照《治安管理處罰條例》,制作、復(fù)制、出售、出租或者傳播淫書、淫畫、淫穢錄像或者其他淫穢物品的,處十五日以下拘留。《刑法》中則規(guī)定,“制作、復(fù)制、出版、販賣、傳播淫穢物品牟利罪”與“傳播淫穢物品罪”,對(duì)構(gòu)成犯罪的追究刑事責(zé)任。

　　而從民事層面看,未經(jīng)當(dāng)事人同意,以營利為目的使用公民的肖像,則有侵犯肖像權(quán)之嫌。虛假的淫穢視頻,也可能構(gòu)成名譽(yù)侵權(quán)。

　　種種新政表明,監(jiān)管層已注意到以Deepfakes為代表的惡意的人工智能應(yīng)用。今年4月提交十三屆全國人大常委會(huì)第十次會(huì)議審議的民法典人格權(quán)分編擬規(guī)定,任何組織或個(gè)人不得以利用信息技術(shù)手段偽造的方式侵害他人的肖像權(quán)。

　　5月底,國家網(wǎng)信辦會(huì)同有關(guān)部門發(fā)布《數(shù)據(jù)安全管理辦法(征求意見稿)》,其中要求,“網(wǎng)絡(luò)運(yùn)營者利用大數(shù)據(jù)、人工智能等技術(shù)自動(dòng)合成新聞、博文、帖子、評(píng)論等信息,應(yīng)以明顯方式標(biāo)明"合成"字樣;不得以謀取利益或損害他人利益為目的自動(dòng)合成信息”。

　　不過,這些尚未正式出臺(tái)的法律法規(guī),還無法有效阻止DeepNude、Deepfakes及偽造***、淫穢視頻的廣泛傳播。