AI脫衣軟件網上叫賣 正常照片秒變不堪入目照片

　　惡意人工智能應用已進入監(jiān)管視野

　　7月19日,南都記者再次搜索發(fā)現(xiàn),部分賣家已刪除商品鏈接及Deepfakes關鍵詞,但仍有賣家通過頭像提示稱“沒下載的請等兩天后私我”。

　　北京莫少平律師事務所律師莫少平說,商家在網上兜售換臉淫穢視頻,肯定屬于違法行為。根據情節(jié)不同,輕則違反《治安管理處罰條例》,重則觸犯《刑法》,構成犯罪。

　　按照《治安管理處罰條例》,制作、復制、出售、出租或者傳播淫書、淫畫、淫穢錄像或者其他淫穢物品的,處十五日以下拘留。《刑法》中則規(guī)定,“制作、復制、出版、販賣、傳播淫穢物品牟利罪”與“傳播淫穢物品罪”,對構成犯罪的追究刑事責任。

　　而從民事層面看,未經當事人同意,以營利為目的使用公民的肖像,則有侵犯肖像權之嫌。虛假的淫穢視頻,也可能構成名譽侵權。

　　種種新政表明,監(jiān)管層已注意到以Deepfakes為代表的惡意的人工智能應用。今年4月提交十三屆全國人大常委會第十次會議審議的民法典人格權分編擬規(guī)定,任何組織或個人不得以利用信息技術手段偽造的方式侵害他人的肖像權。

　　5月底,國家網信辦會同有關部門發(fā)布《數(shù)據安全管理辦法(征求意見稿)》,其中要求,“網絡運營者利用大數(shù)據、人工智能等技術自動合成新聞、博文、帖子、評論等信息,應以明顯方式標明"合成"字樣;不得以謀取利益或損害他人利益為目的自動合成信息”。

　　不過,這些尚未正式出臺的法律法規(guī),還無法有效阻止DeepNude、Deepfakes及偽造***、淫穢視頻的廣泛傳播。