ZAO修改用戶協(xié)議 新版協(xié)議已去除爭(zhēng)議條款(5)

　　AI換臉技術(shù)易被黑產(chǎn)利用

　　AI換臉技術(shù)被應(yīng)用其實(shí)并不是新鮮事，早在今年年初，一段通過AI技術(shù)將《射雕英雄傳》中朱茵臉部替換成楊冪的視頻就在網(wǎng)絡(luò)引起熱議。

　　多家外媒曾報(bào)道Deepfake和DeepNude在國(guó)外引起的熱議。有報(bào)道稱，隨著越來越多的人正在利用FakeApp制作名人的色情視頻，F(xiàn)akeApp正在引起恐慌。

　　新京報(bào)此前報(bào)道，隨著AI技術(shù)走紅以及門檻降低，售賣明星換臉的淫穢視頻已經(jīng)成為一門地下生意。閑魚上還有賣家提供“定制換臉”服務(wù)。

　　在2019世界人工智能大會(huì)上，騰訊優(yōu)圖實(shí)驗(yàn)室總經(jīng)理吳運(yùn)聲表示，“現(xiàn)在網(wǎng)上有換臉的技術(shù)，可以通過技術(shù)制造聲音、視頻，還可以用技術(shù)模擬出攝像頭的錄制，比如你沒有到這里，但技術(shù)可以把你做到這里，很容易被黑產(chǎn)、灰產(chǎn)利用。這些讓我一直思考技術(shù)的準(zhǔn)則在哪里，底線在哪里。”他還表示，“黑產(chǎn)、灰產(chǎn)不斷有對(duì)抗(技術(shù))的手段，在解決對(duì)抗問題的過程中，我們也在不斷推進(jìn)技術(shù)往前發(fā)展。”

　　著名學(xué)者吳伯凡則認(rèn)為，人在使用技術(shù)的時(shí)候一定要有初心，讓科技向善。“之前的技術(shù)沒有自主性和主動(dòng)權(quán)，比如火、核能都不能自主做事，但人工智能是有自我學(xué)習(xí)能力的，是非常特殊的，就一定要解決向善的問題。”

　　對(duì)于“AI換臉技術(shù)”，網(wǎng)絡(luò)安全專家張百川曾表示，技術(shù)本身沒有問題，是有人利用技術(shù)作惡，大眾需要在日常生活中，注重個(gè)人隱私保護(hù)。那么該如何防范?其表示，“個(gè)人很難防范，如果你有照片在互聯(lián)網(wǎng)上，就會(huì)有(被利用)的風(fēng)險(xiǎn)”。

　　App Annie數(shù)據(jù)顯示，ZAO于8月31日成為蘋果應(yīng)用商店中國(guó)區(qū)免費(fèi)下載榜第二位，此后三天登頂蘋果應(yīng)用商店中國(guó)區(qū)免費(fèi)下載榜榜首。