AI換臉易受騙 港宜堵塞漏洞

評論版 2019/09/12

分享:

內地一款結合人工智能(AI)技術和影片的換臉App爆紅,但瞬間退潮,因用戶憂慮臉容數據被盜用而遭勒索或騙財。外國正考慮立法遏止,香港臉容辨識技術起步遲,亦須未雨綢繆。

內地一款名叫「ZAO」的換臉App,上月底以「僅需一張照片,出演天下好戲」作招徠,用戶只需上載照片,臉容便會「移植」到多齣電影主角身上,融合不同表情,效果如同美國的「深度造假」(deepfake)技術。

Deepfake一詞由深度學習(deep learning)和偽造(fake)組成,主要指透過AI技術造成合成圖像,影像和聲音都神似,令人難辨真假。由於ZAO只需一部手機就可玩換臉技術,門檻低,故推出後瞬間爆紅。用戶體驗過做「明星」後,發現用戶協議中有霸王條款,所有合成圖片的擁有權歸ZAO,並可未經用戶許可下將圖片分享給第三方或作行銷用,故紛紛要求取消帳戶。

臉容數據 可刷臉支付製假新聞

內地人刪除換臉App帳戶,因憂慮成deepfake受害人,外國例子比比皆是。其一,擔心不法分子取得臉容數據後抹黑,或向受害人家屬電話詐騙。美國女星如姬嘉鐸(Gal Gadot)、施嘉莉祖安遜(Scarlett Johansson)的容貌被移植到色情片女角身上,聲譽受損。有駐英能源公司CEO年初接到一通用AI技術模仿母公司老闆聲音的電話,被騙24.3萬美元。

其二,憂心臉容數據被盜用,進行刷臉支付,蒙受金錢損失。內地正盛行刷臉支付,人行科技司司長李偉早前警告,AI臉容辨識技術可在3公里外識別你的人臉,存在遠程一擦臉錢就被盜走的新風險。盡管支付寶宣稱其網上支付的臉容驗證安全門檻極高,但ZAO開發公司陌陌科技保護用戶資料不力,去年被發現3,000萬用戶的手機與帳戶資料在暗網上被賤賣200元人民幣,更難讓人釋疑。

其三,外國人最擔心臉容數據被用來製作假新聞片,抹黑某候選人,影響選舉公正性。之前有人用AI製造了一段美國前總統奧巴馬(Barack Obama)辱罵現任總統特朗普(Donald Trump)的造假影片,像真度高,反映用deepfake製造假新聞已成趨勢,在大選臨近可能更趨嚴重。

美英擬監管 歐盟設AI道德指引

正因為deepfake問題愈來愈嚴重,各國都沒專門法例打擊,故美國和英國都考慮立法監管,而歐盟4月時公布AI道德指引,防止政府和企業濫用。中國官媒亦呼籲政府應收緊對AI換臉技術的監管。

臉容辨識技術正在港興起,不少iPhone用戶選用Face ID解鎖和作為程式支付的身份認證方法,而大部分銀行手機App都支援Face ID。

盡管臉容辨識技術漸普及,應科院首席科技總監楊美基指技術存漏洞,正研究方法化解,相信銀行都會採取多重認證方式來保障安全。外國擬立法監管,港亦須考慮堵塞漏洞。在法律未完善前,用戶切勿因貪玩而上載臉容數據,讓不法分子有機可乘。

撰文 : 沈帥青

欄名 : 港是港非

緊貼財經時事新聞分析,讚好hket Facebook 專版