網紅小玉製作換臉A片牟利 王婉諭憂孩童成犯案目標
YouTuber「小玉」朱玉宸,涉利用AI Deepfake(換臉)技術客製化牟利被逮捕,黃捷、高嘉瑜及館長等人都受害。(本報合成)
〔即時新聞/綜合報導〕百萬YouTuber小玉(朱玉宸)因涉嫌利用AI Deepfake(換臉)技術,將知名女網紅、民代黃捷、高嘉瑜等人的臉合成A片女主角販售牟利,昨(17日)遭警方逮捕,警方目前正擴大追查受害人及其他共犯。對此,關注兒童議題的時力立委王婉諭憂心,由於社群媒體發達,孩童會在網路上PO出自己的照片,若被有心人盯上後製影片就成為把柄,因此建議家長們要持續親子對話,建立良好的信賴關係,讓孩子們遭遇問題時更懂得求助、更敢求助!
「不只有網紅、名人會是數位性暴力受害者,持續親子對話,網路就不可怕!」王婉諭在臉書表示,過去曾有許多女性網紅與Youtuber深受其擾,甚至因為影片被上傳到色情網站而必須出面澄清,她們透過自己的努力掙來的名氣,讓她們更容易成為數位性暴力的受害者;也曾有遭到Deepfake的網紅因為害怕尋求法律途徑解決問題後,會遭到更強力的報復,而選擇隱忍,「面對這種遭遇,她們的反應十分勇敢,但也令人心疼」。
王婉諭說,在了解這個議題的過程中,更令她擔心的是,過去曾有媒體記者在追查時發現,只要有數量夠多、清晰的個人照片,不只名人會成為受害者,群組中有許多老司機甚至會提供身邊女性友人的照片,當成Deepfake的素材,許多人可能因此成為意淫的對象而不自知。
王婉諭指出,由於現在社群軟體的發達,許多孩子可能在網路上上傳自己的照片,因而被有心人盯上,而Deepfake後製而成的影片就成為把柄,若孩子因為害怕求助後被責罵,或是不知道該如何求助,就更有可能淪為不肖人士的階下囚。
「發生這種事情,相信許多家長一定都會感到驚慌。」王婉諭直言,在這個網路世代中,孩子的生活其實已經離不開網路,在日常中持續保持親子間的對話,不論是藉由這次的事件機會教育,協助孩子認知網路上的風險,建構關於身體與個人資料保護的界線,或是建立良好的信賴關係,都能讓他們遭遇問題時更懂得求助、更敢求助!
立委王婉諭(見圖)憂心,由於社群媒體發達,孩童可能在網路上PO出自己的照片,而被有心人盯上。(資料照)