當紅男演員劉昊然報警了。因為,近期有大量網友通過網絡渠道、利用AI換臉技術,傳播對劉昊然帶有侮辱性的視頻、截圖,同時還有存在誹謗言論的聊天記錄。

盡管今年初工作室已作出澄清與聲明,但謠言仍然引起了更大范圍的傳播,產生了極其惡劣的影響,遂選擇報警。透視此事件,灰色產業(yè)鏈滋生,一方面進一步降低了視頻換臉的門檻,另一方面已使其異化為侵害他人合法權益和危害社會公共安全的工具。

“五分鐘視頻換臉100元”“學教程2000元包教包會”“不限視頻內容”“所有明星都能換”——媒體調查結果令人觸目驚心。在一些社交媒體平臺中搜索“換臉”,記者發(fā)現了“AI明星換臉”“AI換臉私人定制”等數十個群,群里不少人都在售賣“AI換臉”服務。

被沖擊的不止網絡傳播秩序,還有事實真相和價值觀。網絡世界里,可能真的不一定“有圖有真相”,也不一定“眼見為實,耳聽為虛”。惡搞,色情,謠言……一股腦被合成進換臉視頻中,卷入流量的潮水;社交媒體平臺、電商平臺,成了買賣換臉軟件和傳播相關售賣信息的集散地。違法者頻頻挑戰(zhàn)公眾認知,臟了網絡環(huán)境,傷了人心。

對這類利用信息技術手段偽造等方式侵害他人肖像權的行為,平臺絕不可缺位。如果在事前處置的關口失守,聽憑事后用戶舉報才能做出反應,那么平臺治理勢必滯后,隱患重重,不可不防。

(南屏)