中國整頓短視頻虛假人設
中國最高互聯網監管機構已啟動為期兩個月的全國性行動,清理短視頻,針對該形式最頑固的問題之一:虛構人設。中國國家互聯網信息辦公室以「清朗」名義宣布此行動,這是一系列反覆出現的互聯網治理行動,過去幾年曾聚焦網絡霸凌、名人粉絲文化和誤導性金融內容。
本次行動針對五類虛假身份。第一類是冒充弱勢群體成員的人,包括擺拍外送員帶著孩子跑單,或所謂資歷過高者從事快遞工作以渲染艱辛的片段。第二類涵蓋捏造的專業資歷,例如不具資格者自稱醫生、律師或財務顧問。
第三類也是技術上最複雜的一類,涉及人工智能。監管機構標記了使用AI合成音頻和視頻冒充公眾人物的視頻,包括虛假代言以及未經同意利用名人形象進行的營銷。一個相關的擔憂是,有人藉冒充熱門社會事件的參與者或目擊者來蹭熱度。
最後一類涵蓋編造悲慘背景故事以博取同情和流量的帳號,中國觀眾將此類內容戲稱為「賣慘」。行動通知還針對其所稱的所謂網紅擾亂行為,包括為走紅而設計的擺拍衝突。
時機值得注意。短視頻如今是中國主導性的網絡娛樂形式,在抖音、快手和微信視頻等平台上擁有數億日活用戶。由於這些信息流獎勵情感參與,編造的苦難故事可以迅速傳播,並在事實核查人員跟上之前,通過打賞、直播帶貨和廣告變現。
AI大幅提高了風險。廉價的語音克隆和換臉工具意味著,一位知名企業家或演員的逼真假象可以在幾分鐘內製作出來。監管機構過去兩年一直在建立要求合成內容標註的規則,而此次行動表明,執法正從標註轉向主動下架完全建立在欺騙之上的帳號。
對平台而言,實際負擔沉重。企業需要審核帳號、核實有關專業資歷的聲明,並在壓縮的時間內回應用戶舉報。業內觀察人士預計,最大的平台將收緊對自稱醫療、法律或財務專家帳號的驗證,並對嚴重依賴苦難敘事的內容增加阻力。
此次行動是北京希望短視頻經濟成熟而非僅僅增長的最新跡象。該行業是直播主播、剪輯師和機構的主要僱主,廣告商也對虛假人設醜聞帶來的品牌安全風險日益警惕。監管機構認為,更乾淨的信息流對消費者和依賴該形式的合法企業都更有利。
為期兩個月的推動能否實質性改變激勵機制則是另一個問題。過去的清朗行動產生了明顯的短期成果,封禁帳號並公布典型執法案例。但底層經濟邏輯——注意力直接轉化為收入——往往會以新名義再生同樣的把戲。未來幾個月將顯示平台在故事講述與捏造之間的界線上執法有多嚴厲。