海報新聞評論員 劉瑞琪

　　近日，有關張文宏“被帶貨”的視頻在網絡上流傳，視頻中有著“張文宏”長相和聲音的主體推銷著一款蛋白棒，然而這段視頻實為AI合成，張文宏本人對此表示既憤怒又無奈。隨后騰訊官方平臺從速從嚴打擊了一批利用AI技術仿冒名人進行不當營銷、惡意博取流量的違規行為，并針對相關情況開展專項治理。

　　AI技術的發展，使得圖像、視頻等數據內容更加容易被造假，也使得觀看者更難分辨其真偽。對于有辨別能力的年輕人來說，仔細看或許可以看出端倪，但是對于一些不熟悉AI合成技術的中老年人，此類視頻足以以假亂真。上海市消保委對該事件嚴厲發聲，表示未經當事人授權的AI合成帶貨行為已經構成了對消費者的欺詐。這不僅涉及消費者權益，還涉及公眾人物的社會公信力，更破壞了互聯網的誠信體系。

　　據《2024人工智能安全報告》顯示，2023年基于AI的深度偽造欺詐暴增了3000%，在這些通過技術手段冒充名人的騙局中，有的利用合成視頻直接騙取老年人錢財，有的盜用其形象進行違規虛假代言，甚至還有利用已經過世的名人來帶貨……在AI技術面前，眼見也不一定為實，合成的虛假視頻內容成為了心術不正之人的造謠詐騙工具。這不禁令人思考，在互聯網傳播的眾多信息中，我們如何辨別和信任眼前的內容？

　　目前AI合成相關規范的約束與監管還需進一步完善，但從現在的法律出發，此種行為已經涉嫌侵犯肖像權和名譽權，情節嚴重的還可能構成詐騙罪和幫助信息網絡犯罪活動罪等犯罪，可以進行更嚴肅的追究，使造假者依法受到應有的處罰，避免出現張文宏所說“多次向平臺投訴但屢禁不絕、報警也找不到人”的情況出現。同時，平臺也應對此類AI合成造假的作品，增加技術上和制度上的把控手段，對違規賬號進行依法從重處罰，避免此類招搖行騙的內容泛濫橫行。

　　今年9月，國家網信辦已經發布《人工智能生成合成內容標識辦法(征求意見稿)》，要求從視頻制作和發布的源頭做好信息管理。期待隨著《人工智能生成合成內容標識辦法》正式落地，能為社會和公眾帶來一個更加健康、透明和負責任的AI應用環境。