海報新聞評論員 劉瑞琪

　　近日，有關(guān)張文宏“被帶貨”的視頻在網(wǎng)絡上流傳，視頻中有著“張文宏”長相和聲音的主體推銷著一款蛋白棒，然而這段視頻實為AI合成，張文宏本人對此表示既憤怒又無奈。隨后騰訊官方平臺從速從嚴打擊了一批利用AI技術(shù)仿冒名人進行不當營銷、惡意博取流量的違規(guī)行為，并針對相關(guān)情況開展專項治理。

　　AI技術(shù)的發(fā)展，使得圖像、視頻等數(shù)據(jù)內(nèi)容更加容易被造假，也使得觀看者更難分辨其真?zhèn)巍�對于有辨別能力的年輕人來說，仔細看或許可以看出端倪，但是對于一些不熟悉AI合成技術(shù)的中老年人，此類視頻足以以假亂真。上海市消保委對該事件嚴厲發(fā)聲，表示未經(jīng)當事人授權(quán)的AI合成帶貨行為已經(jīng)構(gòu)成了對消費者的欺詐。這不僅涉及消費者權(quán)益，還涉及公眾人物的社會公信力，更破壞了互聯(lián)網(wǎng)的誠信體系。

　　據(jù)《2024人工智能安全報告》顯示，2023年基于AI的深度偽造欺詐暴增了3000%，在這些通過技術(shù)手段冒充名人的騙局中，有的利用合成視頻直接騙取老年人錢財，有的盜用其形象進行違規(guī)虛假代言，甚至還有利用已經(jīng)過世的名人來帶貨……在AI技術(shù)面前，眼見也不一定為實，合成的虛假視頻內(nèi)容成為了心術(shù)不正之人的造謠詐騙工具。這不禁令人思考，在互聯(lián)網(wǎng)傳播的眾多信息中，我們?nèi)绾伪鎰e和信任眼前的內(nèi)容？

　　目前AI合成相關(guān)規(guī)范的約束與監(jiān)管還需進一步完善，但從現(xiàn)在的法律出發(fā)，此種行為已經(jīng)涉嫌侵犯肖像權(quán)和名譽權(quán)，情節(jié)嚴重的還可能構(gòu)成詐騙罪和幫助信息網(wǎng)絡犯罪活動罪等犯罪，可以進行更嚴肅的追究，使造假者依法受到應有的處罰，避免出現(xiàn)張文宏所說“多次向平臺投訴但屢禁不絕、報警也找不到人”的情況出現(xiàn)。同時，平臺也應對此類AI合成造假的作品，增加技術(shù)上和制度上的把控手段，對違規(guī)賬號進行依法從重處罰，避免此類招搖行騙的內(nèi)容泛濫橫行。

　　今年9月，國家網(wǎng)信辦已經(jīng)發(fā)布《人工智能生成合成內(nèi)容標識辦法(征求意見稿)》，要求從視頻制作和發(fā)布的源頭做好信息管理。期待隨著《人工智能生成合成內(nèi)容標識辦法》正式落地，能為社會和公眾帶來一個更加健康、透明和負責任的AI應用環(huán)境。