川观两点论丨张文宏医生带货了?AI造假泛滥怎么防

2024-12-13 18:44:11来源:四川在线编辑:牛霄

川观新闻评论员  张立峰

最近,有网友发消息称,“张文宏是不是带货了?”视频中,张文宏在卖一种蛋白棒,家里的老人信以为真,已经下单还转发了很多群。据媒体报道,这个账号名为“般画234”的视频中,“张文宏”反复介绍一种产品,口型和声音也对得上,但其实这是AI合成的视频。目前,这段视频已在该账号内不可见,但还保留着蛋白棒售卖的页面,显示已售出1266件。

近年来,AI剪辑冒充明星的案例屡见不鲜,有不少人上当。此前,江西一老人在银行办贷款,声称要贷200万元给自己的男朋友“靳东”拍戏。民警给老人看了一些冒充“靳东”诈骗的新闻,又现场利用AI合成靳东的照片,老人才幡然醒悟。今年10月,老牌港星黄百鸣也在社交媒体上发布声明表示,有人盗用他过去的影片,并利用人工智慧技术替换掉原有声音,假借自己名义代言一个不知名的药膏品牌,误导公众从中获利。

AI伪造名人带货视频,严重侵犯了消费者的知情权,是对消费者的欺诈,同时也是对被伪造者的肖像权、名誉权的侵害。比如张文宏医生是公众人物,其言行具有一定的权威性和影响力,如此被人“滥用”,也可能影响其专业形象和社会公信力。

在当前AI造假视频监管存在漏洞和难点的当下,靠监管也要靠自身。一方面,可以主动维权,按照消费者权益保护法的规定,要求商家做出退一赔三。另一方面,在刷到名人带货时一定要多留个心眼。有个小技巧,可以要求对方在视频对话的时候,在脸部前挥挥手,这样会造成面部数据的干扰,伪造的人脸会产生一定的抖动或者闪现;还可以让对方按鼻子按脸,观察其面部变化,真人的会变形,但AI生成的不会。

但随着AI功能的不断强大,AI造假也将更具迷惑性。除了提升公众的媒体素养和自我保护意识外,未来还需要利用AI技术本身进行反制,甚至能及时发现并删除虚假带货视频。同时建立健全投诉举报机制。政府应加强对AI技术的立法和监管,明确技术使用的边界和法律责任,同时提高现有法律法规执行的效率和精准性,加大对AI伪造带货行为的打击力度,严厉处罚不法分子,与平台共同构筑打击虚假带货行为的坚固防线。

今天的两点论就到这里,我们下期见。

文案:张立峰  主播:张立峰

拍摄:张立峰  剪辑:张立峰

    编辑推荐