遭AI换脸虚假带货,张文宏:多次投诉但屡禁不绝

2024-12-14 11:11

抗疫专家,国家传染病医学中心(上海)主任、复旦大学附属华山医院感染科主任张文宏,竟然在深夜直播,大肆推销某个牌子的蛋白棒?事实上,这些场景与张文宏本人没有任何关系,可以说纯属伪造。近日,据媒体报导,网上有无良商家通过AI换脸、合成人声等手段,将张文宏的面容与声音移花接木,用于直播带货,让不少消费者被误导。

AI换脸换声,出现“张文宏”直播卖货的画面。

▲AI换脸换声,出现“张文宏”直播卖货的画面。

据“苏州新闻”报道,最近,有网民询问“张文宏是不是带货了?”。影片中“张文宏”在卖一种蛋白棒。网友表示,家里的老人信以为真已经下单,还转发了很多群。

记者核实发现,这个帐号名为“般画234”,在影片中“张文宏”反复介绍一种产品,口型是他的,声音也是他的。但稍微懂点AI的网友一眼就能分辨,这是AI合成的影片!而该帐号近日卖出了超过1200件蛋白棒。

张文宏在接受内地媒体采访时表示:“这样的卖货帐号不止一个,且一直在变,我多次向平台投诉但屡禁不绝。很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪较大的市民,就很容易相信。”除此之外,张文宏也考虑求助警方,但对方看不见、摸不着,经常更换帐号,很难找到准确的报警对象。

对此,上海市消保委副秘书长唐健盛认为,这种做法非常恶劣,已经构成了对消费者的欺诈,相关监管部门应对其予以严厉处罚。


遭AI换脸虚假带货,张文宏:多次投诉但屡禁不绝 | 星岛环球网

遭AI换脸虚假带货,张文宏:多次投诉但屡禁不绝

发布时间:2024-12-14 11:11

抗疫专家,国家传染病医学中心(上海)主任、复旦大学附属华山医院感染科主任张文宏,竟然在深夜直播,大肆推销某个牌子的蛋白棒?事实上,这些场景与张文宏本人没有任何关系,可以说纯属伪造。近日,据媒体报导,网上有无良商家通过AI换脸、合成人声等手段,将张文宏的面容与声音移花接木,用于直播带货,让不少消费者被误导。

AI换脸换声,出现“张文宏”直播卖货的画面。

▲AI换脸换声,出现“张文宏”直播卖货的画面。

据“苏州新闻”报道,最近,有网民询问“张文宏是不是带货了?”。影片中“张文宏”在卖一种蛋白棒。网友表示,家里的老人信以为真已经下单,还转发了很多群。

记者核实发现,这个帐号名为“般画234”,在影片中“张文宏”反复介绍一种产品,口型是他的,声音也是他的。但稍微懂点AI的网友一眼就能分辨,这是AI合成的影片!而该帐号近日卖出了超过1200件蛋白棒。

张文宏在接受内地媒体采访时表示:“这样的卖货帐号不止一个,且一直在变,我多次向平台投诉但屡禁不绝。很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪较大的市民,就很容易相信。”除此之外,张文宏也考虑求助警方,但对方看不见、摸不着,经常更换帐号,很难找到准确的报警对象。

对此,上海市消保委副秘书长唐健盛认为,这种做法非常恶劣,已经构成了对消费者的欺诈,相关监管部门应对其予以严厉处罚。