央视揭秘AI带货“李鬼” 仿冒名人误导消费者

在短视频平台或直播平台上购物已成为许多人的新选择。刷视频时，常会看到一些“明星”用流利的乡音推销农产品，甚至进行直播带货。然而，这些所谓的“明星”很可能是仿冒的。近段时间，网络上一些商家利用AI技术仿冒带货，有的借助名人效应，仿冒专家学者、奥运冠军、影视明星；也有的借助产地效应，冒充知名品牌。消费者和粉丝难以辨别真伪，慕名下单，却不知道自己被蒙骗了。这些游走在灰色地带的“AI李鬼”，正考验着我们的数字治理能力。

近期，在一些手机平台的网络直播间，打着樟树港辣椒旗号的种子成为主播推销的重点。直播间销售人气旺盛，不时有人咨询或下单购买。湖南岳阳的樟树港辣椒属国家地理标志农产品，有400多年的种植历史，因量少质优，特级产品可卖到300元一斤。然而，记者在直播间看到的画面中展示的辣椒成串垂挂，产量奇高。当记者询问辣椒种子是否保真，种出来有没有这么大时，主播纷纷表示所见即所得。奇怪的是，背景视频中出现了农户站在快要没过膝盖的深水中采摘辣椒的场景，这显然不符合常理，类似画面在其他直播间也有出现。当记者追问这些场景是不是AI生成的时，主播并没有正面回应。

为了解情况，记者找到了相关技术专家。奇安信集团副总裁刘浩表示，画面中的女士拿了辣椒后退，甚至她整个腿部下半身和辣椒丛融为一体，这是典型的AI生成视频中容易出现的纰漏。物理规律包括空间距离、比例、阻挡、遮挡、光线等，但大模型还不具备理解这些规律的能力。技术专家还指出，像直播间无人机喷洒农药的片段，水雾的形态呈现规则的三角形，而不是自然的雾化状态，这些都是技术上的漏洞。

随后，记者来到湖南岳阳樟树港辣椒的产地进一步求证。当地高级农艺师黄源表示，樟树港辣椒植株矮小，而视频中的辣椒植株有一人多高，花和叶片都不是辣椒的特征。此外，视频中的辣椒产量每亩可能超过6000斤，而实际樟树港辣椒的产量每亩只有两到三千斤。

法律专家指出，利用AI制作不符合现实或不存在的商品内容，甚至冒用品牌进行牟利，涉嫌民事侵权甚至刑事犯罪。中国法学会消费者权益保护法研究会副秘书长陈音江表示，这种行为涉嫌侵犯消费者的知情权和选择权。经营者在推荐商品和服务信息时要做到真实、准确、全面。如果故意通过AI视频或图片欺骗消费者，可能会构成欺诈。中国社会科学院法学研究所研究员支振锋认为，这种行为还可能构成对市场秩序的破坏，对于原产地的正牌樟树港辣椒来说，构成了民事上的侵权，情节严重的话还可能构成刑法上的犯罪。销售种子的行为还可能违反《中华人民共和国种子法》的规定。

事实上，除了利用AI技术仿冒知名产品和驰名品牌带货，不法商家还利用AI技术仿冒名人非法牟利，一些专家学者、奥运冠军、影视明星等公众人物成为“被代言”的对象。例如，北京大学国家发展研究院李玲教授的采访视频被篡改为一段虚假的推销视频在网络上传播。李玲教授公开发表声明称，网上出现了大量假冒她推销医药书籍和治疗手段的虚假视频，大多是人工智能AI合成，她从未在任何平台推销过医药书籍和医疗产品，提醒大家不要上当受骗。

然而，普通大众很难分辨传播内容是否是AI仿冒的，不少人因此上当受骗。记者在销售评论区看到，有不少购买者对产品质量提出质疑，有的提出产品并非公众人物本人带货，有的甚至直呼上当受骗。

今年9月1日，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》正式施行，明确所有AI生成的文字、图片、视频等内容都要“亮明身份”，需要添加显式标识和隐式标识。平台在服务提供者的内容上架或上线时要进行审核，核验生成合成内容标识，对未标识或疑似生成内容要添加风险提示，力求在传播端阻断虚假信息的扩散。尽管各大网络平台普遍升级AI内容识别系统，要求对AI生成作品添加标注，但仍有一些人采用多种手段绕过审核。

随着AI技术的迅猛发展和生成式人工智能的快速迭代，各种纷杂的人工智能生成信息让人眼花缭乱，有时难辨真假，这也给监管部门和平台治理提出了新的挑战。技术上的迭代升级也让这些仿冒内容的防范难度更大。过去需要一定技术门槛和成本投入的深度伪造，在AI大模型的助力下，不再需要长时间的深度学习和数据训练，就能在几分钟内生成逼真的仿冒内容。

平台应当扛起责任，进一步升级AI识别技术，用数字水印、区块链存证等手段增强鉴伪追溯能力，避免AI仿冒虚假信息进入传播平台。法律法规也需细化，进一步明晰标识规范、回溯机制、追责机制。技术开发者和使用者更应该守住“科技向善”的底线，不把商业利益凌驾于社会责任之上。AI仿冒带货不仅侵犯了被仿冒人士和品牌的权利，也存在欺诈嫌疑，更触动了数字社会赖以存续的信任根基。作为消费者，我们自己当然要尽可能擦亮眼睛去甄别，对所谓“倾情奉献”的“明星代言”保持理性判断，避免掉进消费陷阱。但是靠普通消费者的识别能力来防伪是远远不够的，更需要平台和相关部门扛起把关的责任，通过技术手段和治理能力的提升，用系统性力量，守好“真”的边界。唯有全社会形成共同抵制AI欺诈的合力，才能以“科技”之笔，绘就“向善”未来。