央视揭秘AI带货“李鬼” 仿冒名人误导消费者

在短视频平台或直播平台上购物已成为许多人的新选择。刷视频时，常会看到一些“明星”用流利的乡音推销农产品，甚至进行直播带货。然而，这些所谓的“明星”很可能是仿冒的。近段时间，网络上一些商家利用AI技术仿冒带货，有的借助名人效应，仿冒专家学者、奥运冠军、影视明星；也有的借助产地效应，冒充知名品牌。消费者和粉丝难以辨别真伪，慕名下单，却不知道自己被蒙骗了。这些游走在灰色地带的“AI李鬼”，正考验着我们的数字治理能力。

近期，在一些手机平台的网络直播间，打着樟树港辣椒旗号的种子成为主播推销的重点。直播间销售人气旺盛，不时有人咨询或下单购买。湖南岳阳的樟树港辣椒属国家地理标志农产品，有400多年的种植历史，因量少质优，特级产品可卖到300元一斤。然而，记者在直播间看到的画面中展示的辣椒成串垂挂，产量奇高。当记者询问辣椒种子是否保真，种出来有没有这么大时，主播纷纷表示所见即所得。奇怪的是，背景视频中出现了农户站在快要没过膝盖的深水中采摘辣椒的场景，这显然不符合常理，类似画面在其他直播间也有出现。当记者追问这些场景是不是AI生成的时，主播并没有正面回应。

为了解情况，记者找到了相关技术专家。奇安信集团副总裁刘浩表示，画面中的女士拿了辣椒后退，甚至她整个腿部下半身和辣椒丛融为一体，这是典型的AI生成视频中容易出现的纰漏。物理规律包括空间距离、比例、阻挡、遮挡、光线等，但大模型还不具备理解这些规律的能力。技术专家还指出，像直播间无人机喷洒农药的片段，水雾的形态呈现规则的三角形，而不是自然的雾化状态，这些都是技术上的漏洞。

随后，记者来到湖南岳阳樟树港辣椒的产地进一步求证。当地高级农艺师黄源表示，樟树港辣椒植株矮小，而视频中的辣椒植株有一人多高，花和叶片都不是辣椒的特征。此外，视频中的辣椒产量每亩可能超过6000斤，而实际樟树港辣椒的产量每亩只有两到三千斤。