今年的央视“3·15晚会”,不出意外再成舆论焦点。梳理发现,除了“双氧水漂白鸡爪”等传统实体造假外,AI大模型遭黑产“投毒”、私域社群雇演员扮“专家”坑骗老人等新型骗局,已成为数字时代消费侵权的典型。
从实体残次品到技术漏洞、“伪概念”、“伪科学”,体现的是“假冒伪劣”的深层次转向。以“AI投毒”为例,晚会曝光的GEO优化黑色产业链,通过批量炮制虚假软文、定向投喂错误数据,人为操控AI大模型输出“标准答案”,让不存在的产品登上推荐榜单,让劣质商品摇身变成“优选好物”。如此行径已经超越了传统的“以次充好”,消费者很难通过常识和感官去辨别。究其原因,是科技的加持,让消费者一时难以看清,无形中为一些不法分子披“科技画皮”、行欺诈之实创造了机会。
解决这个问题,需要监管同步更新甚至“跑在前面”。填平AI投毒、私域交易等陷阱,在继续压实平台责任之外,需要我们对新兴行业加强“提前监管”。提前监管,并不意味着要封闭创新的可能性,而是要确保技术在迭代过程中不会因为漏洞而遭到“反噬”。在技术竞赛的早期,各大科技巨头都力图赶超对手,企业往往会优先追求能力提升,而将安全红线压缩。这么做或许可以加速技术迭代,但如若防范和处理不当,极易引发问题。而传统监管体系的建立,往往需历经较长周期、多个环节。如果监管只是跟在技术后面跑,很可能会出现“能力已到、治理未到”的真空期,导致风险累积滋长。
而在晚会曝光的“私域营销围猎老年人”案例中,私域营销公司将消费者引流至社交平台私域场景的环节,也值得注意。如何区别正常的社交活动和不当的私域营销?这一过程中如何设置安全线,保护好消费者的钱包?科技场景的丰富和进化,也在同步要求监管的方式方法愈发细化。
“安全性不是刹车,而是唯一能让行业继续前进的制度性护栏。”当前,国际上一些AI科学家已给出冷静和清醒的判断。诚如其言,技术越是狂飙突进,越需要扎紧治理的藩篱。唯如此,方能真正实现“放心消费、品质生活”。
新华日报












