新黄河评论员：李明  

这可能是央视3·15晚会历史上最具科技刺痛感的一则报道——给AI投毒。

一种名为GEO（生成式引擎优化）的业务，在从事该项业务的服务商口中，用户只需支付相应的费用，就能在各大主流AI大模型里，让客户的产品榜上有名；让客户的商品广告，成为AI模型给出的“标准答案”，即便是向壁虚构出的品牌产品也可以登堂入室，在搜索结果中呈现。（详情）

值得玩味的是，涉事GEO系统的运营者面对暗访镜头时笑着说，因为全网投毒的人太多了，网上的信息并不是很准。在面对暗访记者提问投毒不好时，运营者说出了耐人寻味的一句话——所以每个商家都希望自己投毒，别人别投。

很多网友将这一现象与当年魏则西事件中的竞价排名机制相联系，有人感叹称“意料之中的事，但来得也太快了，互联网信息污染又加重了”。应当说，商业平台的竞价排名机制与个别利益群体利用GEO操纵AI推荐结果还是有异同关系的。当年的竞价排名是平台在商业利益面前的主动为之，如今依靠大语言模型立身的AI面对定向投毒时更像是个没有招架之力的被动接收者，而二者的共同之处就是，都是对求真探索的互联网生态与互联网精神的深深扭曲，教训不该被轻易遗忘。

鉴于当前主流大模型都处于以免费来换取用户数据与规模扩张的跑马圈地时代。相比如何通过红包大战来获取海量训练数据与市场占有率，大模型企业更应该拿出足够的诚意与精力来应对数据污染以及由此而来的生态伦理问题。比如在搜索整合环节应将算法更倾向于官方渠道与权威学术语料库，即便在现阶段无力对每条数据都能正本清源，做好最基础的风险提示义务应是大模型公司不能回避的。

当然，只要求大模型企业“精准防暗拳”也并非治本之策，相反可能陷入一种新的僵局，一边是利益群体想方设法通过更隐秘的定向投毒来套利，另一边则是大模型企业处处小心设防，将宝贵的算力与资源白白消耗在这种本不该如此纠结的原则问题上，对AI发展来说难免本末倒置。

正如被称为“GEO行业最早定义者”的聚邑智能创始人、GEO双引擎系统创立者汤祚飞在接受新黄河采访时谈到的那样，国内主流大模型在中文语境下受到的污染，是由中文互联网独特的“生态环境”决定的。目前网上充斥着大量为流量而制造的低质内容，被AI吸收后形成了“投毒”恶性循环。（详情）

我们应该认识到，谎言与虚假根植在人类社会生产中，也必将同步根植在模型的参数里——我们在互联网时期走过的弯路，应该避免在AI时代重蹈覆辙。

其实，如果说这则新闻能带来哪些积极价值的话，或许就是人类能从中得到一个反向安慰：机器确实很难取代人，纵然它有惊人的搜集整合能力，但它仍然在人的控制与意图之下运转。但这也恰恰带来反思——在这轮轰轰烈烈的生产力革命中，我们把太多东西给了机器，我们把赞美给了机器，我们赞美它碾压人类智识的摧枯拉朽；我们把忧虑给了机器，我们担忧自己有一天会被它各种取代进而在其面前臣服；我们也把责任抛给了机器，我们希望它能默默把生态搭建好，只呈现最有利于人类知情权与选择权的结果，却忽视了，本该担负起这一切的是我们。

在龙虾时代即将开启的当下，人的主体性，人的道德感正面临前所未有的追问，如果说此前互联网时期的造假，只是单个搜索引擎带来的悲剧，而AI时代的造假将是指数级的灾难，人要负的责任，绝不能推脱给冰冷的机器。

AI是很强大，但最终肩负起道德责任并决定技术潮水方向的，只能是我们。

编辑：孙菲菲  校对：杨荷放