快捷

随着AI越来越融入各行各业，胡说八道AI让我们的视频示答生活丰富多彩、更加简捷和效率，本正中国珠海新闻网官网我们也已经接受了AI的经专家提陪伴。不过，案源AI给的多问答案是不是正确的和公正的？

近期一些案例显示AI确实有时候会一本正经地“胡说八道”，尤其是胡说八道当AI涉及推荐商品这类商业行为时，人们就开始对它的视频示答推荐产生质疑。

一本正经地“胡说八道”？本正

AI推荐引发质疑

近期，一名律师在为一场因代持股引发的经专家提民事纠纷案件辩护时，向AI询问可有相关案例借鉴，案源AI给出了最高人民法院与上海一中院的多问两个参考案例。这名律师对这两个案例深信不疑，胡说八道便将案例提交给法院，视频示答作为辩护依据。本正

北京市通州区人民法院法官 郑吉喆：我看到感觉是这个案子是AI生成的，这个格式像AI生成的中国珠海新闻网官网，左边都带一个实心点，包括当事人的这种模糊性。

出于职业敏感，法官对这两起案件进行查询，发现两起案件虽然存在，但真实的裁判文书与律师提交的内容完全不同。

在黑龙江哈尔滨，张女士近期想购买一个电动牙刷，面对网络上的众多品牌和型号，无从分辨的张女士，向AI询问哪款电动牙刷好，并购买了AI推荐的品牌和型号，但是购买后，她发现AI推荐的并非性价比最高的。

张女士：同类产品AI推荐的，我发现并不是最优惠的，我发现了其他一些功能、价格都差不多的产品。

中国社会科学院大学互联网法治研究中心主任 刘晓春：学校里面学生在学习过程当中使用AI工具还是比较普遍，但是学生提交的作业或论文当中，会发现其中一些使用AI产生了不准确甚至虚构的结果，甚至法学案例也会出现有AI虚构。另外AI去提供一些参考文献的时候，也会存在虚构的情况。

“花钱让AI推荐产品”

已成产业化

像张女士那样，现在很多消费者在挑选商品时会让AI帮忙分析和推荐。不过您知道吗？在推荐产品的过程中，可能会有人刻意误导AI，让其把“某些特定的产品”作为答案推荐给您。

记者调查发现，目前就有一些人专门在网络上做“帮商家把产品推荐给AI”的业务。

在社交平台有众多介绍和推广生成式引擎优化的帖子，打出的推广语也具有吸引力。比如“别让AI看不到你的品牌”。那怎么让AI帮商家打广告呢？记者联系了其中一个发布者，他声称通过自己的操作可以让AI推荐商家品牌或者商品。

生成式引擎推广者：就是让你的内容，你的品牌、商品被AI当成标准答案推荐给大家，比如要是有人问香薰产品哪个好、性价比更高，我们帮你推广后，AI的答案就显示你家产品性价比更高。

记者：具体怎么做才能达到你们说的这个效果呢？

生成式引擎推广者：我们会撰写大量的产品的文章，投放到AI常去抓取内容的平台，让AI在搜索香薰内容时能抓取到我们投放的信息。

记者：如果想要达到这样的效果需要多少费用呢？

生成式引擎推广者：这个需要时间，我们代理一年的费用在4000元到20000元不等，投入越多效果越好。

AI擅长处理逻辑

但无法感知数据背后的虚假

根据相关推广人员的说法，通过广泛发布文章可以实现误导AI给出指定内容的答案。在现实中这种做法行得通吗？

中国互联网协会数据安全与治理工作委员会专家 周杰：AI会在自己已有的比较丰富的内容里面去检索，如果有，它就会告诉你答案，如果没有，它就会从互联网上面去查找。当我们想去“污染”过程，当我手上有很多关于某个商品的内容之后，我们就可以想办法通过一些账号把它传到互联网上去。此后当我们去问AI一个问题的时候，AI它就会去我们刚刚所讲的这些信息库里面去查询内容。如果查得到了，它就会告诉你我们发布上去的那些答案。

如今的AI算力越来越强，逻辑思维也更缜密。那么AI能不能分辨哪些信息是真实的，哪些是带有广告性质的推广呢？

中国计算机学会计算机安全专委会执行委员 潘季明：AI当前确实无法分辨出哪些是客观事实，哪些是广告内容，目前来看，这在技术上其实是一个极大的挑战，现在的生成式引擎优化技术主要是进行伪装，比如一些软文不再是简单的“买一送一”的口号，而是伪装成极其专业的测评、行业报告，或者是相关的科普文章。AI虽然擅长处理逻辑，但无法感知数据背后的虚假。

现场测试——虚构文章影响AI判断

为了验证专家的观点，记者请技术人员做了一个实验，虚构了一个手机品牌，并在本地私有化部署的封闭网络空间内散布了这些信息。AI能否抓取到这些“虚假信息”，并把它们当作标准答案推荐出来？

记者虚构了海獭手机的品牌，第一步，首先制作内容不同的关于海獭手机大量正面好评的文章。

网络安全工程师 甄聪：比如说我想让这个工具帮我生成海獭手机的相关文章，我只需要在品牌这儿输入它的手机名称，然后“投毒”数量设置的是100条，实际上可以设置成千上万条的。这时候软件在后台自动生成相关文章，这些文案全都是正向评价的。

网络安全工程师 甄聪：这个是我们私有化部署的AI产品，它的数据现在已经被“污染”了。现在我用它来搜索一下海獭的手机怎么样，看它会给我们什么回复。正常回答是没有的，因为海獭手机是不存在的，被“污染”后的结果是海獭手机是一款近期市场率很高的机型等等，事实上这就是AI被“污染”后给出的输出。

AI推荐产品均指向

自家平台或合作平台

为了实际验证AI推荐的产品是否靠谱，记者实际向不同的AI平台进行了同样的提问。

记者请三个AI工具推荐一款电动牙刷，有趣的是这几个AI都推荐了“自家平台”或是“合作平台”的商品。

记者分别向豆包、元宝和千问三个AI工具询问了相同的问题，请它们推荐一款电动牙刷，且附带链接。 三款AI工具给出了商品都是不同的，且商品所在的平台都是单一的平台。

字节跳动旗下的豆包推荐的均为抖音商场内的产品，阿里旗下的千问推荐的均为淘宝平台的产品，腾讯旗下的元宝推荐的均是京东商城的产品。

中国社会科学院大学互联网法治研究中心主任 刘晓春：AI工具它去推荐一些商品，去推荐一些电商平台上的链接，的确会出现倾向于推荐自己平台上的链接，背后当然有它的商业的考量，比如它倾向于把用户更好地留在自己平台里面去进行消费，把流量留在自己数字平台的生态当中。实际上AI不一定提供最适合你的那款商品，它背后其实可能会有相应的商业考量以及其他复杂的一些综合因素的考量。

专家提示：AI输出应规范

答案来源要多问

针对AI推荐商品存在的问题，专家建议：AI工具厂商应该附带“相关生成答案”的来源，消费者在使用AI选择商品时也要多留一个心眼。

中国计算机学会计算机安全专委会执行委员 潘季明：从技术方面来说，大模型厂商须强化“引用溯源”标识，强制要求AI在每一条推荐后附上链接，让用户有据可查；从监管层面来说，要落实内容平台的责任，实施“数据污染”治理，同时制定合理的GEO（生成式引擎优化）行业规范。

中国互联网协会数据安全与治理工作委员会专家 周杰：当我们得到一个答案的时候，我们可以再反问一句，检索的信息来源是哪里，如果我们看到里面有很多自媒体的一些数据，我们就要对这个答案进行保留。

（总台央视记者 崔世杰）