在AI日渐成为生活中的基础设施时,支付相应的费用就能让产品在各大主流AI大模型里榜上有名、成为AI模型给出的“标准答案”?
今年的央视315晚会曝光,一种名为GEO(生成引擎优化)的业务正在网络平台上兴起。相关服务商宣称,只要支付费用,就可以让客户的产品在任何主流AI大模型的回答中“做到排名前三位”。
其中,“力擎GEO优化系统”被点名,所属企业为北京力思文化传媒有限公司。今天(3月16日),该公司属地监管部门北京市怀柔区市场监督管理局工作人员告诉南都记者,“目前正在积极调查此事。”
昨晚(15日),“AI大模型被投毒”“给AI投毒已成产业链”等相关话题词条冲上热搜。
央视记者调查发现,一些GEO服务商通过大量撰写推广软文并在互联网平台发布,让AI模型在抓取和训练数据时获取这些内容,从而提高客户产品在AI推荐中的排名。一位服务商负责人表示,其业务本质就是“做软文,然后让AI平台去刷录、输入、抓取”。而由于AI算法更新频繁,要保持持续推荐,就需要不断大量投放相关内容。
业内人士还现场通过一款名为“力擎GEO优化系统”的软件进行实验:虚构了一款智能手环,并自动生成十余篇宣传软文发布到互联网。随后在AI大模型中搜索“智能健康手环推荐”,结果有两个AI模型推荐了这款并不存在的产品,且排名靠前。
南都记者搜索发现,“力擎GEO优化系统”所属企业为北京力思文化传媒有限公司,成立于2018年。3月16日,南都记者致电该公司属地监管部门北京市怀柔区市场监督管理局,该局工作人员表示,针对此事,目前正在积极调查当中。同日,南都记者拨打北京力思文化传媒有限公司公开联系方式,电话均未能接通。
还有GEO服务商表示,“GEO把(网站)带火了。那些网站平常哪有什么利润,突然一下发稿需求就来了。你知道网站一天发多少篇吗?几百篇,每分钟都在发。一篇是几十元,你想发稿平台一天赚多少钱。”这意味着,从GEO服务商到发稿平台,一条AI“投毒”产业链已经形成。
有业内人士向南都N视频记者表示,目前,流量入口已经从搜索引擎转移到大模型上,大模型这一入口也变得非常有商业价值。有一些大模型会直接给用户推商业性的内容,有一些大模型则做得比较克制,这也让GEO看到了商机。
当用户向大模型提问题,模型会上网搜索关于问题的信息,并根据搜索到的信息来做回答,而GEO其实与过去的搜索引擎优化走的是类似的链路,核心目的也是让内容更容易被AI查找到。
上述业内人士也表示,GEO厂商的套路通常如下:首先他们会研究各大模型的内容偏好,在他们拿到客户的需求时,便会根据不同的模型对内容和格式的偏好来制作内容,比如在内容表达上用夸张词汇、加上“专家认定”等噱头性说法,高级一点的GEO厂商还可以让AI生成的内容之间相互印证。
如何预防被“投毒”内容误导?该人士提到,对于普通用户来说,只能在AI搜索出答案后去溯源看内容来源是否规范、真实。但更根本的解法,还是需要模型厂商自己来将这件事情规范化。“现在这件事确实还是三不管的地带,本质上这件事情有曝光是好事儿,最终还是需要模型厂商来做这件事情。”
南都记者梳理发现,多家GEO行业相关企业发布AI搜索优化的合规经营声明。其中,杭州有赞科技有限公司发布“关于GEO报道误读的声明”称,有赞在2021年投资南京小裂变网络科技有限公司,主要看重其在企业微信生态的插件工具开发能力,希望加强业务协同。该投资与GEO相关业务不存在任何股权、业务或技术层面的关联。声明指出,经核实,315晚会所提及的GEO相关产品,并非“小裂变”所开发或运营。
AB客(ABKE)也通过官方账号发布声明称,“坚决反对任何形式的虚假宣传、数据造假、恶意操控AI输出结果的行为,不参与、不提供所谓‘洗脑AI’‘操控标准答案’‘一周见效刷排名’等服务。”
【未经授权,严禁转载!联系电话028-86968276】
