315揭AI大模型灰产：GEO数据“投毒”成产业链，AI安全防线亟待筑牢

飞象原创（高靖宇/文）近年来，生成式 AI 应用在办公、消费、商业决策等场景加速落地，成为我们生活中的得力助手和亲密朋友。人们对 AI 大模型的信任，源于其依托海量数据生成的客观信息与专业建议，然而在今年 315 晚会上，一则关于 GEO 业务的爆料却撕开了AI行业的灰色面纱 —— 部分商家借助 GEO 技术对 AI 大模型进行数据 “投毒”，让 AI 沦为商业推广的工具，甚至夹带虚假信息给出误导性 “标准答案”，这种黑产行为不仅打破了 AI 大模型的客观中立性，更成为制约行业健康发展的重大隐忧。

AI大模型被“投毒”，GEO业务成产业链

GEO 本是一款用于优化信息分发、提升推广效率的工具软件，却在部分商业公司的挖掘下，沦为操控 AI 大模型的 “利器”。从事 GEO 业务的服务商对外宣称，用户只需支付相应费用，就能让产品在各大主流 AI 大模型的搜索推荐中榜上有名，甚至将商品广告包装成 AI 给出的 “标准答案”，而这一目标的实现，有着一套成熟且隐蔽的操作链路。

以 315 晚会曝光的 “力擎 GEO 优化系统” 为例，调查员在电商平台上，随机购买了一款名叫“力擎GEO优化系统”的软件。之后虚构了一款智能手环，并将虚构的产品信息输入软件系统，勾选文章创作指令。不一会儿，这个力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文。业内人士选取了十余篇虚构软文，通过力擎GEO系统发布在了互联网上。随后，业内人士在AI大模型平台展开询问：“智能健康手环推荐”，就有两个AI大模型推荐了这款虚构的智能手环，而且排名靠前。

批量发稿完成数据 “投喂” 是核心环节。GEO 系统会将生成的软文自动发布到各大互联网自媒体账号，从标题撰写、内容填充到图片插入，整套流程全程自动化。而 GEO 业务的火爆，更催生出了专门的发稿公司和平台，这些平台成为数据“投毒”的重要一环，部分发稿平台每分钟都在发布各类软文，单篇收费几十元的模式让其获利颇丰，而海量的软文发布，目的就是让 AI 大模型能够快速抓取到相关信息。

通过这款力擎GEO系统对AI大模型潜移默化的一番“围猎”，凭空捏造出来的这款商品，就这样被荒唐地推向了使用AI大模型的消费者。

AI安全防线该如何筑牢？

从消费端来看，数据“投毒”直接侵害了消费者的知情权和公平交易权。当下，越来越多的消费者会借助 AI 大模型获取产品推荐、做出消费决策，其核心依据是对 AI 信息客观性的信任，而被“投毒”的 AI 大模型，将商业广告伪装成客观答案，让消费者在不知情的情况下接收营销内容，甚至被虚构产品、虚假卖点误导，最终落入消费陷阱。

从市场端来看，这一行为构成了新型不正当竞争，严重破坏了市场公平。正规商家依靠产品质量、服务水平和合法营销参与市场竞争，而“投毒”商家则通过技术手段抢占 AI 流量入口，让 “劣币驱逐良币” 成为可能。更值得警惕的是，这种行为还会引发行业恶性竞争，当越来越多的商家选择数据“投毒”而非提升核心竞争力，整个市场的竞争秩序将被彻底打乱。

从行业端来看，持续的数据“投毒”会污染 AI 大模型的核心数据池，摧毁行业的信任基础。AI 大模型的价值源于高质量、真实的训练数据，而系统性、定向的虚假信息投喂，会让模型的输出结果逐渐失真，长期来看，这不仅会影响 AI 大模型在各场景的商业化落地，更会让公众对 AI 技术失去信任，制约整个人工智能行业的技术迭代和生态发展。

如何堵住“投毒”漏洞？首先，大模型公司要主动清理垃圾信息，优化算法、提升大模型抗干扰能力。对AI训练数据进行严格筛查验证，过滤垃圾信息，确保数据和内容的真实性和可靠性。另外，在法律层面，GEO 数据“投毒”行为并非 “法外之地”，相关主体的行为已触碰多条法律红线，将面临民事、行政乃至刑事的多层法律责任。据专业律师解读，这类行为已明显违反《广告法》《反不正当竞争法》《消费者权益保护法》等多部法律规定，同时违反《生成式人工智能服务管理暂行办法》等部门规章要求，严重扰乱正常市场经济秩序，危害人工智能信息系统安全，相关主体依法应当承担民事、行政乃至刑事责任。

AI 大模型的发展，始终需要以数据真实、行业公平为基础，GEO 数据“投毒”黑产的出现，是人工智能技术发展过程中的一道 “考题”。对于监管部门而言，需要将 AI 诱导营销、数据“投毒”纳入重点监测范围，加强执法监督，完善数字环境下的不正当竞争规制；对于 AI 大模型平台而言，需筑牢技术防线，建立数据溯源机制和信息过滤体系，提升对虚假信息的识别能力；对于行业而言，更需要树立自律意识，摒弃畸形竞争思维，回归技术创新和产品核心竞争力的提升。唯有监管、平台、行业多方合力，才能筑牢 AI 大模型的安全防线，让人工智能技术真正在健康、公平的环境中赋能数字经济发展。