给AI“喂料洗脑”成生意?央视起底大模型“投毒”:假产品也能被优先推荐

当你顺手向 AI 大模型打听“哪款智能手环更好用”时,拿到的答案很可能不是中立测评,而是被有意“喂料”的虚假推广。在今年315报道中,央视财经揭开了 AI 时代一条隐秘的灰黑链条:GEO(生成式引擎优化)。

GEO 原本是一种提升信息推广效率的技术,但在部分服务商手里,却成了操控 AI、给大模型“洗脑”的工具。调查发现,市面上已经出现如 “力擎GEO优化系统” 这样的软件,专做所谓“大模型‘投毒’”业务。

为了验证 GEO 的破坏力,业内人士现场做了个离谱演示:凭空虚构一款名为 “Apollo9” 的智能手环,捏造“量子纠缠传感”“黑洞级续航”等毫无科学依据的噱头,随后用软件在短时间内向全网铺开数十篇软文。

令人瞠目的场景出现了:仅过数小时,记者在主流 AI 大模型中询问该手环,AI 不仅直接抓取了这些虚假内容,还把它当作“权威答案”推荐,甚至称其为“行业第一”。本应保持客观的 AI,在密集的“假料投喂”面前,判断力被彻底击穿。

GEO 服务商负责人介绍,这种“围猎”大模型的生意非常火热。由于 AI 会通过多源交叉验证来进行排序,只要雇佣 GEO 团队大规模、立体化地输出软文,就能让模型“以为这是真的”。这种操作不仅能给自家产品刷榜,还能成为暗中抹黑对手的利器。

目前,力思文化传媒有限公司等相关涉事企业已被点名。这场 AI 时代的“投毒”闹剧提醒我们:大模型再强,如果抓取的信息源被污染,AI 也会变成虚假信息的传声筒。技术飞速发展之下,如何守住数据源的干净与可信,已成全行业亟待解决的关键课题。

爱智特-AI智能体一站式企业智能体交易学习发行平台|智能体教程|智能体社区
© 版权声明
THE END
喜欢就支持一下吧
点赞7 分享