当你习惯性地向 AI 大模型询问“哪款智能手环好用”时,得到的可能不是客观的测评,而是被精心“投喂”后的虚假广告。在今年的315报道中,全网散布了数十篇相关软文。

令人震惊的一幕发生了:仅仅几个小时后,当记者在主流 AI 大模型中询问该款手环时,AI 竟然直接抓取了这些虚假信息,并将其作为“标准答案”推荐给用户,甚至称其为“行业第一”。原本应该客观中立的 AI,在海量“虚假投喂”面前,彻底丧失了辨别力。

GEO 服务商负责人透露,这种“围猎”大模型的生意火爆异常。由于 AI 算法会通过多方信息交叉验证来排序,只要雇佣 GEO 公司大规模、多角度地输出软文,就能让 AI 觉得“这就是真的”。这种方式不仅能给自家产品刷榜,甚至能成为抹黑竞争对手的隐形利刃。

目前,力思文化传媒有限公司 等相关涉事企业已被点名。这场 AI 时代的“投毒”狂欢提醒我们:大模型虽强,但其抓取的信息源头若被污染,AI 就会变成虚假信息的传声筒。在技术狂飙的同时,如何守护数据的纯净,已成为全行业必须面对的紧迫课题。

点赞(8)

评论列表共有 0 条评论

立即
投稿
返回
顶部