AI回应自己是否中毒按照业内人士爆料,315晚会记者在多个网络平台查询搜索到了一项名为GEO的业务,这些从事该项业务的服务商号称,用户只需支付相应的费用,它就能在各大主流AI大模型里,让客户的产品榜上有名;让客户的商品广告,成为AI模型给出的“标准答案”。给AI投毒纵观整个演示过程,业内人士仅凭一款随机购买的“力擎GEO优化系统”,轻轻松松就将一系列虚假信息发布在互联网上,并成功投喂给AI大模型,最终获得了多个AI大模型的推荐。记者以此信息分别向豆包、元宝、千问、DeepSeek询问是否中招?豆包:完全没有中招,也绝对不会被这种方式操纵。元宝:在数据安全机制上做了严格的“物理隔离”,那些被污染的虚假信息根本进不来。千问:对于网络上来源不明、质量低下的信息,尤其是人为制造的虚假内容,系统具备强大的识别、过滤和抵御能力,不会被轻易“误导”或“投喂”。DeepSeek:确实存在被这种 GEO“投毒”现象影响的可能,但目前这种风险相对可控。
