Google 的 AI 搜索非常容易被人为操纵。因为以前的搜索结果是第一页给你 10 个链接然后让用户判断,现在的 AI 搜索是给你一个答案,而答案的来源可能只有一个。BBC 科技记者通过个人网站上一篇热狗文章演示了这一操纵。专家表示此类操纵正大规模系统性地发生。操纵 AI 搜索向用户提供偏见或不准确信息可能会带来严重后果。这并非一个无关紧要的问题。在全球范围内,逾 10 亿人日常使用 AI 聊天机器人,每月有 25 亿人浏览 Google 的 AI overviews。如果你能操控此类工具就能获得巨大的权力。Google 等公司也注意到了该问题。, Google 上周更新了其政策,将试图操纵 AI 回复的行为视为违反公司规定。Google 威胁对涉嫌操纵行为的公司或网站从搜索结果中移除或降低排名。
在周二举行的 Google I/O 开发者大会上,Google 宣布对其有 25 年历史的标志性搜索框进行重新设计,将其转变成 AI 驱动的“智能搜索框”——基本上就是聊天机器人的对话框,其功能从执行搜索变为询问 Google(Ask Google)。Google 声称在搜索服务集成 AI 模式之后,月活跃用户数突破了 10 亿,搜索量创下了历史新高,所以它现在准备进一步把 AI 模式变成搜索的默认功能。类似 AI 聊天机器人,智能搜索框可以将文本、图像、文件、视频或 Chrome 标签页作为输入进行搜索。Google 还将提供智能体数字助手帮助用户自动搜索,寻找公寓的用户无需打开 Zillow 等网站即可收到新房源的通知。Google 此举再次引发了广泛批评,基于大模型的 AI 功能并没有将精确性视为核心,因此未来的搜索质量会进一步下降,进一步模糊广告和搜索结果。