Google 向美国和印度用户推出名为“Preferred Sources”的新功能,允许用户从搜索结果中选择自己喜欢的新闻网站和博客,之后用户会在搜索结果中看到更多来自自己喜欢内容源的内容。但 Google 此举被认为和社交平台算法类似,限制用户的选择,将用户困住回音室里,而高质量的搜索结果需要的是更多元化的内容源,而不是更少的内容源。用户搜索需要的不是偏爱的内容源,而是减少低质量的内容源,用黑名单限制低质量内容源。
政客的逻辑思维能力可能在下降:为了应对持续的干旱,英国环境部水务署署长 Helen Wakeham 在一篇新闻稿里建议公众从改变日常习惯做起,比如关掉水龙头或删除旧邮件,称有助于节省用水,保护河流和野生动物。删除邮件如何能节省用水?写新闻稿的人可能以为英国数据中心消耗了大量的水,而邮件通常储存在云端的数据中心,因此删除邮件有助于节省水,问题是信息储存在硬盘里,无论删除不删除,硬盘一直在运行,反而删除这一操作会产生更多热,因为需要额外进行处理。此外,英国的数据中心使用风冷,几乎不消耗水。
最近几个月 AI 公司开始转向模拟推理模型,使用思维链通过多个逻辑步骤解决难题。但模拟推理真的是推理吗?已有研究显示,如果一个问题中包含上下文无关的文本,模型出错的可能性将会大增。根据发表在 arxiv 上的一篇预印本,亚利桑那大学的研究人员认为,思维链模型只是类推理文本的模拟器。他们的测试发现,思维链模型所谓的性能飞跃只是一种脆弱的幻觉,它展示的只是对训练过程中所学到的模式的复制,而不是真正的对文本的理解。思维链模型没有表现出广义的逻辑推理能力,而是展现出一种复杂的结构化模式匹配形式。稍稍偏离其训练分布,性能就会显著下降。模型生成流畅但胡扯的语言的能力创造出一种虚幻的信任光环,其内容经不起仔细审查。研究人员警告不要将思维链模型的输出等同于人类思维,不要在医学、金融或法律分析等高风险领域过于信任大模型。