彭博报道,OpenAI、Anthropic 以及 Google 开始合作,试图遏制中国竞争对手从美国先进 AI 模型中提取结果,以在全球AI竞赛中获取优势。这一罕见合作凸显出美国 AI 企业对相关问题的重视程度。这些公司担忧一些用户,尤其是中国的用户,正开发其产品的仿制版本,可能通过更低价格争夺客户,同时带来国家安全风险。美国官员预计未经授权的蒸馏行为每年给硅谷实验室造成数十亿美元利润损失。
AI 工具的用户通常可分为两类:其一将 AI 视为功能强大但会犯错的服务,需要人类仔细监督和审查以发现其中的推理或事实错误;其二将 AI 视为无所不知——此类用户被称为是“认知投降派”。宾夕法尼亚大学沃顿商学院的研究人员对 1372 名参与者和逾 9500 次测试后发现,高达 73.2% 的情况下参与者愿意接受 AI 错误的推理,只有 19.7% 的情况下会推翻推理。研究人员表示这一结果“表明人很容易将 AI 生成的输出融入到决策过程中,且通常几乎没有任何抵触或怀疑”,“流畅、自信的输出会被视为有认知权威性,从而降低审查门槛,减弱了通常会促使人们进行深思熟虑的元认知信号”。他们发现,倾向于将 AI 视为权威的人更容易被 AI 提供的错误答案误导。