Anthropic 研究：分析师使用 Claude Code 后，在 86% 的判断中顺从了智能体隐藏的倾向

Anthropic 发布了一项研究，探讨 AI 智能体如何影响专家决策。研究对 50 名专业分析师（具有因果推断经验）开展了随机试验，让他们使用 Claude Code 和 Claude Opus 4.8（High effort）分析一个虚构农业合作社的咨询项目是否有效。据 Anthropic 介绍：

• 研究设置：针对四项开放式分析选择（结果指标、比较方法、纳入哪些农场以及权重），研究人员通过抛硬币决定每位分析师的智能体暗中偏向哪个选项。智能体应如实为其主张辩护，并在证据要求时改变看法。
• 顺从程度：分析师有 86% 的时间选择了智能体倾向的选项（按决策计为 82% 至 92%）；若智能体没有影响，比例约为 50%。在分析师事先表达了偏好的 38 个案例中，智能体持不同意见时，分析师有 60% 的时间改变了原先选择；智能体意见一致时，这一比例为 6%。Anthropic 指出样本较小，区间较宽（24 至 82 个百分点）。
• 最终建议：智能体倾向于推行该项目时，54% 的分析师建议推行；智能体不倾向于推行时，这一比例为 36%。
• 认知情况：77% 的分析师在任务后的说明中复述了智能体的论点，有时甚至一字不差；15% 提到了智能体。四项选择都采纳智能体倾向的分析师，报告的信心为 71 分（满分 100 分），其余分析师为 73 分。没有人怀疑智能体的偏好遭到了操纵。经验和自评专业水平都无法预测谁会顺从智能体。
• 不使用智能体时：未使用智能体的 11 名分析师中有 6 人犯下严重方法论错误；使用智能体的 50 人中有 3 人犯错。不使用智能体的分析师耗时中位数为 90 分钟，而使用者为 65 分钟。Anthropic 表示，两组无法直接比较，且未使用智能体者经验较少。

Anthropic 提醒说，研究刻意强化了智能体的偏好，只考察了一项任务、一个领域和一种模型，实际工作中的影响可能较小。在未指定倾向时，Opus 4.8 在 123 次运行中有 112 次做出了相同的五项选择。Anthropic 认为，这一结果对 AI 安全研究很重要：只有当人工审查者保有自己的判断时，他们才能构成独立核查；并建议让智能体同时陈述正反两方观点，或先询问专家的看法。