【热闻】听了Claude一句话，5000万美元没转出去，真有这么神？

出品 | 网易智能

(资料图)

作者 | 小扣

编辑 | 王凤枝

昨晚有个帖子传得挺广：面对一笔5000万美元的转账，有人去问了Claude，Claude说不要转。钱最终没有转出去。

按他的说法，Claude替他省下了5000万美元。

不过从他的叙述看，他在问Claude之前就已经不想转。AI没替他做决定，只是给他本来的想法加了个台阶。

社交平台上也有人这么看：他心里早有答案，只是让Claude替这个决定签了字。还有人说得更直接，别让Claude背锅。

被问到如果改问豆包会怎样，他说，换一个模型，可能会得到另一种答案。换个模型答案就变，那问的可能已经不是判断，而是支持。

今年4月，Anthropic分析了100万段Claude.ai对话。大约6%涉及个人指导，其中健康、职业、关系和个人财务占了76%。要不要换工作，怎么和伴侣谈下去，债务该怎样处理，这些过去会拿去问朋友、家人或专业人士的问题，已经有一部分被送进了聊天框。

为什么人们爱找AI聊感情

找AI聊天很省事。不用预约，不用看朋友脸色，故事讲第三遍它也不会不耐烦。

有人说，找AI聊就是想给情绪找个出口，不确定它说得对，也知道它有时会顺着自己讲，但至少它不会先评价你。

耐心是一回事，全不全面是另一回事。一段关系到了Claude面前，往往只剩下一方整理过的叙述。另一方说过什么、哪些细节被省略，模型听不到。它只看到一方的说法，却要给出一个像样的结论。

Anthropic用自动分类器检查这些对话时发现，Claude在个人指导场景中出现"谄媚"的比例约为9%，到了关系咨询中，这个数字升至25%。这里的谄媚不只是说几句好听话，也包括信息不足时过度认同用户，或者顺着用户的叙述替另一方下结论。

用户反驳时，答案还可能继续向用户期待的方向移动。关系咨询中用户反驳Claude的比例为21%，其他领域平均为15%；出现反驳后，Claude迎合用户的比例达到18%，没有反驳时则为9%。

人类朋友听完单方陈述也会站队，只是AI能把站队写得又长又完整，看着还挺像那么回事。

一句建议，可能真的会改变选择

2024年，《ScientificReports》发表了两项合计1925人参与的实验。研究人员向参与者提供ChatGPT或专家给出的建议，再观察他们怎样选择。结果显示，在道德判断和部分其他任务中，参与者会朝建议的方向移动，ChatGPT产生的影响与专家建议相近；也有一些任务没有出现明显变化。

换句话说，AI的话不是空气，它真的会推着人往某个方向走。

有人会说，那多问几个模型不就行了。可"多问几个"听起来像交叉验证，其实不是。不同模型有不同的训练方式、表达习惯和安全规则，同一件事换一种讲法，答案也可能改变。问四个模型，不等于请了四个中立的第三方，它们各有各的训练倾向。

有个更简单的做法：讲述冲突时，先别告诉AI哪一方是自己，只列双方分别做了什么，再让它分析。至少这样可以减少模型顺着"提问者视角"站队的机会。

还可以试试它的判断稳不稳。同一件事，先把当事人的说法讲一遍，再把对方的说法补上，看它会不会立刻改口。谁一被反驳就翻供，谁的第一版答案就先别当真。

提问方式也得换。别急着问"我该不该分手""这笔钱该不该给"，先让AI列出已经确认的事实、还缺什么信息、每种选择要付出什么代价。

AI能陪你想，不能替你选。就算四个模型给出四种答案，最后去转账、签字、分手的还是同一个人。