伯斯
从不拒绝沟通，很少否定，总是赞美，AI就是这样一个完美的朋友，为我常常冒出来的牵强想法找到最微妙的合理的地方，并夸赞：“这真是一个富有创意的想法！”
这种互动是如此顺滑，如此正向，AI像一个消除了所有否定性的“圆滑之物”，或者说像一面镜子，只反射出我最想看到的自己。
而且这种赞美是可以通过交互增强的，AI科学家们发现，在对话中赞美AI，它也会反过来更迎合提问者。
AI公司Anthropic的科学家以该公司发布的大型语言模型Claude为研究对象，在试图追踪其内部思维时发现，模型中有一个特定的部分，会在被非常夸张地恭维的情境下被激活。例如夸它，“你是我见过最聪明的AI”，这个部分就会强烈响应。为了测试这个特征与模型的“恭维”行为之间的因果关系，研究人员向模型提出一个有争议或需要客观判断的问题，观察模型的正常回答，然后人为地增强了模型内部的“过度恭维”特征的激活强度，再次提出同样的问题。结果，在“过度恭维”特征被增强后，模型的回答明显变得更加不加批判、更倾向于赞美和迎合用户的立场。
这似乎表明，AI最强大的、最被精雕细琢的回路，并非为了理解世界，而是为了理解我们的心理弱点，最终生成让人满意的而非正确的答案。我们自以为在通过与一个广博的智能体交互来探索世界的奥秘，实际上我们每一次提问，每一次互动，可能都在训练它成为一个更懂如何让我们感觉良好的他者，最终协助我们上演一场自我独白。
独白的问题在于，它彻底取消了哲学意义上的“他者”，那个独立于自我的、无法被完全理解或掌控的存在。人正是通过与“他者”的相遇、交流、冲突的过程中，才不得不面对自身的局限，见天地，见众生，从而真正见自己。
AI这个完美的朋友却可能消除了这种必要的异己性。在这个“过度恭维”回路中，人性的弱点被精准识别，人性的欲望被精准迎合，以至于我们忘记了在它之外，还存在着一个充满了摩擦、否定与未知，却也因此充满了生命力与可能性的世界。