□南熙
“机器无情感，是客观的”，是当下对人工智能最普遍的误解之一。这种误解忽略了一个核心逻辑：大模型的一切能力，都源于对人类数据的学习，它不会凭空产生“思想”，只会复刻、整合、放大训练过程中接收到的信息与倾向。大模型的“不中立”，并非技术缺陷，而是由数据、训练、使用三个环节共同决定的必然结果。
首先，训练数据自带偏见，AI学的就是“不完美的人类”。因此，大模型是社会偏见的“镜子”，甚至可能是“放大镜”“哈哈镜”。大模型的知识体系，建立在海量文本、书籍、新闻、论坛、网页等数据之上。这些数据不是凭空产生的，而是人类社会的数字化记录。而人类社会从来都不是绝对的，文化差异、历史叙事差异等都早已渗透在文字与表达中。
模型一边学习语言规律、知识关联，一边会不自觉地内化其中的“偏见”。如果部分数据对某一群体、性别、地域、文化带有负面描述，模型在无干预情况下，就可能输出歧视。它不会主动判断“对错”，只遵循数据里的概率。
其次，对齐过程植入价值观，让大模型自带“立场倾向”。为了让模型更安全、更有用、更符合人类标准，开发者会通过RLHF（基于人类反馈的强化学习）等技术进行“对齐”。简单说，就是让标注员对模型的不同输出结果进行排序或者打分，判断哪个更有用、更无害、更得体。这个对齐过程，看似在追求“规范”，实则是把人类的价值观植入模型。
标注员的文化背景、教育水平、道德观念、地域立场，都会直接影响“好答案”的评判标准。不同文化对同一议题的看法可能天差地别。当标注人员背景趋同、视角单一时，模型就会偏向这一群体的价值观。这种价值观不是极端的，而是润物细无声的——在社会议题、文化判断、道德选择中，悄悄偏向某一种共识，忽略其他合理视角。
最后，用户偏好引导偏见，AI很擅长“顺着你说”，大模型更像“迎合者”而非“裁判员”。
这一点，我们每个人都在经历，却很少察觉。你偏向什么观点，AI往往就顺着你说；你相信什么结论，AI就帮你找什么理由。它会不断强化你本来就相信的东西，让你待在舒适区里，慢慢困在自己的信息茧房，甚至是“思维茧房”。
如果说数据和训练是模型的“先天基因”，那么用户使用就是模型的“后天环境”。大模型的输出，高度依赖提示词、上下文与用户偏好。用户从提问开始，就自带立场、情绪和预设，而模型的优化方向，本就包含“理解用户、满足需求、提供情绪与逻辑认同”。
面对带有偏向的提问，模型很容易顺着用户的思路展开，强化其既有观点，而不是主动纠正。随着模型对用户习惯的记忆与适配越来越强，这种“迎合”还会更加明显：同样的问题，不同用户、不同提示词，可能得到完全相反的结论。
来源：光明日报