习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议上提出时代之问,“当机器开始思考,人类如何与之相处”,并强调“人工智能应当成为人类的可信工具,要高度重视人工智能引发的各类内生和衍生风险”“确保人工智能始终处于人类控制之下”。这一重要论述,从根本上明确了人工智能服务于人、由人主导的定位。当前,生成式人工智能加速融入经济社会运行和人的日常生活,不断拓展人的认知边界与实践空间,显示出强劲的协同作用。然而,随着功能边界的不断拓展、介入程度的持续加深,人类对其过度依赖的风险日益显现。如何在用好生成式人工智能的同时,保持人的自主思辨和发展能力,是智能时代必须回答的重要课题。
生成式人工智能依赖是指人在持续使用过程中逐渐将思考判断、情感寄托和行动实施等环节交由智能系统承担,甚至将其视为活动顺利展开的重要条件。这种依赖并非一朝一夕形成,从便利选择到使用习惯,再到稳定依靠,生成式人工智能不断改变人的活动次序、强化既有使用路径,并在持续代偿中加深人的依赖。它借助语言交互,在人尚未充分展开思考之前,便送来相对完整的问题拆解、信息整合与行动方案,把自主完成所需的时间与精力成本大幅压低;当自主完成与智能调用之间形成持续的效率落差,“先问机器、再做处理”便逐渐取代“自行思考、遇困求助”,调用由过程中的辅助环节前移为活动启动的入口。就代偿而言,人工智能承担的环节越多,人类深入思考、真实交往、动手实践的机会越少,相应能力越难得到锻炼,而能力转弱又反过来加深对外部支撑的需求,使用惯性遂固化为稳定依赖。
依赖风险的具体表现。一是认知“外包”。生成式人工智能凭借高效、便捷、贴合需求等特点,让使用者思考解决问题逻辑由“先想后用”转为“先用后想”,问题思考让位于对生成文本的理解、筛选与修整;二是情感“代偿”。生成式人工智能依据使用者的语言内容、情绪状态和互动偏好等持续调整回应方式,凭借拟人化表达、即时性响应与个性化适配,营造出高度的理解感、亲近感和陪伴感,致使主体对现实交往的投入相对减少,影响现实情感联结的持续深化;三是行动“托管”。步骤完整的方案替代了人在具体情境中的判断、试错与调整,人后退为既定路径的执行者,实践能力在依赖中逐步退化。当生成式人工智能超出外围辅助工具属性,逐渐成为深度介入主体活动过程的结构性力量,风险也就随之显现。实践中,既要充分发挥生成式人工智能的赋能增效作用,也要防止其过度替代人的必要活动,在积极应用与自主发展之间把握合理限度,推动形成健康、理性、有度的人机关系。
强化人工智能素养,提升理性使用能力。人工智能素养不止于工具操作与技能掌握,更在于对其功能边界、内在局限与社会影响的清醒认知,以及在具体情境中自主判断、合理选择和适度使用的能力。要把生成式人工智能素养教育贯穿国民教育、职业培训和社会教育全过程,引导人们既“会用”也“善用”,增强对生成内容的辨析、核验与溯源,强化风险识别、伦理责任和自我调节意识。要引导使用者正确认识人与人工智能的关系,既不因风险而拒绝智能应用,也不因便利而放弃自主判断,不断提升认识,涵养驾驭人工智能的综合能力,让使用者能够主动把握何时使用、如何使用以及使用到何种程度,真正掌握人机关系的主动权。
厘清人机协同边界,规范人工智能应用。人机协同不是无差别地交给机器,而应依活动性质、风险程度与责任要求,合理确定人工智能参与的范围、程度与方式。完善分领域、分场景的应用规范,对重复性、程序性、辅助性事务,应充分释放其效率优势,把人从琐细劳作中解放出来;对涉及价值判断、责任承担、创造性活动和能力成长的关键环节,必须保证人的实质在场与最终把关,严防其由辅助执行越位为替代判断、由提升效率演变为功能代偿。推动平台优化产品设计和交互机制,防止单纯以用户黏性、交互频率和使用时长来“强化”依赖。进一步健全教育、科研、生产、公共服务等领域的人机协同规则,科学划分人机职责,形成以人为主导、优势互补、权责清晰的协同格局,在发挥人工智能优势的同时,保持人在重要判断、关键选择和责任承担中的主导地位。例如,在教育科研中,守住独立思考与原创诚信的底线;在生产服务中,守牢安全操作与人工兜底的底线。
健全社会支持网络,强化自主思辨能力培养。生成式人工智能依赖,表面是技术使用问题,深层却与现实社会关系的支持程度密切相关。当面对面交往稀薄、集体生活缺位、情感支持不足,“低摩擦”的人机陪伴便会乘虚而入,被错当作真实关系的替身。人的情感归属、价值确认与能力生长,归根到底要在人与人的真实联结和改造世界的实践中获得。这就要求进一步激活家庭、学校、单位、社区等社会关系网络的联结功能,拓展面对面交往、集体参与和社会实践的现实空间,使人们在真实互动中获得理解与支持,在共同活动中形成责任意识,在破解现实问题中锻炼自主判断和行动能力。现实生活的支持越充分,个体越能从真实关系和实践活动中获得稳定支撑,越不容易把生成式人工智能转化为替代现实关系和自主活动的依赖对象,从而有效防范生成式人工智能依赖风险。