构建人工智能赋能高校教育的安全保障体系

我国人工智能赋能高校教育事业自2017年《新一代人工智能发展规划》（下文简称《规划》）发布起就已如火如荼地展开，《规划》首次明确提出“人工智能教育”的概念，进一步确定了人工智能教育在建设智能社会中的地位。如今，人工智能正以不可阻挡之势，重塑着高等教育的形态，为人才培养、科学研究、管理决策注入了前所未有的动能。但是，在国家安全成为关键词的今天，人工智能赋能高校教育的过程中同样存在着安全隐患。本文通过对人工智能赋能高校教育在宏观结构、数据安全等方面存在的风险进行分析，围绕“如何构建安全保障体系”这一核心问题，深入探讨如何在人工智能赋能高校教育的同时保障高校教育体系的全方位安全。

风险之辨：人工智能赋能高等教育的三重安全隐忧

在宏观结构层面，当前高校教育中人工智能应用呈现“碎片化”特征。各学院往往根据自身条件与偏好，独立引入或开发智能教学工具，导致系统间数据标准不一、接口封闭，形成一个个“智能孤岛”。这种分散布局不仅限制了人工智能的整体效能发挥，更增加了安全管理的复杂度。一旦某个系统出现漏洞或遭受攻击，可能因缺乏统一的防护体系而迅速蔓延。

在数据安全层面，高等教育涉及大量敏感信息：医学学科中未公开的当事人信息、化学学科中未公开的实验数据、法学学科中未公开的裁判文书等。目前，这些数据的采集、标注、存储和使用缺乏统一规范。更令人担忧的是，人工智能训练数据可能隐含着历史样本中的偏见，如对特定群体、地域或案件类型的倾向性判断。若不加甄别地将这些数据用于训练AI，可能导致算法固化甚至放大既有偏见，与高等教育追求的公平正义理念背道而驰。

在意识形态层面，生成式AI（如大语言模型）能够大量生产文本、音视频等内容，若被不当用于课程材料生成、学术写作辅助或校园信息传播，可能隐含错误知识、偏见观点，甚至有意无意地传播与社会主义核心价值观不符的内容。个性化推荐算法可能基于用户画像构建“信息茧房”，长期影响学生的知识结构和认知方式。如果底层模型主要基于境外数据训练，其隐含的文化预设、价值判断可能潜移默化地影响学生的文化认同和国家观念。

构建之道：人工智能赋能高校教育安全保障体系的四个维度

伦理先行，确立人工智能赋能高校教育的价值基石

高校教育的特殊性在于其不仅传授知识，更承载着培育人文精神、塑造学生价值观的使命。而人工智能在回答用户问题时，基于其被训练的数据以及设置的算法，会作出具有价值引导性回答。人工智能的价值倾向可能会发生在高等教育的学科教育、知识体系以及人才培养的场合。人工智能价值倾向中所表现出的消极部分，例如偏见、迎合使用者以及虚假陈述等，必须被高等教育所警惕。因此，人工智能赋能高校教育必须确立“伦理先行”原则。高校应组建由学科专家、教育学家、伦理学家和技术专家共同参与的伦理委员会，进一步健全人工智能赋能高校教育应用的伦理规范，明确“以人为本、公平公正、透明可信、权责明晰”的核心原则。

标准引领，建立高等教育数据的全流程规范

确保人工智能赋能高等教育过程中的数据安全，当务之急是建立高等教育数据的分类分级标准。可将数据划分为公开数据（如已公开裁判文书）、内部数据（如教学案例库）和敏感数据（如涉密研究材料、个人隐私信息）三个等级，实施差异化管理。对于训练数据的来源与质量，应建立严格的审核机制，确保数据代表性、平衡性和时效性。同时，推动开发适用于高等教育的隐私计算技术。

架构重塑，打造“集中—分布”相结合的智能系统

在人工智能赋能高等教育的过程中可以构建“校级智能教育中枢+院系特色应用”的混合架构。主要是指，校级中枢负责制定统一的技术标准、安全协议和接口规范，建设基础算力平台和共性数据资源池；各学院在此基础上，根据自身特色开发智能应用。这种架构既避免了重复建设，又保留了专业灵活性，更重要的是便于实施统一的安全防护。所有接入系统的AI应用必须通过安全认证，关键系统应采用国产可控技术，核心算法应保留可审计的“决策日志”。

协同治理，构建多元参与的安全生态圈

人工智能赋能高等教育的安全保障不能仅靠高校单打独斗。教育主管部门应牵头制定人工智能教育应用的安全基线标准；专业教学指导委员会可组织编写智能教育安全实践指南；高校与合规科技企业可建立“产学研用”协同机制，共同开发安全解决方案。此外，应注重人工智能赋能高等教育安全的国际化视角。如果AI系统或云服务涉及境外供应商，可能造成重要教育数据乃至敏感信息出境，危及国家数据主权与安全。在加强国际交流、吸收借鉴其他国家在智能教育安全领域经验的同时，注意防范数据跨境流动中的国家安全风险。

展望：迈向安全可信的智慧教育新时代

筑牢安全根基，方能畅享智能红利。如何保障人工智能赋能高等教育过程中的安全，不仅是技术课题，更是关乎高等教育本质的价值选择；不仅是应对当下挑战的必需之举，更是面向未来教育的远见之策。在人工智能与高等教育深度融合的浪潮中，只有将安全保障内嵌于发展进程的每一个环节，才能确保这场变革行稳致远。

陈晓东（作者系南京工业大学讲师、法学博士，主要从事刑法基础理论、人工智能与刑法交叉理论研究）