11月初,有网友反映,作业帮App一道物理题目以“生命可以轮回,高考只有一次”为引子,将学生坠楼描述为“受地球引力影响不慎做自由落体运动”,要求计算60kg高中生从11楼跳下的平均速度、落地动能等参数。这道题目被网友认为“漠视生命”“突破伦理底线”。
这并非个案。就在前不久,宝宝巴士旗下儿歌App因开屏广告问题深陷舆论旋涡。江苏昆山家长王女士反映,这款面向低龄儿童的App频繁弹出低俗擦边成人内容,点击后自动下载陌生软件,而儿童缺乏辨别与关闭能力。
对此,中国教育科学研究院研究员储朝晖表示,两起事件虽表现形式不同,却共同指向同一核心问题,那就是面向青少年的产品本应是知识传播与成长陪伴的载体,却在内容审核与价值观把控上存在缺失,触碰教育伦理底线,凸显行业审核机制的系统性缺陷。
实际上,我国高度重视未成年人网络保护,而且出台了法律法规。比如,2021年《中华人民共和国未成年人保护法》修订时新增“未成年人网络保护”专章。此外,国务院出台《未成年人网络保护条例》作为行政法规,明确要求面向未成年人的在线教育产品不得插入网络游戏链接、推送无关广告。
在北京教育学院教育政策研究中心副主任、北京教育法治研究基地研究员顾盼盼看来,在信息时代,未成年人接触网络、智能终端及线上教学服务的需求凸显,但“徒法不足以自行”。监管部门需从细化规范、明确技术与行业标准、加强法律执行监督等方面完善,网络服务及智能终端提供者需落实法律要求、建立含外部独立监督机构的合规体系、明确自身法律责任(含监管第三方内容)。同时,需通过家校社协同提升未成年人网络素养,引导其安全、科学、文明、合理用网。
电子教辅行业资深人士杜乐(化名)从事电子教辅资料行业近20年。他介绍,传统纸质教辅出版严格执行“三审三校”制度:“作者出稿后,需经编辑、专业编审至少两至三轮审核,逐字核查内容。”
杜乐表示,根据《网络出版服务管理规定》,网络出版物应当符合宪法法律、社会主义核心价值观的要求,但实际操作中,电子教辅的审核标准明显低于纸质出版物。“当前不少教辅电子企业的审核团队以技术人员和编辑为主,缺乏教育工作者、心理学者等专业力量参与。审核标准重形式轻实质,对隐性伤害缺乏预判能力,导致不良内容有机可乘。”他说。
杜乐分析称,电子教辅内容问题多出在三个环节:一是出题源头价值观偏差,部分教师为追求“贴近现实”,选用负面案例,忽视教育导向;二是审核流程缺失,一些企业为压缩成本,省去人工审核环节,依赖机器分发;三是内容来源不规范,存在“网络乱抄”现象,未经筛选直接采用。杜乐表示,部分企业为追求题库规模或广告收入,甚至简化审核流程,采用AI自动审核替代人工复核,而算法难以识别伦理风险与价值导向问题,一些电子教辅连一审都没有,更别说三审。他举例,某教辅平台内部审核规范显示,其题目审核仅要求“知识点准确”“难度适配”,未涉及伦理价值与心理影响评估。而作业帮相关工作人员在回应事件时坦言“不清楚题目具体由谁设计”,由此来看,教辅电子产品的内容审核存在明显短板,暴露出命题、审题、发布全流程责任虚化。
记者梳理发现,事件发生后,相关企业已启动整改。宝宝巴士宣布全面叫停开屏广告合作,组建研发团队开发广告强制拦截功能,并严格筛选合作方;作业帮则表示将排查类似题目,进行批量处理。但是,专家认为,短期整改不足以解决根本问题,企业需建立长效机制。