随着生成式人工智能加速普及,换脸诈骗、拟声诈骗等新型网络安全风险悄然渗透进现实生活。这些风险呈现出哪些新表现?又该如何有效治理和应对?9月20日下午,来自高校、科研院所的专家学者围绕相关话题展开深入交流。
电子科技大学教授田玲指出,认知影响活动正随着大语言模型、AIGC、智能体等技术的发展不断演化,呈现出更强的智能化、链条化和场景化特征,深刻改变认知内容生产、传播扩散和影响干预的方式。面对认知风险加速演变的现实需求,提升认知安全态势感知、风险研判与策略生成能力,已成为治理的重要方向。
中国科学院自动化研究所研究员李兵说,针对互联网大流量视频流数据处理难题,他和团队聚焦高通量、低功耗、实用化视频内容理解与安全的理论与技术研究;针对海量视频解码成本高昂的问题,提出面向压缩域的小样本特定视频识别方法,有效降低计算开销;针对生成式伪造视频引发的新型安全风险,提出基于一致性分析的伪造图像与视频识别方法,提升虚假内容甄别精度。
与会专家认为,治理此类风险,既需要检测识别、内容标识、溯源取证等技术手段的持续突破,也需要平台、企业、高校、科研院所和监管部门协同发力,形成覆盖内容生产、传播、干预全链条的治理体系。
新安晚报安徽网大皖新闻记者项磊孙召军魏鑫鑫摄影报道