□ 相志康 王光森
习近平总书记指出，没有网络安全就没有国家安全。在网络安全被纳入国家安全体系的情况下，网络犯罪治理已成为维护网络安全和国家安全的重要议题。然而，当前以大语言模型为代表的生成式人工智能正在经历前所未有的技术跃升，这一技术浪潮在为经济社会发展注入强劲动力的同时，AI驱动网络犯罪也成为正在发生的一个系统性挑战。
AI驱动网络犯罪，即利用生成式人工智能技术实施或辅助实施的网络犯罪行为。根据AI在犯罪中扮演的角色，可进一步分为四个层次：AI作为攻击工具，即犯罪分子利用AI生成钓鱼邮件、恶意代码等攻击素材；AI作为攻击主体，即AI系统在无人工干预下自主发现漏洞并构建攻击链；AI作为攻击目标，即攻击者以AI系统本身为攻击对象，通过提示注入、模型窃取等手段实施犯罪；AI作为攻击放大器，即利用AI实现攻击的批量化和自动化，显著提升攻击规模与效率。
AI驱动网络犯罪兼具技术安全与公共安全双重属性，体现了总体国家安全观中“传统安全与非传统安全”的交叉融合。治理AI驱动网络犯罪，需统筹发展与安全，构建与之相匹配的防控体系，维护网络安全乃至国家安全。
立法完善：构建法律法规体系
适时修订相关法律法规，填补AI网络犯罪的规制空白。建议在网络安全法修订中增设AI安全专项条款，明确AI系统开发者、提供者、使用者在网络安全方面的义务和责任。在刑法层面，可考虑增设与AI滥用相关的罪名，将利用AI技术实施网络攻击的行为纳入刑事规制范围。
重点解决AI犯罪主体认定难题。针对AI自主攻击行为中犯罪主体认定面临的困境，建议明确以下规则：AI工具使用者对AI自主行为的预见性责任，即使用者应当预见其部署的AI工具可能被用于或自主实施网络攻击，未尽合理注意义务的应承担相应责任；AI服务提供者的安全保障义务，参照《生成式人工智能服务管理暂行办法》中的安全评估要求，将其延伸至刑事规制领域，要求提供者对AI工具的攻击能力进行事前评估并采取防范措施。
完善AI生成内容的标识与溯源制度。针对AI深度伪造在诈骗犯罪中的滥用，推动建立AI生成内容的强制标识制度，要求AI服务提供者对其系统生成的文本、图像、音频、视频内容进行不可篡改的水印标识。同时，建立AI生成内容的溯源机制，为公安机关侦查AI辅助犯罪提供技术支撑和法律依据。强化跨境网络犯罪司法协作。针对AI驱动网络犯罪日益突出的跨境特征，积极推动双边和多边网络犯罪司法协作条约的签订和完善，建立AI网络犯罪案件的快速协查、电子证据互认、犯罪嫌疑人引渡等协作机制。
技术反制：建构防御能力体系
推动公安机关AI安全检测能力建设。将AI安全技术纳入公安机关网络安全装备体系。建议优先建设三类核心能力：AI攻击特征识别能力，用于检测AI生成的攻击代码和攻击行为；AI生成内容鉴别能力，用于识别深度伪造视频、语音和文本；AI攻击溯源能力，用于追踪AI驱动攻击的来源和路径。近期在省级网安部门部署首批AI安全检测工具，中期建成覆盖省市两级的AI安全检测网络。
构建AI攻击特征库与异常行为检测模型。依托国家级网络安全科研机构，汇集AI攻击的典型特征和行为模式，构建AI攻击特征库。基于机器学习技术，开发针对AI驱动攻击的异常行为检测模型，实现对未知AI攻击的自动化识别。
探索“以AI制AI”的攻防对抗技术路线。支持公安机关与科研机构合作，研发AI驱动的自动化防御系统，实现对AI攻击的实时感知、自动分析和快速响应。通过AI对抗AI的方式，弥补人类防御者在速度上的先天劣势。
建设AI攻防演练靶场。依托公安院校和科研机构的现有设施，建设面向实战的AI攻防演练靶场，定期组织各级公安机关开展AI驱动网络犯罪的攻防对抗演练，检验和提升一线实战单位的应对能力。
情报共享：建设多主体协同威胁情报网络
建立AI威胁情报实时共享机制。在现有网络安全态势感知平台基础上，建立面向AI驱动网络犯罪的专项威胁情报共享机制。打通公安、网信、工信等部门之间的信息壁垒，实现AI攻击特征、攻击样本、溯源线索等关键情报的实时传递和联合研判。
推动企业安全事件报告制度完善。在网络安全法框架下，进一步细化企业在AI安全事件方面的报告义务。对于涉及AI驱动攻击的安全事件，建议设定24小时报告时限，要求企业在发现AI攻击特征后及时报告，为公安机关掌握犯罪态势和开展侦查打击提供信息支撑。同时，参照《网络安全审查办法》对关键信息基础设施供应链安全的审查要求，将AI组件纳入网络安全审查范围。
发挥安全厂商和科研机构的技术支撑作用。建立公安机关与网络安全企业、科研机构的常态化合作机制，引导社会技术力量参与AI网络犯罪的治理。通过购买服务、联合研发、数据共享等方式，将企业在AI安全领域的技术积累转化为公安机关的实战能力。
构建区域联防联控机制。发挥长三角一体化等区域合作机制的优势，推动建立跨省市的AI网络犯罪联防联控机制，实现威胁预警、案件协查、技术支援的区域协同，提升对跨区域AI网络犯罪的整体防控能力。
人才培养：打造网络安全人才队伍
将AI安全纳入公安院校人才培养体系。在公安院校网络安全与执法、刑事科学技术等相关专业中增设AI安全课程模块，涵盖AI攻击技术原理、AI驱动犯罪侦查取证、AI安全防护技术等核心内容，培养具备AI安全素养的新型公安人才。
加强基层民警AI网络犯罪识别与处置能力培训。针对基层公安机关面对AI网络犯罪“看不懂、防不住、查不透”的突出问题，组织编写AI网络犯罪识别与处置指南，定期开展专项培训，提升一线民警对AI驱动网络犯罪的识别能力和处置水平。
推动公安院校与科研院所联合培养。支持公安院校与清华大学、中国科学院等在AI安全领域具有优势的高校和科研机构建立联合培养机制，通过联合课程、实习实训、课题合作等方式，培养既懂公安业务又掌握AI安全技术的高层次复合型人才。
建立AI安全专家库。在各级公安机关建立AI安全专家库，会集网络安全企业、科研机构、高等院校的AI安全专家，为AI网络犯罪案件的侦查取证、技术分析、法律适用提供专业支撑和咨询意见。
[作者相志康为江苏警官学院数智技术学院讲师、博士，王光森为苏州国家安全教育研究院特约研究员。本文为国家社科基金一般项目“习近平总书记关于对党忠诚的重要论述研究”（21BDJ003）的阶段性成果。]